课程前言
导数描述变化率,微分用来做微小增量数值估算,是大模型工程实现的核心数学工具。
- 微分定义:dy = f’(x)\Delta x,代表自变量微小变动\Delta x带来函数近似变化量;
- 微分近似公式:f(x_0+\Delta x)\approx f(x_0)+f’(x_0)\Delta x;
- AI落地对应:
- 梯度下降单次参数更新:\Delta w = -\eta \cdot \frac{dL}{dw},本质就是微分增量;
- 浮点数值近似、损失函数局部拟合、低精度模型量化、激活函数近似求值全部依赖微分近似。
一、核心知识点(AI场景通俗解读)
- 微分dy:线性近似增量,对应模型单次迭代权重更新幅度;
- 微分近似:用切线小段代替曲线,对应局部线性拟合损失曲面;
- 适用条件:\Delta x足够小,对应训练学习率\eta不能过大,否则近似失效、训练震荡发散。
二、10道工程应用型计算题(完整步骤+AI场景解读)
题1
求函数 y=x^3 的微分 dy
解:y’=3x^2,微分公式 dy = y’\cdot dx
dy=3x^2 dx
AI解读:三次损失函数权重微分,dx 为权重单次微调量,dy 是损失变化量,梯度下降基础更新公式。
题2
y=2x^2-5x,当x=2,dx=0.01,求微分dy
解:y’=4x-5,代入x=2得y’=3
dy=3\times 0.01=0.03
AI解读:学习率0.01微调权重,近似算出损失下降幅度,用来预判单步训练效果。
题3
y=e^{3x},写出微分表达式dy
解:y’=3e{3x},dy=3e{3x}dx
AI解读:指数激活函数微分,微小输入扰动带来输出变化,用于模型鲁棒性测试计算。
题4
利用微分近似计算 \sqrt{4.04}
解:设f(x)=\sqrt{x},\ f’(x)=\dfrac{1}{2\sqrt{x}}
取x_0=4,\Delta x=0.04
f(4)=2,\ f’(4)=\dfrac{1}{4}
f(4.04)\approx 2+\dfrac{1}{4}\times0.04=2.01
AI解读:开方归一化数值近似,大模型标准化特征快速浮点估算,减少算力开销。
题5
y=\sin(2x),求微分dy
解:y’=2\cos2x,dy=2\cos2x \cdot dx
AI解读:RoPE旋转位置编码微分,微小角度扰动带来特征向量偏移量计算。
题6
微分近似计算 e^{0.02}
解:f(x)=e^x,\ x_0=0,\Delta x=0.02
f(0)=1,\ f’(0)=1
f(0.02)\approx1+1\times0.02=1.02
AI解读:Sigmoid、Exp激活低输入近似求值,低精度量化模型简化计算。
题7
y=x\cdot e^x,写出微分完整表达式
解:y’=ex+xex
dy=(x+1)e^x dx
AI解读:权重与激活相乘层微分,前向传播微小权重扰动的输出变化估算。
题8
f(x)=x^4,x=1,\Delta x=-0.005,近似求f(0.995)
解:f’(x)=4x^3,\ f’(1)=4,\ f(1)=1
f(0.995)\approx 1 + 4\times(-0.005)=0.98
AI解读:权重小幅下调,近似估算损失变化,判断参数更新方向是否有效。
题9
y=\dfrac{1}{1+x},求微分dy
解:y’=-\dfrac{1}{(1+x)^2}
dy=-\dfrac{1}{(1+x)^2}dx
AI解读:Sigmoid分母项微分,分类任务概率输出微小波动计算。
题10 综合工程压轴
f(x)=3x2+ex,x=1,dx=0.02,先求微分dy,再近似计算f(1.02)
解:
y’=6x+e^x,x=1时,y’=6+e\approx8.7183
dy=8.7183\times0.02=0.174366
f(1)=3+e\approx5.7183
f(1.02)\approx5.7183+0.174366=5.892666
AI解读:大模型复合损失函数工程估算,同时包含二次正则项与指数激活,单步迭代损失增量快速预估,训练调参高频计算场景。
三、课程核心总结(衔接第31课一元函数极值判定)
- 微分本质是局部线性近似,对应梯度下降单次微小参数更新;
- 微分近似仅在\Delta x极小时精准,对应学习率不能设置过大,否则近似失效、训练震荡;
- 微分是导数的工程落地形式,所有数值计算、量化加速、参数更新公式全部依托微分推导;
- 下一章节将结合一阶、二阶导数微分,判断函数驻点、极大极小值,对应损失函数最优参数求解。
微分近似做数值估算时,你觉得学习率(\Delta x)多大范围才能保证近似精度?在大模型量化场景里微分近似有哪些实用价值?欢迎评论区交流!