news 2026/8/14 13:53:24

AI大模型与数学 第30课 微分与微分近似:微分运算、数值近似计算(10道工程应用型计算题)

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
AI大模型与数学 第30课 微分与微分近似:微分运算、数值近似计算(10道工程应用型计算题)

课程前言

导数描述变化率,微分用来做微小增量数值估算,是大模型工程实现的核心数学工具。

  1. 微分定义:dy = f’(x)\Delta x,代表自变量微小变动\Delta x带来函数近似变化量;
  2. 微分近似公式:f(x_0+\Delta x)\approx f(x_0)+f’(x_0)\Delta x;
  3. AI落地对应:
  • 梯度下降单次参数更新:\Delta w = -\eta \cdot \frac{dL}{dw},本质就是微分增量;
  • 浮点数值近似、损失函数局部拟合、低精度模型量化、激活函数近似求值全部依赖微分近似。

一、核心知识点(AI场景通俗解读)

  1. 微分dy:线性近似增量,对应模型单次迭代权重更新幅度;
  2. 微分近似:用切线小段代替曲线,对应局部线性拟合损失曲面;
  3. 适用条件:\Delta x足够小,对应训练学习率\eta不能过大,否则近似失效、训练震荡发散。

二、10道工程应用型计算题(完整步骤+AI场景解读)

题1

求函数 y=x^3 的微分 dy
解:y’=3x^2,微分公式 dy = y’\cdot dx
dy=3x^2 dx
AI解读:三次损失函数权重微分,dx 为权重单次微调量,dy 是损失变化量,梯度下降基础更新公式。

题2

y=2x^2-5x,当x=2,dx=0.01,求微分dy
解:y’=4x-5,代入x=2得y’=3
dy=3\times 0.01=0.03
AI解读:学习率0.01微调权重,近似算出损失下降幅度,用来预判单步训练效果。

题3

y=e^{3x},写出微分表达式dy
解:y’=3e{3x},dy=3e{3x}dx
AI解读:指数激活函数微分,微小输入扰动带来输出变化,用于模型鲁棒性测试计算。

题4

利用微分近似计算 \sqrt{4.04}
解:设f(x)=\sqrt{x},\ f’(x)=\dfrac{1}{2\sqrt{x}}
取x_0=4,\Delta x=0.04
f(4)=2,\ f’(4)=\dfrac{1}{4}
f(4.04)\approx 2+\dfrac{1}{4}\times0.04=2.01
AI解读:开方归一化数值近似,大模型标准化特征快速浮点估算,减少算力开销。

题5

y=\sin(2x),求微分dy
解:y’=2\cos2x,dy=2\cos2x \cdot dx
AI解读:RoPE旋转位置编码微分,微小角度扰动带来特征向量偏移量计算。

题6

微分近似计算 e^{0.02}
解:f(x)=e^x,\ x_0=0,\Delta x=0.02
f(0)=1,\ f’(0)=1
f(0.02)\approx1+1\times0.02=1.02
AI解读:Sigmoid、Exp激活低输入近似求值,低精度量化模型简化计算。

题7

y=x\cdot e^x,写出微分完整表达式
解:y’=ex+xex
dy=(x+1)e^x dx
AI解读:权重与激活相乘层微分,前向传播微小权重扰动的输出变化估算。

题8

f(x)=x^4,x=1,\Delta x=-0.005,近似求f(0.995)
解:f’(x)=4x^3,\ f’(1)=4,\ f(1)=1
f(0.995)\approx 1 + 4\times(-0.005)=0.98
AI解读:权重小幅下调,近似估算损失变化,判断参数更新方向是否有效。

题9

y=\dfrac{1}{1+x},求微分dy
解:y’=-\dfrac{1}{(1+x)^2}
dy=-\dfrac{1}{(1+x)^2}dx
AI解读:Sigmoid分母项微分,分类任务概率输出微小波动计算。

题10 综合工程压轴

f(x)=3x2+ex,x=1,dx=0.02,先求微分dy,再近似计算f(1.02)
解:
y’=6x+e^x,x=1时,y’=6+e\approx8.7183
dy=8.7183\times0.02=0.174366
f(1)=3+e\approx5.7183
f(1.02)\approx5.7183+0.174366=5.892666
AI解读:大模型复合损失函数工程估算,同时包含二次正则项与指数激活,单步迭代损失增量快速预估,训练调参高频计算场景。

三、课程核心总结(衔接第31课一元函数极值判定)

  1. 微分本质是局部线性近似,对应梯度下降单次微小参数更新;
  2. 微分近似仅在\Delta x极小时精准,对应学习率不能设置过大,否则近似失效、训练震荡;
  3. 微分是导数的工程落地形式,所有数值计算、量化加速、参数更新公式全部依托微分推导;
  4. 下一章节将结合一阶、二阶导数微分,判断函数驻点、极大极小值,对应损失函数最优参数求解。

微分近似做数值估算时,你觉得学习率(\Delta x)多大范围才能保证近似精度?在大模型量化场景里微分近似有哪些实用价值?欢迎评论区交流!

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/14 13:50:55

ai-news-2026-08-12

AI 每日动态|2026-08-12(周三)聚焦 AI coding 与具身智能。 筛选口径:“当天新增或当天显著发酵”;每条标注 ①事件内容、②值得关注的原因,并附来源。 主线特征:今日同时撞上"国内 Coding…

作者头像 李华
网站建设 2026/8/14 13:49:29

黑苹果安装教程新手自救指南:从看懂术语到跑通 OpenCore 配置

黑苹果安装教程新手自救指南:从看懂术语到跑通 OpenCore 配置 【免费下载链接】Hackintosh 国光的黑苹果安装教程:手把手教你配置 OpenCore 项目地址: https://gitcode.com/gh_mirrors/hac/Hackintosh 第一次听到"黑苹果"三个字&#x…

作者头像 李华
网站建设 2026/8/14 13:49:27

免模拟器运行安卓应用:我在Windows上装APK的全过程手记

免模拟器运行安卓应用:我在Windows上装APK的全过程手记 【免费下载链接】APK-Installer An Android Application Installer for Windows 项目地址: https://gitcode.com/GitHub_Trending/ap/APK-Installer 想不想在电脑上免模拟器运行安卓应用?这…

作者头像 李华
网站建设 2026/8/14 13:49:17

看不懂 Linux 日志?rsyslog+journalctl 从 0 到 1 精讲,排错效率直接翻倍

前言 ⚠️有没有很多 Linux 新手和我一样? 启动服务报错、SSH 登录失败、定时任务没执行,打开终端两眼一抹黑,完全不知道去哪里找报错信息! 服务器不会说谎,所有程序崩溃、登录异常、内核报错都会完整记录在系统日志里…

作者头像 李华
网站建设 2026/8/14 13:47:16

同时用 Claude Code、Codex 和 Gemini CLI?一个本地网关就能统一管理

2026年了,AI 让普通人也能实现自己的需求。Claude Code 年化收入超过 25 亿美元,Codex 周活用户突破 300 万,Gemini CLI、Qwen Code、Kimi CLI 等工具密集涌现。越来越多的工程师不再只用一个 AI 编程助手,而是同时运行两到四个 c…

作者头像 李华