简介：面向PyTorch初学者的入门练习资料，围绕一个简单线性模型 y=x*w 演示如何手工绘制损失（Loss）曲线。资源以PDF文档形式提供，共1个文件，压缩包大小约60KB，内容紧凑，便于移动端阅读或打印。文档完整记录了实现步骤：导入numpy和matplotlib.pyplot库、构造x_data与y_data数据、定义forward前向传播函数、定义MSE损失函数，并使用for循环在w=0.0至4.1范围内逐点计算均方误差，将权重w与MSE存入列表后用plt.plot绘制曲线。这一过程直观展示了权重w从0到4变化时模型误差的变化趋势，能帮助理解梯度下降、参数寻优和损失监控的基本概念。该练习与b站课程视频（BV1Y7411d7Ys第2讲）配套，适合对照学习，目前已有16273人学习下载。通过亲手实现并绘制Loss曲线，读者可建立训练过程可视化的直观认识，为后续使用TensorBoard等专业工具打下基础。
1. 一份把 Loss 曲线画出来的 Pytorch 练习：先看懂损失，再谈训练
训练跑完，终端只给一行 “loss: 0.0231” 时，你对模型到底经历了什么其实一无所知。这个 Pytorch 练习干的事很直接：用 3 个数据点、1 个权重 w，把 MSE 损失函数当作 w 的函数整条画出来。它来自《PyTorch 深度学习实践》b 站课程的第二讲，是梯度下降可视化最关键的视觉起点——你没见过损失曲面长什么样，就很难理解反向传播在干什么。适合刚装好 Pytorch 环境、想搞懂张量和损失函数层级关系的新手，也适合想找回 matplotlib 手感的老手。三分钟跑完，收益比看十页文档更直接。
2. 手工扫描权重：把 MSE 当函数画的原始代码拆开讲
2.1 主流程：三个数据点、一个权重、一次全网格扫描
课程里的原始代码核心逻辑只有三层循环结构。外层遍历权重 w，内层用 zip 同时取出 x 和 y，逐个样本计算预测值和单样本 loss，最后累加得到该权重下的均方误差。完整代码整理后长这样：
import numpy as np import matplotlib.pyplot as plt x_data = [1.0, 2.0, 3.0] y_data = [2.0, 4.0, 6.0] def forward(x): return x * w # 模型：y = x * w def loss(x, y): y_pred = forward(x) # 先算出预测值 return (y_pred - y) * (y_pred - y) # 单样本平方误差 w_list = [] mse_list = [] for w in np.arange(0.0, 4.1, 0.1): # 外层：扫描权重 l_sum = 0 for x_val, y_val in zip(x_data, y_data): # 内层：遍历样本 y_pred_val = forward(x_val) loss_val = loss(x_val, y_val) l_sum += loss_val print('w=', w, 'x=', x_val, 'y=', y_val, 'y_pred=', y_pred_val, 'loss=', loss_val) mse = l_sum / 3 w_list.append(w) mse_list.append(mse) print('MSE=', mse) plt.plot(w_list, mse_list) plt.ylabel('Loss') plt.xlabel('w') plt.show()这段代码的逻辑很直白：外层循环每换一个 w，就把三个样本全部重新算一遍预测值和误差。zip(x_data, y_data) 的作用是把样本和标签一一配对，等价于手动按下标取值，但写法更紧凑，也避免两个列表长度不一致时越界。注意loss函数返回的是单个样本的平方误差，不是平均误差；平均误差的职责在外层，由l_sum / 3完成。
这里为什么用平均误差而不是误差总和？因为当样本数量变化时，误差总和的量级会跟着变，画出来的曲线没法跨数据集比较；除以 3 之后，MSE 始终表示“每个样本平均错多少”，这个量级在不同训练集之间有可比性。后面换到 PyTorch 张量版本时，.mean()干的也是同一件事，数值和这里完全一致。
几个参数直接决定了曲线质量：np.arange(0.0, 4.1, 0.1)生成的是 0.0、0.1、0.2……4.0 共 41 个点，步长 0.1 意味着扫描一次要做 41×3=123 次前向计算。对这个量级的数据，手动扫描完全够用；但如果模型参数是几十万级别的，这招就彻底失效了，那时只能靠梯度下降，也就是第 3 章的内容。
2.2 forward、loss 与全局变量 w：课程里这段代码为什么敢这么写
仔细看代码你会发现一个在工程里会被打回重写的写法：forward(x)函数体里根本没有 w 参数，它直接读取全局变量 w。Python 的函数作用域规则决定了，只要当前作用域找不到 w，解释器就会往外层找，于是每次调用 forward 时，用的都是循环里当前那个 w。
这种隐式依赖放在真实项目里很容易埋雷：如果有人在另一个函数里也定义了一个同名 w，预期外的同名覆盖会让模型行为变得不可控。但在这个练习里，课程这么写是有意的——它想把视觉焦点完全放在“损失函数随权重变化”这一件事上，不引入参数传递的噪音。我一般会在复现时加一个参数版本：
def forward(x, w): return x * w def loss(x, y, w): y_pred = forward(x, w) return (y_pred - y) ** 2这样每个函数都只依赖自己的入参，循环内部的调用改成forward(x_val, w)和loss(x_val, y_val, w)即可。功能完全等价，区别只是函数签名变长了。之后的 PyTorch 版本会更贴近工程习惯：模型和损失函数接收张量，权重作为状态保存在张量里，而不是靠全局变量传递。
2.3 np.arange 的步长、右开区间与坐标含义
np.arange(0.0, 4.1, 0.1)有两点容易被忽略。第一，arange 是右开区间，最后一个生成的数是 4.0，4.1 只是边界记号，不会真的生成 4.1；第二，步长越小，曲线采样越密，但计算量线性增长。如果你想看更细的谷底形态，把步长改到 0.01 需要 401 个点，也就是 1203 次前向，对这个玩具数据集依然毫无压力。
在 Jupyter 或 IDE 里跑完上面代码，你会得到一条以 w 为横轴、MSE 为纵轴的抛物线，最低点正好落在 w=2.0 处，因为这三对数据（1,2）、（2,4）、（3,6）完美满足 y=2x。这个结论可以用一次采样验证：
for w in [1.8, 2.0, 2.2]: preds = [x * w for x in x_data] mse = sum((p - y) ** 2 for p, y in zip(preds, y_data)) / 3 print(w, mse)输出会是1.8对应0.0267，2.0对应0.0，2.2对应0.0267。这组数字能帮你确认曲线的谷底位置和数据本身的关系：三点共线且斜率为 2，所以最优点就是 2.0，左右对称。扫描区间 0.0~4.0 把这个最优点完整包在里面，这也是为什么你能看到漂亮的单峰。若把区间换成 0.0~1.5，曲线只会单调下降，你甚至会误以为还没有找到解——画 Loss 曲线时，横轴范围比步长更值得先确认。
3. 把浮点列表换成张量：用 backward() 画出同一条损失曲线
3.1 为什么要从 float 切到 torch.Tensor
第 2 章的扫描版本有一个本质上的限制：它在“枚举”所有权重，而不是“搜索”权重。枚举的前提是参数数量极少、取值范围可控。真正常见的训练场景是几十万参数，每个参数连续取值，枚举不可行，必须让模型自己算出“下一步该往哪个方向走”，这个方向就是梯度。
PyTorch 的核心机制是自动求导：把参与运算的变量声明成张量并打开requires_grad=True，PyTorch 会记录所有前向计算路径，调用.backward()时自动算出每个变量的梯度，不需要你手推偏导公式。注意这里的浮点计算和 numpy 有一个本质区别：numpy 数组是纯数值容器，运算结果还是一个数组，不携带任何“我是怎么算出来”的信息；而 torch.Tensor 在打开 requires_grad 后，每次运算都会在后台构建一张动态计算图，节点是张量，边是运算。backward() 触发的是对这张图的链式求导，结果写回叶子张量的 grad 属性。理解了这一点，再看后续章节的 optimizer 就会觉得它只是个封装好的迭代器。
从练习的角度看，张量版本的计算量完全一样，但多出一项能力：你能看到 loss 对 w 的梯度值。这个值在第 2 章的扫描版本里只能通过两点连线的斜率去推测，在张量版本里是直接给出的。对初学者来说，这是理解“梯度下降为什么朝负梯度方向走”的最短路程——先能读到梯度，再谈优化器。
3.2 张量化完整代码：backward、手工更新与梯度清零
import torch import matplotlib.pyplot as plt x_data = torch.tensor([1.0, 2.0, 3.0]) y_data = torch.tensor([2.0, 4.0, 6.0]) w = torch.tensor(0.0, requires_grad=True) # 叶子张量，打开自动求导 def forward(x): return x * w def mse_loss(x, y): y_pred = forward(x) return (y_pred - y).pow(2).mean() # 向量化求均方误差 epoch_list = [] loss_list = [] for epoch in range(100): l = mse_loss(x_data, y_data) # 前向：算当前权重下的损失 l.backward() # 反向：自动计算 dw with torch.no_grad(): # 更新权重时不需要计算图 w -= 0.01 * w.grad # 沿负梯度方向走一步 w.grad.zero_() # 清空梯度，防止累加 epoch_list.append(epoch) loss_list.append(l.item()) # 取出 Python 标量，断开图引用 print('final w =', w.item()) plt.plot(epoch_list, loss_list) plt.xlabel('epoch') plt.ylabel('Loss') plt.show()这段代码是第 2 章扫描版的直接升级：横轴从 w 换成了 epoch，纵轴不变。mse_loss里用.pow(2).mean()代替了原来的循环和手动除以 3，因为 torch 张量支持向量化运算，x_data 是三个元素的张量，前向得到三个预测值，相减、平方、取平均一步完成。l是一个 0 维张量，l.backward()会把梯度写到所有requires_grad=True的叶子张量的.grad属性里，这里就是 w.grad。
更新权重时用的with torch.no_grad()是关键。如果直接写w -= 0.01 * w.grad而不加保护，会在计算图上再挂一个减法节点，而且减法是对叶张量做 in-place 修改，PyTorch 会直接报错：a leaf Variable that requires grad is being used in an in-place operation。另一种常见写法是w.data -= 0.01 * w.grad，它绕开了这个限制，因为.data返回的是一份脱离计算图的数据视图。我个人一般优先用no_grad()包裹，可读性更好。
3.3 清空梯度：忘记 zero_() 会看到什么
梯度累加是 PyTorch 新手最容易踩的坑。.backward()默认是“累加”模式，也就是新算出的梯度会加到.grad已有的值上，而不是覆盖。如果你不手动清零，第二次 backward 后 w.grad 就是两次梯度的和，更新步长会随着迭代次数持续放大，loss 曲线会出现先降后升的“起飞”现象。
上面的代码里w.grad.zero_()放在更新之后，这是有效的。更保险的写法是放在每次 backward 之前清零，比如：
for epoch in range(100): w.grad.zero_() l = mse_loss(x_data, y_data) l.backward() with torch.no_grad(): w -= 0.01 * w.grad两种位置在单变量场景下结果一样，因为每次只有一步更新。遇到多变量或者使用优化器时，统一用optimizer.zero_grad()更可靠。关于这个细节，第 5 章避坑部分还会再展开一次，因为它的翻车率实在太高。
3.4 两张曲线的信息量对比表
| 对比项 | 扫描版（第 2 章） | 张量+backward 版（本章） |
|---|---|---|
| 横轴含义 | 权重 w 的取值 | 训练轮数 epoch |
| 权重变化方式 | 手动枚举网格 | 沿梯度反方向自动更新 |
| 是否用到梯度 | 不需要 | 依赖链式法则 |
| 曲线形状 | 完整抛物线，含全局最优点 | 从高 loss 单调下降，接近 0 |
| 适用参数规模 | 一两个参数时直观 | 任意规模，可扩展到真实模型 |
| 能直接回答的问题 | 损失曲面长什么样 | 训练过程有没有收敛 |
看到这你可能会问：扫描版能直接看到全貌，张量版只能看到一条下降路径，那扫描版不是更“高级”吗？恰恰相反。损失曲面的完整信息只在一两个参数时能得到，真实模型参数是几百万维的，你连“枚举一个变量”都做不到。张量版代表的是真实训练的机制，扫描版只是帮你建立直觉的脚手架。实际项目里几乎没人画 w-Loss 曲线，因为你看不到的维度太多了；但画 epoch-Loss 曲线是监控训练的标配，也是这条练习路线最后通向 TensorBoard 之类可视化工具的入口。两章配合看才能理解梯度下降究竟在沿着什么走。
4. 换上 optimizer 的正式训练循环：loss 曲线照样能画
4.1 从手工更新权重到 torch.optim.SGD
第 3 章的手工更新其实只做了一件事：w = w - lr * grad。这正是最朴素的随机梯度下降。PyTorch 把这一步封装成了优化器，理由是真实模型的参数列表很长，每次手动更新容易漏掉某个参数，或者把学习率写成不一致的值。torch.optim.SGD接收一个参数列表和一个学习率，调用step()时统一更新所有参数。
很多 pytorch 实战教程会用optimizer = torch.optim.SGD(model.parameters(), lr=0.01)，因为模型参数自动挂在parameters()上。这里只有一个 w，直接传给优化器即可。换优化器的好处是代码和真实项目一致，回头迁移到多参数模型时不需要改结构。对这个小练习来说，SGD 和 Adam 的终点一样，但 SGD 的轨迹更直观，适合观察每一步的更新效果。
4.2 完整训练循环：每 20 轮记录一次 loss
import torch import matplotlib.pyplot as plt x_data = torch.tensor([1.0, 2.0, 3.0]) y_data = torch.tensor([2.0, 4.0, 6.0]) w = torch.tensor(0.0, requires_grad=True) optimizer = torch.optim.SGD([w], lr=0.01) # 参数列表 + 学习率 def forward(x): return x * w def mse_loss(x, y): return (forward(x) - y).pow(2).mean() epoch_list = [] loss_list = [] for epoch in range(200): optimizer.zero_grad() # 清梯度 l = mse_loss(x_data, y_data) # 前向 l.backward() # 反向 optimizer.step() # 更新参数 if epoch % 20 == 0: # 采样，不影响训练 epoch_list.append(epoch) loss_list.append(l.item()) print('final w =', w.item()) plt.plot(epoch_list, loss_list, marker='o') plt.xlabel('epoch') plt.ylabel('MSE Loss') plt.grid(True) plt.show()这段代码把第 3 章的手工更新换成了三行：zero_grad()清空上一步梯度，backward()计算当前梯度，step()按 lr 更新参数。注意optimizer.zero_grad()必须放在l = mse_loss(...)之前，否则上一轮的梯度会累加到这一轮，等于变相放大学习率。
为什么采样频率用epoch % 20 == 0？因为 200 轮全画出来，点与点之间的下降差异已经小到肉眼分不清，还会让曲线文件变大。每 20 轮留一个点，既保留了下降趋势，也保留了“看得到过程”的颗粒度。如果你把 marker='o' 去掉，曲线更光滑，但少了“每隔 20 轮记录一次”的语义。plt.grid(True)只是辅助参考线，对判断 loss 是否触底很有用，尤其在看 y 轴量级变化时。lr=0.01、200 轮在这个例子下足够收敛到 w≈2.0；若 lr 提到 0.5，曲线会进入震荡状态，这就是下一章要聊的典型翻车。
4.3 loss.item()、zero_grad() 与 detach()：三个看起来像、实际不同的细节
训练循环里最容易混淆的三个调用是l.item()、optimizer.zero_grad()和l.detach()。l.item()是把 0 维张量转成 Python float 的官方方式，转换后不再持有计算图引用，你可以放心把它存进 list 用于绘图。如果直接把l存进 list，这个 list 就持有整张计算图的引用，训练到几百轮后内存占用会线性上涨，解释器甚至可能直接卡死。把print(l)换成存列表再画也会遇到同样的问题——打印字符串本身不占内存，但存张量引用会。
optimizer.zero_grad()清的是优化器管理的所有参数的.grad属性，它不是清计算图的。计算图每次 backward 后本来就会被释放，但.grad是持久存在的，会跨迭代累加，所以必须显式清零。l.detach()则是把张量从计算图中摘下来，返回值仍然是一个张量，只是requires_grad变成 False。使用场景是把 loss 的某个中间量拿去画图或监控，但不希望它参与后续梯度计算。
三个调用的边界可以记成一句话：想存数字用item()，想清梯度用zero_grad()，想截断计算图继续做张量运算用detach()。绘图场景里我只用item()，因为最终要的是一条普通折线，不需要任何张量运算。
5. Loss 曲线绘制避坑：五个我踩过的真实翻车现场
这一章每条都是我在复现和扩展课程代码时真正遇到过的报错或诡异现象，按“现象→原因→解决”整理，第 2 到第 4 章的代码都能对上号。
5.1 现象：plt.show() 执行了，图却没有弹出，或者只看到一片空白
原因分三种：第一，在 Jupyter Notebook 里没有执行%matplotlib inline，绘图窗口被后端拦截；第二，在无界面服务器上用默认 backend，无法显示窗口；第三，代码跑完后进程立刻退出，窗口一闪而过。第 2 章原始代码在本地 IDE 里大概率没问题，但如果你把练习搬到 Jupyter 或远程环境，这个坑几乎必踩。
解决方法是三选一：Jupyter 里在 import 后加一行%matplotlib inline；远程环境改成plt.savefig('loss_curve.png')保存成文件再下载查看；终端执行时在脚本末尾加plt.show(block=True)手动阻塞进程。我现在的习惯是把savefig写进每个绘图脚本的固定结尾，毕竟训练任务是全天候跑的，人在不在屏幕前都得留下图。
5.2 现象：曲线毛刺严重，找不到最低点，甚至整条曲线都在下降
原因是扫描步长和 x 轴范围没跑对。用np.arange(0.0, 4.1, 0.1)时曲线是平滑的；但如果你把步长改成 0.5，就只能看到 9 个点，抛物线轮廓还在，谷底不清晰。更隐蔽的是把扫描范围写成np.arange(0.0, 1.5, 0.1)，最优点 w=2.0 根本不在区间内，曲线只剩单调下降一段，你会误判成“还没收敛”。这里的教训是：画 Loss 曲线之前，先确认最优参数是否落在扫描区间里，最理想是用np.linspace(0.0, 4.0, 401)这种显式指定端点的方式，生成 401 个点，步长自动算，边界永远对。
步长的选择也要看数据量级。这个练习数据只有 3 个点，0.1 步长已经足够；数据量再大时我不会依赖扫网格找最优点，而是用梯度下降配变换学习率，网格扫描只用来画损失曲面，不做参数搜索。
5.3 现象：w_list 和 mse_list 对不上，绘制的曲线乱跳
这是我第一次手动改写代码时犯的错：把mse_list.append(l_sum / 3)误写成了mse_list.append(l_sum)，或者把 append 放进了内层循环。结果是 list 长度不对，plt.plot 拿两个长度不同的数组会直接报错；长度碰巧一致时，曲线会出现整体偏移或者周期性的尖刺，和打印出来的 loss 根本对不上。
解决这类问题靠一次目测核对最有效：
for i in range(min(len(w_list), len(mse_list))): print(i, w_list[i], mse_list[i])确保每个 w 只对应一个 mse，且数值与前面打印的 MSE 一致。还有一个通用习惯：先打印len(w_list)和len(mse_list)再画图，两个长度不一致时不画。这个检查我保留到现在，因为真实训练脚本里 loss 记录器经常因为 early stopping 提前退出而少记录一段数据。
5.4 现象：换到张量/优化器版本后，loss 一直上涨，或者过了低谷继续飞
最常见的两个原因分别是梯度累加和学习率过大。梯度累加的典型特征是 loss 每轮都在涨，因为.grad里堆了前面所有轮的梯度，更新步长越来越大。解决就是optimizer.zero_grad()严格放在 backward 之前，并且每个训练循环都要执行，一个都不能省。学习率过大的特征是 loss 上下震荡，幅度可能很大，像在抛物线上来回弹。解决是先把 lr 降到 0.01 验证是否稳定，再逐步加大。
关于学习率还有一条经验：当曲线前期下降很快、后期横盘很久不再下降，不一定是没收敛，可能是学习率太小，模型在谷底附近挪不动了。可以试试在训练中期把 lr 减半，观察曲线是否继续下降。这种“曲线卡住就调学习率”的操作刚开始全靠手感，跑多了就有直觉了。
5.5 现象：训练 loss 画出来很漂亮，验证 loss 却是条喇叭口
严格说这个练习没有验证集，但你把代码扩展到真实数据集时会立刻遇到：训练集 loss 一路向下，验证集 loss 先降后升，两条曲线越拉越开。原因是模型把训练样本的噪声也记住了，也就是过拟合。虽然这个三点数据集不会过拟合，但换个复杂模型后，这是绘制双曲线时最常见的翻车现场。
我的处理流程是：训练时每轮同时记录训练 loss 和验证 loss，验证阶段用torch.no_grad()包住 forward，确保不会污染计算图；画图时两条曲线放在同一张图里，刻度一致才好对比。判断标准很简单——训练 loss 继续降、验证 loss 开始涨的那一刻，就是你应该停下来的地方。保存最好那组权重而不是最后一组，这个习惯能挽回不少训练事故。
6. 进阶画法：多曲线对比、指数平滑与收敛判断
6.1 把训练和验证画在同一条轴上
plt.plot 支持一次调用画多条曲线，只要分别传入各自的 x 和 y 数据。常见做法是先画训练曲线，再画验证曲线，加上 label 和 legend：
plt.plot(epoch_list, train_loss_list, label='train loss') plt.plot(epoch_list, val_loss_list, label='val loss') plt.xlabel('epoch') plt.ylabel('Loss') plt.legend() plt.grid(True) plt.savefig('loss_curve.png', dpi=150)两条曲线的 epoch 轴必须对齐，否则 legend 会误导人。dpi=150 是保存图的标准参数，分辨率足够放到论文或报告里。
6.2 指数移动平均：把抖动抹掉再看趋势
真实训练的 loss 曲线通常是毛绒绒的锯齿状，因为每个 batch 的分布都有差异。直接看原始跳动除非幅度很大，否则很难判断趋势。我一般用指数移动平均（EMA）做一次平滑：
def smooth(curve, alpha=0.9): smoothed = [] last = curve[0] for v in curve: last = alpha * last + (1 - alpha) * v smoothed.append(last) return smoothedalpha 越大，曲线越平滑，但对真实变化的响应也越滞后；alpha=0.9 对大多数场景够用，如果噪声特别大可以调到 0.95。注意平滑是事后处理，不影响训练本身，属于纯可视化手段。原始曲线和平滑曲线可以叠加画，用半透明颜色区分，看趋势看平滑线，看抖动幅度看原始线。
6.3 收敛判断的三个实用标准
有了平滑曲线，判断收敛就不再靠玄学。我的标准是三条：第一，loss 后 20% 区间内的均值比前 20% 下降超过两个数量级，可以认为进入了平台期；第二，连续 N 个 epoch（一般是总轮数的 5%）内 loss 变化小于 1e-4，说明基本到头了；第三，训练 loss 和验证 loss 的差距越拉越大且验证不再下降，果断早停并回滚到最佳权重。前两条适合自动判断，第三条适合画图时肉眼看。
从那以后我每次把训练脚本放进跑批之前，都会强制走一遍三件事：确认 loss 是用 item() 存成普通列表，确认 optimizer 每轮都执行了 zero_grad，确认绘图代码里有 savefig。这三件事花不了两分钟，却让我节省了大量返工时间。希望帮到你。
本文还有配套的精品资源，点击获取
