目录
一、分类任务评价指标（核心：混淆矩阵）
1.1 基础：二分类的混淆矩阵（4个核心元素）
2.2 基础指标：准确率（Accuracy）
2.3 核心指标：精确率、召回率、F1-Score（解决样本不平衡）
（1）精确率（Precision，查准率）
（2）召回率（Recall，查全率）
（3）F1-Score（综合指标）
2.4 进阶指标：ROC曲线 & AUC值（二分类终极指标）
2.5 多分类任务的指标适配（如20类食物分类）
分类指标速记（贴合实践）
三、回归任务评价指标（人脸特征点预测核心）
3.1 基础误差指标：MAE、MSE、RMSE（和代码损失函数一一对应）
（1）平均绝对误差（MAE）
（2）均方误差（MSE）
（3）均方根误差（RMSE）
3.2 鲁棒误差指标：SmoothL1 Loss（我的代码优选）
3.3 拟合程度指标：R²（决定系数）
回归指标速记（贴合人脸特征点预测）
四、通用评价：评估模型的泛化能力（所有任务都适用）
4.1 训练集 vs 测试集指标（判断拟合状态）
4.2 早停（Early Stopping）：实用的泛化优化技巧
五、总结：指标选择的核心原则
一、分类任务评价指标（核心：混淆矩阵）
分类任务的核心是“预测离散的类别标签”，比如我的食物图片分类（20个类别）、二分类的疾病检测等。所有分类指标，都源于一个基础工具——混淆矩阵，我们从最简单的二分类入手，再延伸到多分类。
1.1 基础：二分类的混淆矩阵（4个核心元素）
二分类中，样本只有“正类（P）”和“负类（N）”两种真实标签，模型预测结果也只有“预测为正”和“预测为负”，两者组合就形成了混淆矩阵的4个核心元素，记牢这4个，后续所有指标都能轻松推导：
真实\预测 | 预测正类（P） | 预测负类（N） |
|---|---|---|
真实正类（P） | TP（真正例）：真实为正，预测也为正（预测对了） | FN（假反例）：真实为正，预测为负（漏判了） |
真实负类（N） | FP（假正例）：真实为负，预测为正（错判了） | TN（真反例）：真实为负，预测也为负（预测对了） |
记法技巧：第一个字母（T/F）= 预测是否正确，第二个字母（P/N）= 模型预测结果。比如TP=True（预测对）+Positive（预测为正）。
2.2 基础指标：准确率（Accuracy）
最直观、最易计算的分类指标，也是我一开始做食物分类时最先用的指标。
公式：
$$Accuracy = \frac{TP+TN}{TP+TN+FP+FN}$$
物理意义：所有样本中，预测正确的比例。比如100个样本，90个预测正确，准确率就是90%。
适用场景：样本均衡的场景（比如我的20类食物分类，每类样本数相近），此时准确率能直观反映模型效果。
避坑提醒：样本不平衡时，准确率完全失效！比如疾病检测，1000个样本中只有10个患病（正类），990个健康（负类），模型哪怕全部预测为健康，准确率也能达到99%，但这样的模型毫无实际意义。
2.3 核心指标：精确率、召回率、F1-Score（解决样本不平衡）
准确率的局限性，需要用这三个指标来弥补。它们三者是“黄金组合”，精确率和召回率此消彼长，F1-Score则是两者的综合，越接近1越好。
（1）精确率（Precision，查准率）
公式：$$Precision = \frac{TP}{TP+FP}$$
物理意义：模型预测为正的样本中，真实为正的比例。简单说，就是“预测的正样本，到底准不准”。
适用场景：要求“宁缺毋滥”的场景，比如垃圾邮件分类（宁可漏判一封垃圾邮件，也不能把正常邮件归为垃圾）、商品推荐（推荐的商品必须大概率是用户喜欢的）。
（2）召回率（Recall，查全率）
公式：$$Recall = \frac{TP}{TP+FN}$$
物理意义：真实为正的样本中，被模型预测为正的比例。简单说，就是“真实的正样本，有没有被全找出来”。
适用场景：要求“不漏掉”的场景，比如疾病检测（宁可错判健康人为患病，也不能漏判真正的患者）、安防识别（宁可误报，也不能漏掉危险目标）。
（3）F1-Score（综合指标）
因为精确率和召回率此消彼长（比如提高精确率，会降低召回率，反之亦然），单独看一个指标没有意义，F1-Score是两者的调和平均，能综合反映模型效果。
公式：$$F1 = 2 \times \frac{Precision \times Recall}{Precision + Recall}$$
核心特点：调和平均更偏向于两个指标中较小的那个，只有当精确率和召回率都很高时，F1-Score才会高，避免“一个高、一个低”的虚假优秀。
2.4 进阶指标：ROC曲线 & AUC值（二分类终极指标）
如果你的分类任务是样本不平衡，且需要评估模型的整体区分能力（不依赖于分类阈值的选择），那么ROC-AUC就是你的“金标准”，也是工业界二分类的首选指标。
核心概念：
分类阈值：模型输出正类概率（比如0.5），大于阈值判为正，小于判为负；阈值变化，TP、FP、FN、TN也会跟着变化。
ROC曲线：以“假正率（FPR）”为横坐标，“真正率（TPR）”为纵坐标，随着阈值变化绘制的曲线。
假正率（FPR）：$$FPR = \frac{FP}{FP+TN}$$（真实负类中被误判为正的比例，越小越好）
真正率（TPR）：就是召回率（真实正类中被预测为正的比例，越大越好）
AUC值：ROC曲线下的面积，取值范围0~1，越接近1，模型的区分能力越强。
AUC=0.5：模型无区分能力，和随机猜测一样；
AUC<0.5：模型预测完全相反，毫无用处；
AUC>0.9：模型区分能力优秀。
2.5 多分类任务的指标适配（如20类食物分类）
多分类中没有“正/负类”的明确划分，核心方法是“对每个类别单独做二分类（该类为正，其他所有类为负）”，再通过平均方式得到整体指标，常用3种平均方式，对应不同场景：
宏平均（Macro-averaged）：对每个类别计算Precision/Recall/F1，再取算术平均。平等对待所有类别，适合样本均衡的多分类（比如我的20类食物分类，每类样本数相近）。
微平均（Micro-averaged）：将所有类别的TP、FP、FN全局求和，再用总数值计算指标。受样本多的类别主导，适合样本不平衡的多分类。
加权平均（Weighted-averaged）：按每个类别的样本数占比，对每个类别的指标做加权平均。兼顾样本数量，是工业界多分类的默认选择。
分类指标速记（贴合实践）
样本均衡+简单评估 → 准确率；
样本不平衡+关注“准/全” → 精确率/召回率/F1；
样本不平衡+评估整体区分能力 → ROC-AUC；
多分类 → 宏平均（均衡）/加权平均（通用）。
二、回归任务评价指标（人脸特征点预测核心）
回归任务的核心是“预测连续值”，比如我的人脸特征点预测（10个坐标值）、房价预测、温度预测等。和分类任务不同，回归任务没有“正确/错误”之分，核心指标是“量化预测值与真实值的误差”，指标值越小越好；部分指标衡量“拟合程度”，值越接近1越好。
前置符号：真实值为 $y_i$，模型预测值为 $\hat{y}_i$，样本数为 $n$，真实值的平均值为 $\bar{y}$。
2.1 基础误差指标：MAE、MSE、RMSE（和代码损失函数一一对应）
这三个指标是回归任务的核心，和我代码中用的L1Loss、MSELoss直接相关，物理意义直观，新手必掌握。
（1）平均绝对误差（MAE）
公式：$$MAE = \frac{1}{n}\sum_{i=1}^n |\hat{y}_i - y_i|$$
对应代码：PyTorch中的nn.L1Loss()，本质就是MAE。
物理意义：预测值与真实值的绝对误差的平均值，单位和真实值一致（我的场景中是“像素”）。比如MAE=3，就代表平均每个特征点坐标的误差是3个像素，非常直观。
特点：对异常值（离群点）鲁棒（绝对误差不会放大大误差），但误差为0处梯度不光滑，可能导致模型收敛慢。
（2）均方误差（MSE）
公式：$$MSE = \frac{1}{n}\sum_{i=1}^n (\hat{y}_i - y_i)^2$$
对应代码：PyTorch中的nn.MSELoss()，完全等价于MSE。
物理意义：预测值与真实值的平方误差的平均值，会放大异常值的误差（平方项的作用）。
特点：梯度光滑，模型收敛速度快，但对异常值敏感（比如我标注错了一个特征点坐标，MSE会大幅升高）。
（3）均方根误差（RMSE）
公式：$$RMSE = \sqrt{MSE}$$
物理意义：对MSE开平方，把单位还原为真实值的单位（比如像素），解决了MSE单位不直观的问题。
核心特点：结合了MSE的梯度优势和MAE的直观性，是工业界回归任务的默认指标。我的人脸特征点预测，用RMSE评估最合适，能直接看出平均像素误差。
2.2 鲁棒误差指标：SmoothL1 Loss（我的代码优选）
我的人脸特征点预测代码中，最终用了nn.SmoothL1Loss()，它是MAE和MSE的结合体，无单独的“评价指标名”，训练/测试时直接用其损失值作为评价即可，损失值越小越好。
核心逻辑：
$$\text{SmoothL1}(x) = \begin{cases}0.5x^2, & |x| < 1 \\ |x| - 0.5, & |x| \geq 1\end{cases}$$
（x为单样本的预测误差：$\hat{y}_i - y_i$）
误差小时（|x|<1）：退化为MSE，梯度光滑，加速收敛；
误差大时（|x|≥1）：退化为MAE，避免异常值的过度惩罚。
场景适配：人脸特征点标注可能存在少量微小误差（异常值），SmoothL1 Loss既能保证收敛速度，又能抵抗异常值影响，是最优选择。
2.3 拟合程度指标：R²（决定系数）
如果想评估模型对数据的拟合程度，就用R²，它能告诉我们“模型能解释的真实值变异的比例”。
公式：$$R^2 = 1 - \frac{\sum_{i=1}^n (\hat{y}_i - y_i)^2}{\sum_{i=1}^n (y_i - \bar{y})^2}$$
取值范围：$(-\infty, 1]$
$R^2=1$：模型完美拟合，预测值完全等于真实值；
$R^2=0$：模型的预测效果和“直接猜真实值的平均值”一样，无拟合能力；
$R^2<0$：模型预测效果比“猜平均值”还差，完全无效。
场景适配：我的人脸特征点预测，除了看RMSE，还能看R²，越接近1，说明模型对坐标规律的拟合效果越好。
回归指标速记（贴合人脸特征点预测）
核心评估指标 → RMSE（直观，单位为像素，看平均误差）；
训练损失优选 → SmoothL1 Loss（直接用损失值评估，鲁棒+收敛快）；
拟合程度评估 → R²（辅助看模型拟合能力）；
异常值多的场景 → MAE（鲁棒性第一）。
三、通用评价：评估模型的泛化能力（所有任务都适用）
不管是分类还是回归，模型的最终目标是“泛化到新数据”，因此需要通过以下方法判断模型的拟合状态（欠拟合/过拟合/正常拟合），这是调试模型的关键。
3.1 训练集 vs 测试集指标（判断拟合状态）
通过对比训练集和测试集的指标，能快速判断模型的拟合状态，对应不同的调试方向：
拟合状态 | 训练集指标 | 测试集指标 | 核心问题 & 调试方向 |
|---|---|---|---|
欠拟合 | 差（准确率低/损失高） | 差（和训练集接近） | 模型能力不足（如网络太简单），需增加网络层数、提升模型复杂度，或延长训练轮数。 |
正常拟合 | 好（准确率高/损失低） | 好（和训练集接近，略差一点） | 模型泛化能力强，继续保持现有参数即可。 |
过拟合 | 极好（准确率接近100%/损失接近0） | 差（和训练集差距大） | 模型死记硬背训练集噪声，需用正则化、Dropout、增加数据增强等方法抑制过拟合。 |
我的人脸特征点预测训练30轮时，就出现过“训练损失持续下降，测试损失先降后升”的情况，这就是过拟合，后来增加了数据增强，测试损失就明显下降了。
3.2 早停（Early Stopping）：实用的泛化优化技巧
早停不是单独的指标，而是利用验证集指标优化模型泛化能力的方法，特别适合防止过拟合，我的代码中已经预留了优化空间。
核心逻辑：
训练时拆分出“验证集”（从训练集中分一部分，不参与训练，只做评估）；
每轮训练后，计算验证集指标（如回归的损失）；
当验证集指标连续多轮不再提升（如损失连续5轮不降），直接停止训练，保存此时的模型权重——这是模型泛化能力最好的状态，避免继续训练导致过拟合。
四、总结：指标选择的核心原则
复习完所有指标，其实核心就一句话：指标选择必须贴合任务类型和数据场景，没有“万能指标”，只有“最适合的指标”。
结合我的实践，给大家一个快速选择指南：
食物多分类（样本均衡）：准确率 + 加权平均F1；
二分类（样本不平衡）：F1-Score + ROC-AUC；
人脸特征点回归（连续坐标预测）：RMSE + SmoothL1 Loss + R²；
判断泛化能力：对比训练/测试集指标，必要时用早停。
其实评价指标不用死记硬背，多结合自己的代码调试几次，看不同指标的变化，就能慢慢理解其本质。比如我在调试人脸特征点模型时，看着RMSE从10降到3，R²从0.6升到0.9，就知道模型在慢慢变好——这就是指标的价值。
希望这篇复习笔记，能帮到和我一样从分类转回归、对指标感到困惑的小伙伴，也欢迎大家在评论区分享自己的实践经验～
