准确率卡在某个数字上不去，是深度学习从业者最常见也最折磨人的状态：损失曲线看起来正常，训练也没报错，但验证集准确率就是停在 0.87 或者 0.92 附近反复横跳。很多人这个时候的第一反应是换更大的骨干网、加更多层、把 epoch 拉长，结果几天算力烧掉，指标反而掉了。我自己踩过最狠的一次，是花了三周时间把一个分类任务的准确率从 91.2% 调到 91.6%，最后发现测试集的划分里存在同源样本泄漏，修好数据切分之后什么都没改，准确率直接到 94%。这件事之后我形成了一个习惯：在动模型之前，先确定"这个准确率可信吗、瓶颈在哪一层"。
深度学习提高模型准确率这件事，本质上不是一个"技巧清单"问题，而是一个归因问题。同一个准确率瓶颈，可能来自标注噪声、增强过强、学习率调度不匹配、损失函数与类别分布不匹配、推理阈值不合理等等，每一种对应的解法完全不同，用错方向就是在浪费算力。这篇内容我按"先诊断、再动数据、再动训练、最后动推理"的顺序展开，适合已经能跑通训练脚本、但在指标上遇到天花板的人，也适合刚入门想建立正确调参直觉的读者。文中涉及的具体参数都是我在图像分类、视频动作分类、文本分类这几类任务上实测过的常见区间，不是理论最优值，你可以当作起点来试。
1. 准确率不动时，先做误差归因而不是换模型
我在团队里立过一条规矩：任何人说"模型效果不好想换网络"，先交一份误差分析。原因很简单，网络结构对最终准确率的影响，往往排在数据质量、训练策略、推理配置之后。换网络是成本最高、收益最不确定的一步，把它放在第一步做，是典型的投入产出倒挂。
1.1 建立可信基线必须先确认的三件事
第一件是数据划分是否干净。分类任务里最容易出的问题是同源样本泄漏，比如同一段视频抽出的相邻帧被随机分到了训练集和验证集，同一用户在两个集合里都有样本，同一张图的增强版本落到了验证集。这种情况下验证准确率会虚高，而且虚高的程度随数据冗余度变化，你在这个基础上调任何参数都是在拟合噪声。检查方式很直接：对样本做一次近邻检索，看验证集样本在训练集里的最近邻距离分布，如果大量验证样本的最近邻距离接近 0，划分就有问题。
第二件是评估口径是否一致。我见过有人训练时用top-1准确率，验证时用了带中心裁剪的 ten-crop，报告出去的却是单 crop 的数字，前后对比自然没有意义。还有标签映射表在训练和评估阶段不一致，导致某几个类别的预测被系统性地归错，整体准确率只掉两个点，很难察觉。把评估脚本固定成一份，任何人改都要走 review，这是最便宜的稳定性投资。
第三件是基线本身是否收敛充分。很多所谓"新方法没效果"的结论，其实是基线只训了 30 个 epoch，而新方法训了 100 个。我在做消融实验时强制要求：基线必须训到验证指标连续 10 个 epoch 不再改善，且学习率调度跑完整个周期。否则两组实验的学习率状态根本不可比。
1.2 从损失曲线读出是过拟合还是欠拟合
损失曲线是最便宜、信息量最大的诊断工具，但很多人只看它降不降，不看两条曲线的相对位置。
| 现象 | 训练损失 | 验证损失 | 更可能的原因 | 优先尝试的方向 |
|---|---|---|---|---|
| 欠拟合 | 高且下降慢 | 高，与训练损失接近 | 容量不足、学习率过小、正则过强 | 增大模型、提高学习率、减弱正则 |
| 典型过拟合 | 很低 | 先降后升 | 数据量不足、增强不足 | 加增强、加权重衰减、早停 |
| 训练损失很低验证损失也低但准确率平 | 很低 | 低但停滞 | 标签噪声、类别边界模糊 | 清标、标签平滑、校准 |
| 训练损失震荡 | 剧烈波动 | 同步波动 | 学习率过大、batch 过小、梯度爆炸 | 降学习率、加 warmup、梯度裁剪 |
这里有个反直觉的点：训练损失很低、验证损失也不高，但准确率就是上不去，这种情况十有八九是标签问题或者置信度校准问题，而不是模型能力问题。因为交叉熵损失鼓励模型把正确类别的 logit 拉得很高，只要标签有 5% 到 10% 的错标，模型就会花大量容量去拟合这些错标，损失能降下去，但决策边界是歪的。
1.3 数据泄漏与评估口径带来的"假高准确率"
除了同源泄漏，还有几种隐蔽的泄漏值得单独说。一是预处理阶段的全局统计量泄漏，比如用整个数据集计算均值和方差来做标准化，测试集的分布信息就通过这个统计量渗进了训练过程。正确做法是只用训练集统计，然后应用到验证和测试集。二是特征工程泄漏，比如对时序数据做了全局的滑动窗口统计，未来信息混进了过去。三是目标泄漏，某些特征本身就是标签的代理，例如用"是否退款"来预测"是否投诉"。
怀疑有泄漏时，最快的验证方式是做一个"打乱标签"的实验：把训练标签随机打乱后重新训练，如果验证准确率依然明显高于随机水平，说明数据里有捷径特征可以走；如果准确率掉到随机水平附近，说明之前的性能是真实的。这个实验成本不高，但能一排一个准。
2. 数据侧的动作，往往比换网络更划算
数据是这个领域里唯一"投入一定能看到回报"的方向，前提是你动对了地方。我在视频动作分类任务上做过一组对比：把 UCF101 类的数据做一轮标注复核加近重复剔除，准确率涨了 2.8 个点；同一份数据换更强的骨干网，涨了 1.1 个点。数据侧的收益天花板高得多，而且不额外增加推理成本，这一点在工程落地时非常关键。
2.1 清洗与标注一致性是被低估的准确率来源
标注噪声分两种：随机噪声和系统性噪声。随机噪声像抛硬币，部分能被模型平均掉，代价是模型需要更多数据和容量；系统性噪声更危险，比如标注员对某个类别的判定标准不一致，或者某些边界样本被统一标错。这类错误会让模型学到一个错误的边界，而且无论加多少数据都纠正不过来，因为新数据会被同样的标准污染。
实操上我一般这么做：先抽 200 到 500 个样本让两个人独立标注，算一下一致率。一致率低于 90% 的类别，先别训练，先把标注规范写清楚，重新对齐口径。然后再抽一批模型预测与标注不一致的样本人工复核，这部分样本的密度最高，往往几十个样本就能暴露出标注规范里没覆盖的边界情况。我在一个细粒度分类任务上，靠复核 300 个"模型和人都犹豫"的样本，把该类别的准确率从 78% 提到了 86%,改动量非常小。
另外提醒一点：清理数据要有版本管理。删掉哪些样本、为什么删，必须留记录。不然过两周你自己都不确定当前这份数据是怎么来的，复现实验时无从下手。
2.2 数据增强的边界，哪些增强会破坏语义
增强的原则是"保持标签语义不变的前提下扩大输入分布"。判断某个增强能不能用，就问一句：人看到增强后的样本，还能不能给出正确标签？如果不能，这个增强就是在制造噪声标签。
图像分类里，随机裁剪加水平翻转基本是安全的；颜色抖动幅度过大会让"颜色本身就是类别特征"的任务失效，比如区分相近的食品类别；RandAugment 这类自动增强策略强度要按数据集大小调，小数据集上强度过大会明显掉点。视频任务要额外注意时序一致性，光流相关的增强不能独立作用在单帧上，否则时间信息就被破坏了。文本任务里，同义词替换和回译比较安全，但随机删除词在短文本上风险很高，很容易把情感极性改掉。
具体参数上的经验区间：Mixup 的 alpha 取 0.2 到 0.4，CutMix 的 alpha 取 1.0 左右，两者通常二选一或者按概率混用，混用时每个 batch 用其中一种的概率各 0.5。Mixup 在小数据集上收益明显，在已经很大的数据集上收益会变小，甚至因为训练周期变长而在同等 epoch 下看起来更差，这一点对比实验时要注意控制总训练步数。
# 一个常用的增强组合，参数是我在中等规模图像分类上比较稳定的配置 train_transform = Compose([ RandomResizedCrop(224, scale=(0.35, 1.0), ratio=(3/4, 4/3)), RandomHorizontalFlip(p=0.5), ColorJitter(brightness=0.3, contrast=0.3, saturation=0.3, hue=0.05), RandAugment(num_ops=2, magnitude=7), RandomErasing(p=0.25, scale=(0.02, 0.2)), ToTensor(), Normalize(mean=train_mean, std=train_std), # 只用训练集统计量 ])提示：验证集和测试集绝对不要接任何随机增强。如果验证阶段用了带随机性的 transform，评估结果会带方差，你会误以为模型在波动。
2.3 类别不平衡和长尾分布的处理路径
类别不平衡的严重程度不同，处理思路差别很大。轻度不平衡（最大类与最小类比例在 10:1 以内），通常改损失函数就够了；中重度不平衡，需要采样策略加损失函数一起上。长尾分布的数据还要考虑头部类别主导梯度的问题。
采样方面，过采样少数类会让同一批样本重复出现，容易过拟合；欠采样多数类会丢信息。折中方案是用 WeightedRandomSampler 做温和的类别平衡，把采样权重按类别频次的倒数开方来缩放，而不是直接用倒数，这样既缓解了不平衡，又不会让少数类被反复复制到过拟合。
counts = np.bincount(train_labels) class_w = 1.0 / np.sqrt(counts) # 开方是关键，直接用倒数会过采样过度 sample_w = class_w[train_labels] sampler = WeightedRandomSampler(sample_w, num_samples=len(train_labels), replacement=True)损失函数方面，Focal Loss 在极度不平衡（正负比 1:100 以上）时有效，但在普通多分类任务上收益有限，而且引入了两个额外超参要调。我的一般顺序是：先试类别加权交叉熵，不行再上 Focal，再不行才考虑解耦训练（先正常训特征，再冻结特征重训分类头）。
2.4 伪标签与半监督，值不值得投入
伪标签的核心逻辑是用模型自己的高置信预测去扩充训练集，代价是错误会被放大。它值得做的条件有三个：无标注数据量远大于标注数据量、模型在标注数据上已经有一个不错的基础（一般要求明显优于随机）、以及类别分布大致可控。
实操要点：置信度阈值不要拍脑袋，用验证集上模型的置信度分布来定，通常选在准确率还能保持 95% 以上的那个阈值附近；伪标签的损失权重要小于真实标签，一般取 0.3 到 0.7；每一轮迭代后重新评估，指标连续两轮不涨就停。我见过最典型的失败案例是阈值定得太低，模型把自己的系统性错误反复强化，三轮之后准确率比单用标注数据还低。半监督方法（如一致性正则那类）效果更稳但实现复杂，如果你没有明确的算力预算，优先把伪标签这套做扎实。
3. 模型结构与训练策略的取舍顺序
数据和损失都理顺之后，才轮到结构和训练策略。这一块的收益通常比数据侧小，但胜在通用，换个任务还能复用。我把它拆成容量、归一化与初始化、优化与调度、正则化四个层次，按顺序做，每一步单独评估，不要一次改三个。
3.1 容量匹配，什么时候真的该换骨干网
换骨干网的判断依据是欠拟合还是过拟合。如果训练损失都降不下去，说明容量或者优化有问题，值得加宽加深；如果训练损失很低而验证损失高，换更大的模型只会更严重。
另一个容易忽略的点是输入分辨率。对图像任务来说，分辨率对准确率的影响经常比网络深度更大，把 224 提到 320 带来的收益，可能比把 ResNet50 换成 ResNet101 更明显，而且推理成本的增长是可控的。但分辨率提高后，batch size 要相应减小或者用梯度累积，同时学习率要重新调，不然会看到训练不稳定的现象。
结构上还有一个便宜收益：微调时的归一化层处理。小数据集上冻结 BN 层通常比放开更好，因为 batch 统计量在小 batch 下噪声很大；数据集够大时放开 BN 往往能多拿零点几个点。这个结论没有绝对，实测一下就知道。
3.2 归一化、初始化与残差连接对收敛的影响
归一化层的位置对训练稳定性影响很大。原始的 post-norm 结构在深层网络里容易出现梯度问题，尤其是在没有 warmup 的情况下；pre-norm 结构训练更稳，但最终精度有时会略低一点，需要靠更长的训练周期补回来。现在主流的做法是 pre-norm 加合适的初始化，配合 warmup，稳定性好很多。
初始化方面，PyTorch 的默认初始化在大多数场景下够用，但如果你自己搭了带残差的结构，需要注意残差分支最后一层的权重不能初始化为零方差过大，否则残差累加后激活值会逐层放大。有个实用做法是把残差分支最后一层的权重初始化为零，让网络从一个恒等映射开始训练，收敛稳定性提升很明显，尤其是在层数较多的时候。
残差连接本身带来的收益不只是梯度，还有优化难度。同样的深度，加残差和不加残差，收敛速度能差出几倍。如果你在复现某个结构时发现训练很慢，先检查残差路径有没有被归一化层或者激活函数打断。
3.3 优化器、学习率调度与 warmup 的具体配置
我的默认起点是 AdamW，学习率 3e-4（微调时降到 1e-5 到 5e-5 量级），权重衰减 0.05，配合 cosine 退火和 5% 步数的线性 warmup。SGD 加 momentum 0.9 在图像分类上有时能拿到更好的最终精度，但对学习率敏感得多，需要更长周期，如果算力有限我不建议首选。
warmup 不是可选项。训练初期模型权重接近随机，梯度方向不稳定，直接用大学习率很容易让模型进入一个坏的区域，后面再降学习率也拉不回来。warmup 的作用就是让模型先"站稳"再加速。
# 线性 warmup + cosine 退火，写成一个按 step 更新的调度 def lr_lambda(step): if step < warmup_steps: return step / max(1, warmup_steps) progress = (step - warmup_steps) / max(1, total_steps - warmup_steps) return 0.5 * (1.0 + math.cos(math.pi * progress)) * min_lr_ratio + (1 - min_lr_ratio) * 0.5这里有个我实测多次的经验：与其花时间精细调峰值学习率，不如把 warmup 比例和退火终值调好。峰值学习率在合理区间内（差个两三倍）对最终指标影响没那么大，但退火终值如果设得太高（比如只退到峰值的 0.1 倍），模型最后阶段一直在跳，指标会明显差一截。我一般让最低学习率降到峰值的 1% 到 5%。
3.4 正则化组合，别一次全开
权重衰减、Dropout、随机深度、Label Smoothing、EMA 这几样，每一项单独用都有收益，全开容易过度正则化导致欠拟合。我的顺序是：先用权重衰减加合适的增强，不够再加 Label Smoothing，还不够再考虑随机深度，Dropout 在卷积网络上收益有限但对全连接层依然有用。
EMA（指数移动平均）是我认为性价比最高的一项，几乎不需要调参，不增加任何推理成本。做法是维护一份权重的滑动平均，用它在验证集上评估。衰减系数按训练步数定，训练步数在几万步量级时取 0.999 到 0.9998，步数越多取值越接近 1。
@torch.no_grad() def update_ema(ema_model, model, decay): for pe, pm in zip(ema_model.parameters(), model.parameters()): pe.mul_(decay).add_(pm.detach(), alpha=1 - decay)注意：EMA 的评估结果和当前模型的评估结果要分开记录。只报 EMA 的数字会掩盖训练过程中的震荡，出问题时不好定位。
4. 损失函数与标签层面的精细调整
损失函数是训练目标和业务指标之间的桥。交叉熵优化的是似然，不是准确率，这两者在模型已经比较准的时候会分叉。这一节讲的就是怎么把这座桥修得更贴合准确率。
4.1 标签平滑与置信度校准
标签平滑把硬标签 0/1 换成 0 附近的软分布，比如正确类别给 0.9，其余类别均分 0.1。它的作用是抑制模型过度自信，减少对标注噪声的过拟合。在标签有噪声或者类别边界模糊的任务上，标签平滑往往能带来零点几到一两个点的提升，而在标签非常干净的任务上可能没什么效果甚至略降。
平滑系数取 0.1 是常用起点，不要超过 0.2，否则模型学不到足够的区分度，训练损失看起来降不下去会让人误以为优化出了问题。有些任务需要按类别数量调整，类别数很多的时候同样的平滑系数对正确类别 logit 的压制会更明显。
校准是另一件容易被忽略的事。模型输出的 softmax 概率经常偏高，如果你下游要用这个概率做阈值判断或者排序，就需要温度缩放之类的校准。做法是在验证集上拟合一个温度参数，再乘到 logit 上，实现简单但对下游决策质量提升明显。
4.2 类别不平衡下的损失重加权策略
重加权交叉熵的核心是给少数类更高的损失权重。权重公式上，直接用频次倒数容易过激，用频次倒数的平方根或者四分之一次方更温和。还有一种做法是有效样本数加权，思路是随着样本数增加，新增样本带来的边际信息递减，因此权重不应严格按频次倒数。
这里有个坑：加了类别权重之后，训练损失和验证损失的数值不再和未加权时可比，如果你在同一个图里对比两条曲线的绝对值，会得出错误结论。要么把权重同时作用在验证损失上，要么干脆只看准确率和 F1，别看损失绝对值。
另外提醒，重加权常常会让少数类的召回上升、精确率下降，整体准确率可能不升反降。如果你的业务指标是整体准确率，重加权未必划算；如果关注宏平均 F1，那它就很值。损失函数的选择一定要回到评估指标上，不要凭"更复杂所以更好"来选。
4.3 辅助损失、多任务与一致性正则
辅助损失是把额外的监督信号加到网络的中间层。常见的做法是在网络的中间位置接一个分类头，用同样的标签监督它，目的是给浅层提供更直接的梯度。这在深层网络训练初期很有用，能让浅层学到更有判别力的特征。辅助头的损失权重一般取 0.3 到 0.5，主头训好后可以把它去掉，推理时不影响结构。
多任务学习是另一个思路：如果手头有几个相关任务，共享底层特征、各自接任务头，通常比每个任务单独训一个模型效果更好，因为共享结构起到了正则作用。但要注意任务之间的梯度冲突，某个任务的梯度如果主导了共享层，其它任务就会受损。实操上可以用梯度归一化或者不确定性加权来平衡各任务损失的量级。
一致性正则的思路是让模型对同一输入的两种不同扰动给出一致的预测，这在半监督和有噪声标注的场景里很有用。实现代价是要做两次前向，训练时间大约增加一倍，评估是否值得时要把这个成本算进去。
5. 推理阶段的免费收益，TTA、集成与阈值
训练结束不代表优化结束。推理阶段有一批改动几乎不增加训练成本，收益却很实在，我把它们按性价比排了个序。
5.1 TTA 的适用条件与容易踩的坑
TTA（测试时增强）的思路是对同一张测试样本做多次变换，各次预测取平均。对图像分类，常用的组合是原图加水平翻转，这种 TTA 通常能带来 0.3 到 1 个点的提升，成本是推理时间翻倍。更激进的十裁剪 TTA 收益会再高一点，但成本高很多，而且和训练时的裁剪策略强相关，训练用随机裁剪、推理用中心裁剪时效果最明显。
坑主要在三个地方。一是变换引入了标签不一致，比如水平翻转对区分左右有意义的任务（如文字识别）会破坏语义，这种任务不能翻。二是 TTA 的多次预测平均方式，用概率平均和用 logit 平均结果不同，我一般先试 logit 平均，因为它保留了置信度的相对差异。三是 TTA 和 BatchNorm 的交互，如果推理时用不同的输入尺寸或者裁剪方式，BN 的 running statistics 可能与输入分布不匹配，这时要么重新校准 BN，要么改用其它归一化方式。
| TTA 方案 | 典型收益 | 推理成本 | 适用条件 |
|---|---|---|---|
| 原图 + 水平翻转 | 0.3 到 1.0 点 | 2 倍 | 任务对左右不敏感 |
| 多尺度裁剪 | 0.5 到 1.5 点 | 3 到 5 倍 | 训练用了随机尺度 |
| 多尺度输入尺寸 | 0.5 到 1.0 点 | 2 到 3 倍 | 目标尺度变化大 |
5.2 模型集成的性价比排序
集成按性价比大概是这个顺序：同架构不同随机种子的权重平均（最便宜，只训练成本翻倍）、EMA 权重与当前权重取平均（几乎免费）、不同架构的模型集成（收益最高，成本和实现复杂度也最高）、以及不同数据划分训练的模型集成。
权重平均有一个技巧：直接对参数做算术平均，只有在模型处于同一个损失盆地的平坦区域时才有效，否则会得到一个性能很差的平均模型。这也是为什么常规做法是先做 EMA 或者用学习率循环让模型落到平坦区域，再做平均。如果你只是想快速验证集成有没有用，先拿两三个不同种子的 EMA 权重平均一下，几分钟就能看到结果，不行再考虑更复杂的方案。
5.3 阈值与后处理的调优
对二分类和多标签任务，默认阈值 0.5 往往不是最优的。在类别不平衡时，最优阈值会明显偏离 0.5。正确做法是在验证集上按目标指标（准确率、F1 或者业务自定义的指标）扫描阈值，取最优值。这一步经常能带来比模型改进更大的提升，而且完全免费。
多标签任务还要考虑标签之间的相关性。如果一个样本的标签之间存在共现规律，可以用标签共现矩阵做后处理，或者用分类器链的方式逐步预测。序列任务则可以考虑用维特比解码替换逐帧的独立预测，用转移概率约束标签序列，这在动作分割、命名实体识别这类任务上提升非常明显。
提示：任何在验证集上调出来的阈值和后处理参数，都必须在独立的测试集或者交叉验证的折外数据上确认，直接在验证集上报告最终指标会高估性能。
6. 把提升固化成可复现的实验流程
前面讲的所有手段，如果没有一套实验流程兜底，最后就是一堆无法归因的改动。我见过太多项目在"我们试了很多方法"之后，没人说得清到底是哪一项起了作用。这一节讲讲怎么把提升固化下来。
6.1 消融实验的表格怎么设计
消融实验的原则是一次只改一个变量，而且要有基线。表格的最小列应该是：实验编号、改动项、验证准确率、训练步数、是否使用 EMA。训练步数这一列非常重要，很多看起来的提升其实来自训练更久。
| 编号 | 改动 | 验证准确率 | 训练步数 | 备注 |
|---|---|---|---|---|
| B0 | 基线 | 89.4 | 60k | 无 EMA |
| B1 | 加 EMA | 90.1 | 60k | 免费收益 |
| B2 | 加标签平滑 0.1 | 90.6 | 60k | 与 B1 叠加 |
| B3 | 加 TTA | 91.2 | 60k | 推理成本翻倍 |
| B4 | 换增强策略 | 90.9 | 60k | 训练时间变长 |
把事情做细还有一个附带好处：当指标掉了的时候，你能快速定位是哪一项引入的。我习惯在每次实验的配置里记录完整的随机种子、数据版本号、环境依赖版本，出问题时按这三个维度排除。
6.2 随机种子、多次运行与方差
同一个配置换随机种子，准确率波动一两个点是常态，尤其是数据集规模不大的时候。这意味着单次实验的结果差异小于两个点时，你无法可靠判断哪个配置更好。解决办法是用 3 个种子各跑一次，看均值和标准差，而不是看单次的最优值。
如果算力有限，至少做到固定随机种子、固定数据加载顺序、固定 cuDNN 的行为。PyTorch 里设置torch.manual_seed和数据加载器的 worker 种子只能解决一部分不确定性，某些算子的并行规约顺序本身就带非确定性，需要用确定性模式来关闭，代价是速度会慢一些。训练一个可复现的基线，然后用这个基线去做所有对比，比追求每次绝对一致更实际。
6.3 超参搜索的投入产出
超参搜索不要一上来就网格搜。按影响力排序，值得优先搜的是：学习率、数据增强强度、权重衰减、标签平滑系数。其中学习率和增强强度的交互最强，我一般固定其它参数，先在这两个维度上做粗粒度搜索。
搜索空间要设窄一点，学习率在 1e-5 到 1e-3 之间按对数取五到六个点就够了，再细的信息量很低。批量大小尽量由显存决定，不要作为搜索维度，因为它和学习率耦合，一起搜会让空间变大很多。贝叶斯搜索相比随机搜索在低维空间里优势有限，如果你的搜索维度超过五个，先做降维比换算法更有效。
最后一个我踩过的坑：所有在验证集上反复挑选的超参数，最终都会有一点点过拟合到验证集。如果你对最后的性能数字要求严格，留一个完全不参与任何调参的测试集，只在最后用一次。我现在的做法是把数据分成训练、验证、测试三份，验证集用于日常迭代，测试集一个季度才动一次。
我个人在这些年的实践里最大的体会是：准确率的提升往往不是靠某一个"神技"，而是靠把每一个环节的损失都压到最低。数据侧的 1 个点、训练策略的 0.5 个点、推理阶段的 0.5 个点，叠起来就是两三个点的差距，而这两三个点常常决定了模型能不能上线。如果只能给一条建议，我会说先把评估体系做扎实，再动手改任何东西，因为在错误的基准上做的所有优化，最后都要还回去。
