068、YOLO 量化精度损失怎么补？QAT 量化感知训练 vs PTQ 后训练量化的对比
从一次线上事故说起
去年秋天，我把一个YOLOv8s模型部署到Jetson Orin上，FP16推理跑得飞起，帧率稳定在60fps。客户要求再压一压功耗，我二话不说直接上了INT8量化——PTQ一把梭，校准集用了500张图片，跑完量化后模型大小从12MB缩到3.2MB，心里美滋滋。结果一上线，检测框开始“抽风”：白天场景下，原本能稳定检测的行人，有30%直接漏检；夜间场景更惨，置信度从0.85掉到0.3，几乎不可用。客户当场炸毛，我连夜回滚到FP16版本，开始啃量化这块硬骨头。
这个坑，我相信很多做YOLO部署的兄弟都踩过。今天就把我折腾两个月的经验掰开揉碎，聊聊PTQ和QAT到底怎么选、怎么补精度。
量化精度损失的根源：不是“精度”丢了，是“分布”歪了
先别急着调参，得搞清楚量化到底干了什么。INT8量化本质是把FP32的连续浮点值映射到[-128, 127]的离散整数空间。YOLO的卷积层输出特征图，尤其是检测头那几层，数值分布往往不是均匀的——有些通道的值集中在0附近，有些通道的值范围特别大。PTQ默认的MinMax校准方式，会直接拿整个张量的最大值和最小值来算缩放因子，结果就是：那些离群点（outlier）把量化步长撑得很大，导致大部分正常值的量化精度被压缩。
举个例子，某个特征图99%的值在[-2.0, 2.0]之间，但有一个异常值跑到8.0，MinMax会把量化范围设成[-8.0
