简介：面向需要将视觉Transformer模型部署到受限环境中的深度学习开发者，该资源针对ViT、DeiT与SwinT推理耗时长、显存占用高的问题，提供一套完整的PTQ后训练量化加速方案。包内含量化后的模型权重、可复现的量化流程教程与可运行项目源码，覆盖模型定义、量化校准、整数量化、网络封装、性能评估等模块及消融测试脚本，共15个文件（14个Python脚本与1个Markdown说明文档），压缩包仅41KB，结构清晰便于逐模块学习。已有196人学习，适合具备PyTorch基础并希望压缩模型体积、提升推理速度的算法工程师。借助该资源可从零掌握PTQ参数配置、校准集构建、量化层实现与精度对比方法，同时可直接复用相关代码将量化后的ViT、DeiT、SwinT模型迁移至实际项目中，显著降低部署成本，尤其适合边缘设备推理优化或GPU显存受限场景。
1. 量化加速ViT：不重训的PTQ，为什么到了VisionTransformer容易翻车
在边缘盒子和机器人上部署ai模型ViT，瓶颈往往不是算力而是带宽。一个ViT-Base/16的FP32权重接近330MB，INT8压到约85MB，推理耗时也能降到原来的1/2到1/3，这是量化加速最直接的收益。PTQ（训练后量化）不需要重训，几天内就能把流程跑通，对视觉Transformer是最快落地的路径。但同样是PTQ，CNN上常用的minmax校准抄到VisionTransformer上大概率翻车：LayerNorm、GELU、Softmax这些算子的量化误差会在12层注意力里逐层放大，最后掉点2到5个点都正常。这篇笔记围绕ViT、DeiT、SwinT三套主流结构，把PTQ的流程、参数、校准集和踩坑记录完整拆给你，配套的模型、流程教程和项目源码可以直接照着改。
2. ViT/DeiT/SwinT的量化敏感点：先知道哪些算子不能乱碰
2.1 Softmax、GELU、LayerNorm：注意力机制里最脆弱的三个算子
ViT每一层自注意力里都有Softmax，它吃的是QK^T/sqrt(d)的logits。INT8下logits只有256个可取值，当logits的均值和方差跟FP32不一致，Softmax就会被推成近似独热分布，attention熵急剧下降。CNN里Softmax只在最后分类头出现一次，误差到输出就结束了；ViT里它出现在每一层，并且误差会顺着下一层QKV继续传播。所以做PTQ时，第一优先看的就是每个头的Softmax输入范围。
全连接层的激活是GELU而不是ReLU。ReLU负半轴全0，量化后误差好控；GELU在0附近有光滑曲率，负半轴没有完全截断，触发后输出会出现一条细长的尾巴。用minmax方法校准这类激活，量化到INT8时尾巴被削掉，整体输出偏差虽然不是很大，但经过多层MLP累积之后，特征分布的头部先受损，最终表现是相似类目互相混淆。这也是量化后ViT在细粒度分类上容易掉点的常见原因。
LayerNorm是按token归一化，每个token的均值和方差都在动态变化。量化它等于给一层本来就不稳定的统计量再叠一层舍入误差。更麻烦的是它作用在QKV和MLP的输入上，一旦输出发生一点点偏移，后续注意力头的scaling全部跟着变。工程上最常见的做法不是去优化LayerNorm的量化，而是直接把它留在FP32。这三者之间不是独立翻车，而是互相放大：Softmax是极端敏感，GELU是长尾累积，LayerNorm是全局偏移。
2.2 ViT、DeiT、SwinT三者的量化差异：结构路线对部署的影响
ViT是最干净的Transformer路线，patch embedding后加CLS token，12层全局自注意力。它的激活分布相对稳定，量化时只要管好Softmax输入和GELU尾巴，整体掉点通常是这三个架构里最小的。但全局注意力也意味着它的attention矩阵尺度跨样本波动大，校准集里出现极端样本会让Softmax输入scale算偏。
DeiT加了distillation token，本质是用teacher模型蒸馏出来的额外分支。这个token的职责和CLS不完全一样——CLS做类别判断，distill token更关注细节或对抗样本区域。两者输出的特征尺度不总是一致。共享同一套per-tensor量化参数时，如果distill分支出现极端值，CLS分支会被连累。掉点比同尺寸ViT多1到2个点很常见，而且多在细粒度类别上体现。
SwinT走的是分层特征金字塔路线，窗口注意力加shifted window。前两个stage空间分辨率高，激活方差明显更大；后两个stage通道数翻倍，尤其在高分辨率输入下，层间分布差异比ViT大不少。用同一套校准参数从头跑到尾，前期stage往往是被压缩得最狠的。另外它的相对位置索引是整数逻辑，有些推理框架不懂这是常量，把它也量化了，量化舍入会让窗口错位。这个单独放到避坑章说。
结论是不要用一套参数盲吃三个模型。每个模型的前向图里，只需要重点看前面提到的那几个量化敏感算子，并逐类观察分布，就能少走很多弯路。
2.3 一个小实验：用hook查看激活分布，判断哪个算子最危险
import torch import timm from collections import defaultdict model = timm.create_model('vit_base_patch16_224', pretrained=True) model.cuda().eval() stats = defaultdict(list) def make_hook(name): def hook(module, inp, out): # 取出FP32激活，统计均值/方差/范围 t = out.detach().float() stats[name].append(t.view(-1)) return hook for n, m in model.named_modules(): if n.endswith('.ln1') or n.endswith('.act'): m.register_forward_hook(make_hook(n)) dummy = torch.randn(1, 3, 224, 224).cuda() with torch.no_grad(): model(dummy) for name, vals in stats.items(): v = torch.cat(vals) print(f"{name:40s} mean={v.mean():8.4f} std={v.std():8.4f} " f"min={v.min():8.4f} max={v.max():8.4f}")这个脚本干了三件事：挂在LayerNorm和激活函数上收集激活值、把整个tensor展平、打印统计量。这里的std和min/max跨度是判断量化风险的核心。std偏大且max-min跨度达几十倍的层，用MINMAX定标会严重截尾，优先换percentile校准；max/min不对称的层，例如GELU输出全部大于等于0，不要用对称量化硬扛，激活侧至少要用非对称量化或单独设zero point。
3. 把PTQ量化流程跑通：从加载权重到导出INT8的最小可抄作业步骤
3.1 最小可跑的校准流程：五步完成PTQ校准
用PyTorch生态里最顺手的pytorch_quantization库走一遍。它能自动把模型里的Linear、Conv替换成带量化器的版本，对Transformer的支持比较全，也能直接对接TensorRT。
import torch import timm from pytorch_quantization import quant_modules from pytorch_quantization.tensor_quant import QuantDescriptor # 1) 必须在构建模型前初始化，Linear会被替换成QuantLinear quant_modules.initialize() model = timm.create_model('vit_base_patch16_224', pretrained=True) model.cuda().eval() # 2) 配置校准描述符 desc = QuantDescriptor( calib_method='histogram', calib_num_bins=2048, calib_percentile=99.99 ) for module in model.modules(): if hasattr(module, 'input_quantizer'): module.input_quantizer.descriptor = desc module.input_quantizer.enable_calib() if hasattr(module, 'weight_quantizer'): module.weight_quantizer.descriptor = desc第一步的initialize必须在构建模型之前，它通过monkey patch替换模块，顺序错了量化器不会生效。第二步用histogram校准而不是minmax，原因是前面说过VisualTransformer激活有长尾，直方图能记录分布形状。calib_percentile=99.99意味着校准统计默认不看那0.01%的极端值，对Softmax这类算子更友好。calib_num_bins=2048是直方图桶数，桶太少分布失真，桶太多统计量内存上涨，2048是平衡点。
接下来是校准循环：
def calibrate(model, loader, num_batches=32): # 只前向，不反向 model.eval() for i, (images, _) in enumerate(loader): with torch.no_grad(): model(images.cuda()) if i >= num_batches - 1: break calibrate(model, loader)校准的本质是收集激活分布的样本，不需要label，也不需要loss，所以这里直接关梯度。num_batches=32是个保守起点，ViT类模型一般16到64个batch就能稳定下来。如果发现Softmax饱和或者某些层分布还在漂，再加大到128。
收集完分布后，把刻度冻结到量化器里：
for module in model.modules(): if hasattr(module, 'input_quantizer'): module.input_quantizer.disable_calib() module.input_quantizer.load_calib_amax() module.input_quantizer.enable_quant() if hasattr(module, 'weight_quantizer'): module.weight_quantizer.disable_calib() module.weight_quantizer.load_calib_amax() module.weight_quantizer.enable_quant()disable_calib是停止采集，load_calib_amax是把直方图统计出的最大值写入scale，enable_quant是让量化真正生效而不是只做校准。这五步走完，模型就成了QDQ形式的伪量化模型，后续可以导出ONNX或编译成引擎。
3.2 算子融合与量化开关：哪些层要显式跳过
量化神经网络在编译成INT8引擎时，算子和QDQ节点会被模式匹配做算子融合。TensorRT里最常见的是CONV+BN+ReLU融合，ViT里主要是Linear和GELU的融合。但ViT的Linear本质是矩阵乘，和Conv的硬件调度不同，很多推理引擎对Linear走Gemm路径，量化排布和Conv不一致，所以不能照搬CNN的融合经验。
需要显式跳过的是LayerNorm。LN输出保存在FP32会带来一点带宽开销，但能保住注意力质量。常见做法是给要跳过的层打白名单，在前向过程中绕过量化器：
# 将需要保持FP32的层名登记到白名单 FP32_OPS = {'norm1', 'norm2', 'norm'} def forward_with_skip(x, module, name): # 白名单里的层直接返回FP32结果 if name in FP32_OPS: return x return module(x)实际工程里，项目源码通常会在构建模型后遍历named_modules，把LayerNorm的量化器关掉或直接换回nn.LayerNorm。这里给出的是通用思路，落到具体推理框架时，有的框架支持在转换面板里单独指定层精度，就不用改模型代码。
3.3 导出与部署：把伪量化模型转成INT8推理
校准完成的QDQ模型导出ONNX：
dummy = torch.randn(1, 3, 224, 224).cuda() torch.onnx.export( model, dummy, 'vit_qdq.onnx', opset_version=13, input_names=['images'], output_names=['logits'], do_constant_folding=False )opset_version=13是因为QDQ节点需要ONNX的QuantizeLinear/DequantizeLinear算子，低版本支持不完整。do_constant_folding=False避免常量折叠把量化参数弄丢。有些量化层的自定义算子导不出标准ONNX，需要注册symbolic函数，这部分在配套的项目源码里一般会给出完整的导出脚本。
转化TensorRT引擎的命令：
trtexec --onnx=vit_qdq.onnx --int8 --saveEngine=vit_int8.engine前提是ONNX里已经带了QDQ节点，TensorRT直接消费这些scale信息，不需要再跑一遍PTQ校准。如果目标平台不是TensorRT，也可以直接用ONNX Runtime加载QDQ模型，注意runtime版本要支持INT8执行提供程序。
4. 校准集与量化参数：三个必调参数和一组稳妥初始值
4.1 校准集怎么选：数量、分布、类别均衡的决定性影响
量化校准集不需要label，但需要覆盖模型真实使用场景的输入分布。数量太少，统计出的scale会偏小，Softmax输入被过度放大；数量太多，校准耗时线性增长，而且容易把噪声背景也统计进去，效果未必更好。经验上32到128个batch，每个batch 32到64张图，是一个比较稳的范围。
类别均衡是容易被忽略的点。如果校准集全是某个大类的图，模型前几层的统计还能扛，到了最后分类头的Linear，输入分布就和真实推理时严重不一致。更好的做法是从验证集里均匀采样，每个类别取20到40张，保证分布覆盖度。
采样策略上，不要用mixup、cutmix或者强度很大的数据增强去生成校准集，这些操作会人为引入极端激活。我用的是原始验证集图片，最多做和训练一致的resize和normalize。分辨率也要固定，SwinT在224和384输入下激活方差差很多，校准用的分辨率必须和最终部署分辨率一致。
4.2 量化参数：对称/非对称、per-channel/per-tensor、校准方法
量化参数有四组要决策：对称还是非对称、per-channel还是per-tensor、校准方法选哪个、zero point要不要。权重侧一般用对称量化，因为权重分布近似对称，INT8的区间[-128, 127]能完整利用。激活侧建议用非对称，ViT的GELU输出是非负的，非对称量化不会浪费一半计数区间。
per-channel在CNN里是标配，因为每个输出通道的权重尺度差异大。ViT的Linear权重同样受益于per-channel，尤其是后几层，掉点明显减少。激活侧per-tensor比较常见，框架支持好；per-channel激活在Transformer的Gemm路径上很多推理引擎不支持，要用之前先确认目标平台。LayerNorm的输出天然是逐样本归一化的，激活值分布相对紧凑，per-tensor反而是合适选择。
校准方法直接决定scale质量。minmax简单但对长尾激活不友好，一个离群点就能拉爆整个scale。percentile用直方图的分位数来截断，适合GELU的尾巴。mse方法在激活近似高斯分布时效果好，但计算慢。对VisualTransformer来说，histogram加percentile是默认推荐组合，mse可以作为备选。
| 校准方法 | 核心逻辑 | ViT上的表现 | 什么时候用 |
|---|---|---|---|
| MINMAX | 全范围覆盖 | 对Softmax输入不友好 | 激活值紧凑时 |
| HISTOGRAM + percentile | 按分位数截断 | 抗长尾，效果好 | 默认推荐 |
| MSE | 最小化量化误差 | 分布规整时稍优 | GELU/LN层备选 |
4.3 稳妥的初始参数表和调整顺序
第一次跑ViT量化，可以直接抄这组参数：
| 参数 | 建议初始值 | 调整方向 |
|---|---|---|
| calib_num_batches | 32 | Softmax饱和则加大到64到128 |
| calib_percentile | 99.99 | 激活长尾明显则降到99.9 |
| weight quant | per-channel | SwinT后几层掉点则检查weight scale |
| LN量化 | 关闭 | 掉点不明显但要求极致速度再开启 |
| GELU量化 | 非对称 | 输出分布偏移则单独走FP32 |
调整顺序有讲究。第一步先看激活分布，用第2章的hook脚本，确认哪些层std异常大；第二步根据分布改校准方法和percentile；第三步看逐层余弦相似度，定位具体掉点层；最后才考虑混合精度。一上来就开FP32后门不是最优解，容易掩盖真正的问题。
5. ViT量化避坑：5条实战踩坑记录与排查顺序
5.1 GELU量化后掉点严重：激活长尾被MINMAX截断
现象：量化后Top-1直接掉2到4个点，注意力可视化明显退化，细粒度类别互相混。原因：GELU输出正区间有长尾，minmax被极少数大值拉高，大部分激活量化到很小的整数区间，精度全丢。解决：把校准方法从minmax换成histogram加percentile，percentile设为99.9到99.99，截掉那部分极端激活。改完之后分布紧凑层的分辨率立刻回来。
5.2 LayerNorm输出整体偏移：均值方差被per-tensor定标打偏
现象：从第二层开始feature map整体变暗或变亮，最后logits偏移，但不崩溃。原因：LN本身做归一化，输出近似标准正态，per-tensor对称量化把均值附近的分布压到几个整数格点，统计特性被破坏。解决：把LayerNorm留在FP32。TensorRT的LN有FP32实现，速度损失通常小于1%，换来的是注意力权重稳定。
5.3 校准集太少：Softmax饱和输出近似独热
现象：量化后注意力矩阵看起来“太干净”，几乎每行都是单点置1，漏检率上升。原因：校准集太小，Softmax的logits方差被低估，scale算小了，量化后的logits值被放大，Softmax输出被推到0或1。解决：把calib_num_batches从16加到64或128，并保证类别均衡。校准前先单独统计Softmax输入的最大值和方差，肉眼确认scale没有异常偏小。
5.4 SwinT的相对位置索引量化后错位
现象：SwinT量化后出现规律性错位，视觉特征像摩尔纹，精度下降但没有完全崩。原因：相对位置索引用整数差逻辑，推理框架把它当普通tensor走QDQ，量化舍入后索引值变了，窗口偏移计算错位。解决：导出ONNX时把相对位置索引相关tensor标成Constant或Int32常量，不让它走量化和反量化。配套源码里一般有对position_index的special handling，部署前要确认目标框架认这个常量。
5.5 DeiT蒸馏token和CLS token尺度不一致
现象：DeiT量化后比同尺寸ViT掉点多1到2个点，细粒度分类尤其明显。原因：CLS token和distill token经过蒸馏，两者均值方差不同，共享同一个per-tensor激活scale时互相拖累。解决：把distill token对应路径单独做per-channel量化，或者直接把这个分支的激活留在FP32。
这5条是血泪经验踩出来的规律，排查顺序也有讲究：先看增益层分布，再查Softmax输入，接着LayerNorm，最后才怀疑结构差异。
6. 进阶：精度验证与量化误差定位的实操技巧
6.1 用余弦相似度逐层定位掉点算子
与其等最终精度出来再猜，不如逐层对比FP32和量化的中间输出：
import torch.nn.functional as F def collect_features(model, x): feats = {} hooks = [] def make_hook(n): def hook(m, i, o): feats[n] = o.detach().float() return hook for n, m in model.named_modules(): if 'attn' in n or 'mlp' in n or 'norm' in n: hooks.append(m.register_forward_hook(make_hook(n))) model(x) for h in hooks: h.remove() return feats # fp32_model 是原始模型，int8_model 是校准后的量化模型 with torch.no_grad(): f32 = collect_features(fp32_model, dummy) q8 = collect_features(int8_model, dummy) for name in f32: a = f32[name].view(f32[name].size(0), -1) b = q8[name].view(q8[name].size(0), -1) cos = F.cosine_similarity(a, b, dim=1).mean().item() print(f"{name:30s} cosine={cos:.5f}")注意力模块、MLP、LayerNorm都会被打点记录。相似度低于0.99的层重点处理，低于0.95的层基本就是掉点主凶。这个脚本比直接看精度好用，因为精度是全局结果，逐层相似度能告诉你误差从哪一层开始扩散。
6.2 混合精度：给顽固算子开FP32后门
| 算子类型 | 相似度阈值 | 处理方式 |
|---|---|---|
| LayerNorm | <0.98 | 直接FP32 |
| GELU | <0.99 | 激活侧非对称量化或FP32 |
| Softmax输入 | logits范围异常 | 提高percentile或FP32 |
| Linear后段 | 输出logits偏移 | per-channel加偏置校正 |
混合精度是最后一招，也是后悔药。实际工程里，把前两层或最后一两层敏感的算子弹回FP32，往往就能把精度拉回来，不需要全层回退。回退的代价是这部分算子走FP32计算，延迟增加一点点，但比整个模型重训划算得多。
我现在做ViT量化的习惯是：任何模型先跑一遍分布诊断，再谈速度优化，这个顺序能省掉一半的返工时间。量化加速这条路的坑确实比CNN多，但配齐这套流程之后，VisualTransformer的INT8落地完全可以稳定复现。希望帮到你。
本文还有配套的精品资源，点击获取
