读完 Res²CLIP,我能收获什么?从正常参照、残差表示到异常检测研究思路
Res²CLIP 的核心思路:让图像和文本都减去正常基准,再对齐二者的变化,减弱物体类别与背景对异常判断的干扰。
已有方法的两个问题:
- 粒度不匹配:用“正常物体/损坏物体”这样的整体文字描述,判断瓶盖、瓶身、背景等细小区域,容易把正常区域误判为异常。
- 跨类别泛化下降:在已有类别上微调时,模型可能过度适应这些类别的外观,换一种产品后检测效果下降。
Res²CLIP 怎么解决?
它构造两种残差,下面的“特征”指归一化后的特征向量:
- 视觉残差 = 待测特征 − 匹配的正常参照特征
- 文本残差 = 异常描述特征 − 正常描述特征
随后,将视觉残差投影到文本残差的方向上,同时判断:
偏离正常状态有多远?这种偏离是否符合异常语义?
例如,检测金属零件划痕时,正常参照有助于抵消共有的材质和结构信息;文本异常方向进一步帮助判断剩余差异。参照匹配不准确时,残差仍可能包含噪声。
这篇论文最值得借鉴的价值:
将跨模态对齐的重点转向相对正常状态的偏差。这为异常检测提供了一种可迁移的建模思路:先用参照减弱无关差异,再结合偏差的大小和方向判断异常。
论文表 1 中,4-shot 设置下,微调版本在五个数据集上的平均像素级 AP 为58.5,高于表中其他方法的最高值56.1,体现了它在缺陷定位上的优势。面对新类别,只需少量正常参照,无须重新训练;微调版本仍需预先使用辅助类别的监督数据训练适配器。
读这篇论文,可以根据自己的目标带走三类收获:
| 你的目的 | 你能带走什么 |
|---|---|
| 学习知识 | 理解一种建模方法:用“相对正常状态的差异”表示异常,以后遇到类似问题时可以考虑它。 |
| 动手做项目 | 获得一条实现路线:准备正常样本 → 提取图文特征 → 匹配并构造残差 → 对齐评分 → 定位异常。 |
| 寻找研究题目 | 找到一个可研究的问题:正常参照选得不好,模型就可能误报;怎样选择参照、处理不可靠的匹配? |
论文全名:Res2CLIP: Few-Shot Generalist Anomaly Detection with Residual-to-Residual Alignment
论文链接:arXiv:2605.16171