本地部署一套「扫描件 OCR → 向量化索引 → RAG 问答」的系统，跑通很容易，可用起来常常是另一回事：相似的问题问两次结果不一样，文档一多准确率就掉，而且响应越来越慢。这类问题通常不在模型，而在流水线本身。
问题现象
典型表现集中在三个方面：
- OCR 出来的文本质量差，直接导致检索结果漂移
- 语义相近的查询，召回的片段差异很大，结果不稳定
- 文档规模上去之后，准确率下降、延迟变长
原因分析
OCR 噪声污染了嵌入
嵌入模型是在干净文本上训练的。OCR 输出里常见的断字换行、多余空格、被拆开的单词、表格塌陷成一串数字，都会让句子的向量表示偏离真实语义。噪声越大，向量越随机，召回越靠运气。
定长切块切断了语义
按固定字符数机械切分，会把一个完整的段落、一条完整的条款从中间劈开。单看其中一半，既缺少主语又缺少限定条件，向量自然无法代表原意。检索时命中的往往是「恰好包含关键词」的那块碎片。
纯向量检索在规模上去后区分度不足
向量检索擅长语义近似，但对专有名词、编号、型号、条款号这类需要精确匹配的内容不敏感。文档量增大后，语义相近的候选激增，top-k 里挤满「看起来相关但其实不对」的片段。
延迟来自把重活放在了查询时
如果在查询链路里做 OCR 或现场计算嵌入，响应时间会被这些重计算直接拖垮。
