做过智能客服的同学,还有做过企业知识库助手的同学,大概率都碰到过这么一个场景。
就是用户兴致勃勃地问了一个问题,然后系统去检索了一圈,结果啥也没搜到。那这个时候该怎么办呢?
如果说放任模型在那里自由发挥的话,它很有可能就在那里一本正经地胡说八道。这个就是大家经常说的"幻觉"问题。而且呢,对于那种依赖真实知识的场景,比如说企业制度啊、产品参数啊、法律条款啊之类的,一句编造出来的错误答案,它带来的代价可能比直接说"我不知道"要大得多了。
所以今天就来聊一下,当检索不到的时候,到底应该怎么去做这个兜底。
✦ ✦ ✦
一、先别急着放弃:检索层其实还能再抢救一下
很多时候所谓的"检索不到",它其实并不是真的没有答案,而是你这个问题没有问对。
可以试试去改写一下 query。
用户的输入往往都是比较口语化的,也比较模糊。比如说用户问"这个咋报销啊",但是知识库里面写的是"差旅费报销流程"。这种情况下你直接去检索,大概率是扑空的。所以呢,可以让模型先去做一次 query 的改写,或者说把问题拆分一下,然后再去检索一次。
具体来说的话,有这么几个方向可以做:
一个是补全同义词和行业术语。另一个是把长句子拆成几个子问题,然后分别去检索。还有一个是去掉那些无关的限定词,把检索范围给放宽一些。
然后是混合检索这个事情,不要只靠向量。
纯向量检索对于那种语义相近但是用词差异比较大的内容,确实是比较友好的。但是对于那种精确的专有名词啊、编号啊之类的,比如说"ISO 9001"、"第 3.2 条"这种,它反而不太敏感。所以搭配一个关键词检索,也就是 BM25,去做混合召回的话,往往能够补上向量检索的这个短板。
还有一个点就是,在降低阈值之前,先多召回几个候选。
与其死守着一个相似度阈值来判定"有没有",不如先多召回一些 Top-K 的候选结果,然后再让模型自己去判断这些内容跟问题到底相不相关、够不够用来回答。有时候"没检索到高分结果"和"没有相关内容",这完全是两码事。
✦ ✦ ✦
二、生成层的底线:宁可说不知道,也不要瞎编
这一条是整个兜底策略里面最重要的一条原则了。
在 prompt 里面你要明确地告诉模型:如果说提供的资料里面没有相关的信息,那就如实告知用户说没有找到相关的内容,不要去编造答案。
那到底要不要用模型自身的知识来做兜底呢?这个要分场景来看。
如果说是一些通用的常识类问题,不依赖私有数据的那种,那可以用模型自身的知识来回答。但是要标注一下,说"以下为通用知识,并非企业知识库的内容"。
但如果是那种强依赖内部数据的场景,比如说公司制度、产品参数、法务条款这些,那就坚决不能瞎猜了,必须明确告知说"没有找到相关的资料"。
这个边界一定要在系统设计的阶段就想清楚,不能到了生成的时候才临时去判断。
✦ ✦ ✦
三、交互层:把"没找到"变成一次还不错的体验
用户听到"没找到"这三个字的时候,体验通常都是比较差的。但是如果设计得好的话,这反而可以变成一次挽回的机会。
比如说可以引导用户换个问法。跟用户说"没有找到完全匹配的内容,您可以换一下关键词,或者说补充更多的细节来试试"。
或者呢,给出一些相关但不是完全匹配的内容。跟用户说"虽然没有精确匹配到,但是以下这些资料可能对您有帮助",然后把决定权交给用户。
还有一个方式就是转人工或者说创建工单。这个是客服类场景里面最常见的兜底方式了,当检索不到的时候,主动提示用户说是否需要人工介入。
✦ ✦ ✦
四、系统层:把每一次"没找到"变成知识库的养料
兜底这个事情不应该只是临时的补救,更应该去反哺到资产建设上面来。
具体来说的话,可以定期去分析那些检索失败的 query 日志,把那些高频但是没有资料覆盖的问题给找出来。然后针对这些高频未命中的人工去补充知识库的条目。对于那些常见但是知识库暂时还没有的问题,可以先建立一个兜底的 FAQ 库。
这样一来的话,"检索不到"的比例就会随着系统运行时间的推移变得越来越低了。
✦ ✦ ✦
五、一个典型的兜底逻辑链
把上面几层串起来的话,大概就是这么一个流程:
用户提问 → 检索(向量 + 关键词混合) → 相似度是否达标? ├─ 是 → 生成答案(带引用来源) └─ 否 → 尝试 query 改写,重新检索一次 仍未达标: → 明确告知"未找到相关资料" → 提供相关性较低的候选内容(可选) → 引导换个问法 / 转人工(可选)✦ ✦ ✦
写在最后
RAG 系统的核心竞争力嘛,往往不在于"能不能答对"这个问题上,而是在于当你答不上来的时候应该怎么办。
一个好的兜底设计,应该做到这么三件事。
第一是尽力去找。多轮改写、混合检索、放宽范围,不要轻易就放弃了。
第二是诚实地说。找不到就是找不到,绝对不去编造。
第三是持续去学习。把每一次的失败都变成知识库迭代的输入。
宁可承认说"我不知道",也不要让系统去编出一个错误的答案。这句话啊,值得刻在每一个 RAG 系统的 prompt 里面。
普通人如何抓住AI大模型的风口?
领取方式在文末
2026年入行AI大模型的黄金窗口!!!
AI产业正迎来前所未有的爆发式增长。从DeepSeek以百万年薪重金招募顶尖研究员,到百度、阿里、腾讯等头部企业加速推进AI Agent商业化布局,再到国家层面持续出台政策,大力扶持数字经济与AI人才培育体系,多重信号清晰指向一个共识:AI的“黄金十年”已全面开启
在产业浪潮的强劲推动下,AI人才争夺战日趋白热化。技术迭代与场景落地双轮驱动,催生海量高价值岗位。放眼未来,AI领域的职业发展前景广阔无垠,正涌现出大量高潜机遇,堪称一片值得深耕的**“人才蓝海”**。
脉脉数据显示📊:
2026年1-2月,AI岗位数量同比增长约12倍,增速远超新经济行业整体增幅;AI岗位在全部新经济岗位中的占比也从2025年同期的2.29%跃升至26.23%,几乎占据新经济招聘市场的四分之一。
与此同时,AI新发岗位平均月薪高达60738元,较新经济行业整体平均月薪48189元高出约26%。
这一切都说明一件事:2026年,正是入行AI大模型的黄金窗口❗️❗️
最佳学习路线
只要你真心想学习AI大模型技术,这份精心整理的学习资料我愿意无偿分享给你,但是想学技术去乱搞的人别来找我!
在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。
真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座,技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等,欢迎大家~】
大模型全套学习资料展示
自我们与MoPaaS魔泊云合作以来,我们不断打磨课程体系与技术内容,在细节上精益求精,同时在技术层面也新增了许多前沿且实用的内容,力求为大家带来更系统、更实战、更落地的大模型学习体验。
希望这份系统、实用的大模型学习路径,能够帮助你从零入门,进阶到实战,真正掌握AI时代的核心技能!
01教学内容
从零到精通完整闭环:【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块,内容比传统教材更贴近企业实战!
大量真实项目案例:带你亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事!
02适学人群
应届毕业生:无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。
零基础转型:非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界。
业务赋能突破瓶颈:传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型。
vx扫描下方二维码即可
【附赠一节免费的直播讲座,技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等,欢迎大家~】
本教程比较珍贵,仅限大家自行学习,不要传播!更严禁商用!
03入门到进阶学习路线图
大模型学习路线图,整体分为5个大的阶段:
04视频和书籍PDF合集
从0到掌握主流大模型技术视频教程(涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向)
新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路(不吹牛,真有用)
05行业报告+白皮书合集
收集70+报告与白皮书,了解行业最新动态!
0690+份面试题/经验
AI大模型岗位面试经验总结(谁学技术不是为了赚$呢,找个好的岗位很重要)
07 deepseek部署包+技巧大全
由于篇幅有限
只展示部分资料
并且还在持续更新中…
人工智能大潮已来,不加入就可能被淘汰。如果你是技术人,尤其是互联网从业者,现在就开始学习AI大模型技术,真的是给你的人生一个重要建议!
真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座,技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等,欢迎大家~】