最近又看到一张讲 RAG 的图。
四格漫画式的设计,标题叫RAG from Scratch,流程清清楚楚:Indexing → Retrieval → Augmented → Generation。
第一格,PDF 文档被 parse 成文本,再 chunk 成块,经过 Embedding Model 变成向量,存进 Milvus 这样的向量数据库。第二格,用户提问被编码成向量,去库里做语义搜索,捞出最相关的几个 chunk。第三格,这些 chunk 被拼成上下文,和用户问题一起塞进 Prompt。第四格,LLM 基于这个增强过的 Prompt,生成最终回答。
这张图简洁、正确,也几乎是今天所有 RAG 入门教程的标准答案。
但问题恰恰在于:它太标准了。标准到让很多人误以为,这就是 RAG 的终局形态。
事实不是。
RAG 只是基础。真正的下一站在图上没有画出来——一个会判断、会规划、会自我修正的循环系统。
它叫 Agentic RAG。
一、传统 RAG:把图书馆搬进大模型
要理解 Agentic RAG,先得承认传统 RAG 做得已经不错。
它的本质很简单:大模型有知识截止和幻觉问题,那就给它配一个外挂知识库。问问题的时候,不是直接让模型凭记忆回答,而是先去知识库里检索相关内容,再把检索结果作为上下文喂给模型。
流程就是那张图里的四步:
Indexing(索引):把原始文档解析、分块、向量化,存进向量数据库。
Retrieval(检索):把用户问题也变成向量,在数据库里找语义最相近的片段。
Augmented(增强):把检索到的片段拼成上下文,连同原始问题一起组织成 Prompt。
Generation(生成):LLM 基于上下文生成回答。
这套架构解决了一个核心问题:让模型回答基于事实,而不是基于训练记忆。
对于产品 FAQ、内部文档查询、简单知识问答这类场景,传统 RAG 足够好用。它简单、快速、可解释,也最容易落地。
这也是为什么它迅速成为企业 AI 应用的默认配置。
二、但是,它的天花板也很明显
传统 RAG 的核心假设是:只要检索到最相关的文档片段,答案就自然成立。
这个假设在简单问题上成立,在复杂问题上经常失灵。
第一个问题:它只做一次检索。
用户的问题如果涉及多个概念、需要多步推理,单次检索很难一次性捞出全部必要信息。它不会判断"信息是否足够",只会把 top-k 的片段塞进 Prompt。
第二个问题:它不会改问题。
原始问题往往表述模糊、包含歧义,或者需要被拆解成子问题。传统 RAG 直接把用户的问题编码成向量去搜,搜到什么算什么。它不会重写查询、不会追问澄清、不会把大问题拆小。
第三个问题:它不会用工具。
企业里的答案不只在文档里。可能在数据库里,在 ERP 系统里,在实时 API 里,在 Excel 表格里。传统 RAG 的检索对象是固定的向量库,无法动态调用 SQL、搜索引擎、计算器或代码执行环境。
第四个问题:它不会自我检查。
生成完答案就结束了。它不会评估"这个答案是否充分",也不会因为发现矛盾而回去重新检索。检索误差会直接传导到最终回答。
用一句话概括:传统 RAG 擅长"找答案",但不擅长"判断该找什么、找得够不够、找错了怎么办"。
三、Agentic RAG:从检索到决策
Agentic RAG 的核心理念,就是把那个静态的四格流程,升级成一个动态的、带反馈的循环。
它不是一次性的 Retrieve-then-Generate,而是一个 Agent 在持续做决策:
- 先理解用户真正想问什么,必要时重写查询;
- 再判断需要哪些信息、该去哪里找;
- 然后调用合适的工具或数据源去检索;
- 拿到结果后评估是否足够、是否可信;
- 如果不够,就调整策略再检索;
- 直到满足质量标准,才生成最终答案。
英文原文里列得很清楚:
Agentic RAG → Rewrites the query → Identifies missing information → Chooses the right data source → Searches, evaluates, and retrieves → Iterates until the result is good enough.
关键差别可以浓缩成一句话:RAG retrieves information. Agentic RAG decides how to retrieve better information.
RAG 做的是信息检索。Agentic RAG 做的是检索策略的制定与执行。
四、这不只是工程升级,是能力边界的外移
从工程视角看,Agentic RAG 比传统 RAG 多了几个模块:任务规划器、工具调用接口、评估机制、记忆模块和迭代控制。
但真正值得关注的,是它把 AI 系统的能力边界往外推了一大步。
它让系统能够处理模糊问题。
用户不会总是把问题写得很清楚。Agentic RAG 可以先做查询重写和澄清,而不是把一句模糊的话直接丢进向量库。
它让系统能够处理多跳推理。
比如问"为什么 Q3 销量下滑",需要先找到销量数据,再找到市场活动记录,再找到竞品动态,最后综合判断。Agentic RAG 会把这个问题拆成多个子任务,分别检索,再整合结论。
它让系统能够调用实时和结构化数据。
当向量库里的文档不够时,Agent 可以自动去查数据库、调 API、跑代码、搜网页。它不再被锁定在预先灌好的文档里。
它让系统有了自我修正的可能。
生成答案前,Agent 可以评估上下文是否充分、来源是否可靠、逻辑是否自洽。如果不满足条件,就回到检索步骤重新来。
这种能力对于金融分析、医疗辅助诊断、法律咨询、科研综述、复杂客服等场景,价值尤其明显。
百度的技术文章里举了一个医疗诊断的例子:传统 RAG 可能直接检索相似病例生成建议;而 Agentic RAG 会分解问题为症状确认、检查建议、治疗方案三个子任务,再调用医学知识库和计算工具验证,最后给出分阶段治疗方案并附依据。
五、代价与取舍:并非所有场景都需要 Agentic
Agentic RAG 听起来更好,但它不是没有代价。
第一,延迟更高。
每次迭代检索、评估、再检索,都会增加响应时间。对于需要即时反馈的场景,这是个问题。
第二,成本更不可控。
多轮 LLM 调用、多工具调用、更长的上下文,都会推高 token 和计算成本。如果没有明确的退出条件,它可能陷入无限循环。
第三,系统更复杂。
需要设计任务规划、工具 schema、评估标准、重试策略、观测日志。运维和调试的难度显著上升。
第四,并不是所有问题都值得。
如果用户只是查一个产品参数、一段政策条文,传统 RAG 又快又稳。强行上 Agent,反而是在用大炮打蚊子。
所以更理性的做法是按场景选择:
- 简单事实问答、文档摘要、静态知识查询:传统 RAG 足够。
- 复杂决策支持、多步骤任务、需要外部验证或实时数据的场景:Agentic RAG 更合适。
渐进升级也是一个可行路径。百度的文章建议分三阶段:先优化检索模块,再集成工具,最后部署规划模块和迭代优化。
六、给 AI 建设者的三个判断
如果你是正在做 AI 应用的工程师、产品经理或技术负责人,关于 RAG 的演进,至少有三点值得现在就想清楚。
第一,RAG 是基础设施,不是差异化。
能做 RAG 已经不算什么壁垒。未来真正产生差别的,是检索策略、工具编排、评估体系和领域知识的结合深度。
第二,Agentic 不是炫技,是对复杂问题的必要回应。
当用户需求从"查资料"升级到"帮我分析、判断、决策"时,系统必须具备规划、调用和自我修正的能力。这不是可选优化,是能力边界问题。
第三,RAG 的下一步,是思维方式而不是架构图。
传统 RAG 的架构图是一张静态流程图。Agentic RAG 的架构图更像一个循环:理解、行动、观察、反思、再行动。前者是 pipeline,后者是 agent。
结语:图没变,但读图的方式要变
那张RAG from Scratch的四格图,今天依然有效。它讲清楚了 RAG 最基础的形态,也是很多企业迈出的第一步。
但它不是终点。
真正重要的,不是图里画了什么,而是图外还缺了什么。缺的是判断、是循环、是对"更好信息"的持续追求。
RAG 把图书馆搬进了大模型。Agentic RAG 则给这个图书馆配了一个会思考的管理员:他知道该去哪一层、该查哪本书、找不到时该换什么策略。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~