很多人一听说「私有知识问答」，第一反应是：向量数据库 + Embedding + LangChain。
我自己踩过这个坑——笔记一共就十几篇 Markdown，也去搭检索链路，最后发现：模型胡编，不是因为没有向量，而是因为检索结果空了它还在硬答；反过来，文档很少时，直接塞进上下文往往更稳、更便宜。
所以这篇先不卖框架，只讲清三件事：
1. RAG 到底解决什么（以及不解决什么）
2. 什么时候该上、什么时候别上
3. 用 TypeScript + DeepSeek 手搓一个最小版：本地 Markdown → 分块 → 关键词召回 → Agent 强制引用出处
适合谁： 想给 Agent 接内部文档 / 个人笔记，又还没决定要不要上向量库的人。
不太适合谁： 已经在调 FAISS/Milvus 性能的人——这篇是判断与最小闭环，不是检索调优专题。
一句话先记住
RAG = 先从知识库捞出相关片段，再交给模型回答。
它解决的是「模型没见过 / 上下文塞不下」，不是「模型不够聪明」。
没有检索的生成，容易一本正经地胡说；
没有必要的 RAG，则是在给自己加运维负担。
三种喂知识的方式
| 方式 | 做法 | 适合 | 代价 |
|---|---|---|---|
| 全量塞上下文 | 把文档直接贴进 Prompt | 文档少、总长远小于上下文窗口 | 贵、吵、一超就崩 |
| 工具式检索 | search_notes一类关键词搜索 | 笔记/文件量中等、查询词明确 | 语义相近但用词不同时易漏 |
| RAG（分块 + 召回） | 切块 → 建索引 → Top-K 片段进 Prompt | 文档多、问题开放、需要引用原文 | 分块/召回质量决定上限 |
第 03～06 篇里的search_notes，其实是「极简检索工具」。
RAG 是把检索工程化：分块策略、相关性排序、引用约束、失败时怎么办。
什么时候该上 RAG？
满足多数条件再上：
1. 知识在模型训练数据之外（内部文档、私有笔记、产品手册）
2. 总量明显大于舒服的上下文预算（经验：经常要选片，而不是偶尔贴一份）
3. 答案需要可追溯（最好能指出「来自哪段文档」）
4. 内容会更新（全量塞 Prompt 每次都要重贴；索引可增量更新）
什么时候别上？
| 场景 | 更合适的做法 |
|---|---|
| 只有 3～5 页说明书 | 直接塞上下文，或一次读文件工具 |
| 步骤固定的查表/算数 | Workflow 或普通函数，别绕模型 |
| 问的是常识/公开知识 | 直接问模型即可 |
| 你还没验证「检索是否找得到」 | 先做关键词搜索 Demo，别先上向量库 |
| 问题其实是「记得用户说过什么」 | 那是第 05 篇的记忆，不是 RAG |
经验法则：能用读文件 + 短上下文解决的，先别上 RAG；检索经常空结果的，先改分块与查询，再谈换向量模型。
RAG 流水线（四步）
文档 → ① 分块(Chunk) → ② 建索引(Index) ↓ 用户问题 → ③ 召回(Retrieve Top-K) → ④ 注入 Prompt → 模型生成对照 Agent：
- ①② 通常在「离线 / 启动时」做完
- ③ 变成工具：
search_knowledge(query) - ④ 把工具返回的片段当作 Observation，再生成答案
所以 RAG Agent 仍然是你熟悉的 Tool Loop——只是工具背后换成了知识库。
分块：比向量模型更先决定成败
坏分块示例：在句子中间砍断，或一块里混了三个无关主题。
入门够用的规则：
| 策略 | 说明 |
|---|---|
| 按标题切 | Markdown 的##/###天然边界 |
| 按段落 + 长度上限 | 例如每块 300～800 字，块间重叠 50～100 字 |
| 保留来源 | 每块带source（文件名）+heading |
重叠（overlap）是为了避免答案刚好落在切缝上。
本篇示例：按##标题切块，简单、可读、好调试。
召回：先关键词，再谈向量
向量库（embedding + 近似最近邻）适合「用户说法和原文用词不一致」的语义检索。
但学习阶段更建议：
1. 先用关键词 / 简单打分跑通闭环（本篇做法）
2. 用真实问题测「召回率」：该出现的段落有没有进 Top-K
3. 召回仍差，再换 embedding 或混合检索（关键词 + 向量）
本篇打分逻辑（可解释、零额外依赖）：
score = 标题命中权重 + 正文词项命中次数 取 Top-K（默认 3）块返回以后换成余弦相似度，Agent 侧工具签名可以不变——这才是干净的分层。
「检索到了」不等于「答对了」
还要在 Prompt 里立规矩（接第 04 篇操作系统）：
1. 只根据提供的片段回答；片段不足就说「资料不足」，禁止编造
2. 引用出处（文件名 / 标题）
3. 冲突时列出冲突，不要擅自抹平
没有这三条，RAG 只是「更像有依据的幻觉」。
完整示例：读你自己的笔记
knowledge/*.md：示例知识库（可换成你的笔记）- 启动时分块建内存索引
- Agent 工具
search_knowledge→ Top-K 片段 - 多轮问答，强制引用出处
索引结构
type Chunk = { id: string; source: string; // 文件名 heading: string; // ## 标题 text: string; // 块正文 };检索工具（给模型看的说明书）
{ type: "function", function: { name: "search_knowledge", description: "从本地知识库检索相关笔记片段。回答产品、流程、个人笔记类问题前必须调用。返回 Top-K 块及来源。", parameters: { type: "object", properties: { query: { type: "string", description: "检索问句或关键词" }, topK: { type: "number", description: "返回条数，默认 3" }, }, required: ["query"], }, }, }试玩：
你：我们退款流程最长多久？依据是什么？ 你：出差杭州的差旅标准是多少？ 你：知识库里有没有写 Agent 系列的更新节奏？你应在 Observation 里看到具体source/heading，最终答复应点名出处。
把knowledge/换成你自己的 Markdown 后，这就是「读你笔记的知识 Agent」最小版。
和全量塞上下文怎么选？（同题对比）
假设知识库合计约 2 万字：
| 全塞 | RAG Top-3 | |
|---|---|---|
| 每次请求 token | 接近全文 | 通常只有数百～两千字 |
| 噪声 | 高 | 相对低（若召回准） |
| 漏检风险 | 低（都在上下文里） | 有（召回失败则必错） |
| 运维 | 几乎无 | 要维护分块与索引 |
文档短且必须零漏检 → 倾向全塞或「读整文件」工具。
文档长、问题局部 → 倾向 RAG。
两者之间 → 先关键词检索工具，再决定要不要向量化。
升级路径（本篇之后你才需要）
按痛点加，不要一次性堆栈：
1. 召回差（用词不一致） → 上 embedding + 向量库（或托管检索）
2. Top-K 里噪声多 → 加重排（rerank）或让模型先筛片段
3. 索引要增量更新 → 文件监听 / 定时重建
4. 权限 → 按用户过滤可检索范围（第 12 篇安全清单会再提）
Agent 框架（第 09 篇）往往内置 RAG 组件；你现在手搓一遍，以后才知道框架帮你藏了什么。
常见踩坑
| 坑 | 现象 | 处理 |
|---|---|---|
| 块太大 | 检索准但上下文爆炸 | 缩小块、降 Top-K |
| 块太碎 | 答案被切散 | 增大块或加 overlap |
| query 太短 | 召回飘 | 让 Agent 先改写查询再搜（可多一轮） |
| 不引用出处 | 无法验收 | 输出契约强制来源：... |
| 空结果仍硬答 | 幻觉 | Observation 含hits:[]时 Prompt 要求承认不足 |
| 把聊天记忆当知识库 | 概念混乱 | 偏好 → 05；文档知识 → 07 |
本篇小结
1. RAG = 检索相关片段 + 约束下生成；解决私有知识与上下文长度问题。
2. 先判断该不该上：文档少就塞上下文；词明确就关键词工具；量大且语义开放再上完整 RAG。
3. 分块与 Prompt 约束往往比「换更贵的向量模型」更管用。
4. 对 Agent 而言，RAG 通常是一个（或一组）检索工具，仍跑在 Tool Loop 里。
练习
1. 删掉知识库里某一段关键句，问原问题，确认 Agent 会说「资料不足」而不是编造。
2. 把
topK从 3 改成 1，观察答案变脆还是变干净。3. 新增一篇故意用词不同的笔记（同义改写），用当前关键词检索是否召回——体会何时该上向量。
下一篇预告
08｜工具设计比提示词更重要
检索工具返回什么字段、错误怎么写、粒度多粗，会直接决定 Agent 聪不聪明。下一篇把「好工具 / 烂工具」对照着改一遍。
配套代码
系列：《AI Agent 开发：从 0 到 1》· 第 07 / 12 篇 · TypeScript + DeepSeek
https://github.com/chenjiaobin/min-agent.git
想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2026 年AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！
👇👇扫码免费领取全部内容👇👇
一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势
想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：
1. 100+本大模型方向电子书
2. 26 份行业研究报告：覆盖多领域实践与趋势
报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：
- 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
- 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
- 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
- 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。
3. 600+套技术大会 PPT：听行业大咖讲实战
PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：
- 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
- 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
- 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
- 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。
二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走
想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！
1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位
面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：
2. 102 道 AI 大模型真题：直击大模型核心考点
针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：
3. 97 道 LLMs 真题：聚焦大型语言模型高频问题
专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：
![]()
三、路线必明： AI 大模型学习路线图，1 张图理清核心内容
刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！
路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。
L1阶段:启航篇丨极速破界AI新时代
L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。
L2阶段：攻坚篇丨RAG开发实战工坊
L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。
L3阶段：跃迁篇丨Agent智能体架构设计
L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。
L4阶段：精进篇丨模型微调与私有化部署
L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。
L5阶段：专题集丨特训篇 【录播课】
![]()
四、资料领取：全套内容免费抱走，学 AI 不用再找第二份
不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：
👇👇扫码免费领取全部内容👇👇
2026 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！
