news 2026/5/28 11:06:09

一次把 RAG 的「整套结构」讲清楚,存一下吧 很难找全的!

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
一次把 RAG 的「整套结构」讲清楚,存一下吧 很难找全的!

这张图,佳哥真是用心了

今天这一篇,我不讲案例、不讲代码、不讲某个框架的用法。

我只做一件事:

把这张图,从“看起来复杂”,讲到“你知道它为什么必须长这样”。


先说一句狠话

如果你觉得 RAG 是:

  • 向量库 + Embedding

  • 检索几段文本 + 丢给 LLM
  • 能跑就行

那你现在看到的大多数 RAG 系统,在规模一上来时,都会失效。

不是模型不行,是结构没搭完。

而这张图,讲的就是:

一个 RAG 系统,从“能用”,到“可扩展、可评估、可演化”,到底需要哪些结构层。


第一层:数据不是从“文本”开始的

很多人一上来就聊向量库,其实顺序是反的。

真正的起点在最底部:数据导入与文本分块。

你会看到这里不是一句“切 chunk”,而是:

  • 按字符 / 句子 / 语义的分块策略
  • 父子文档索引
  • 分层索引(RAPTOR)
  • 多表示索引

为什么?

因为检索失败,80% 不是检索算法的问题,是切块阶段就已经丢信息了。

如果你在这一层没有“结构意识”,

后面所有高级技巧,都是在补锅。


第二层:Embedding 从来不是一个模型的问题

中间这一大块,是很多人最容易误解的地方。

Embedding 不是只有一个向量。

你会看到:

  • 稠密向量(OpenAI / bge / jina)
  • 稀疏向量(TF-IDF / BM25)
  • 专用嵌入(Fine-Tuning / ColBERT)

为什么要这么复杂?

因为现实世界的检索,本来就不是一个相似度空间。

关键词、语义、领域信号,本来就不在同一个空间里。

真正可用的系统,一定是混合表示。


第三层:索引与向量库只是“物理层”

很多人把 FAISS、Milvus、HNSW 当成核心。

但在这张图里,它们被刻意画得很“靠后”。

因为它们解决的只是一个问题:

怎么快。

而不是:

怎么对。

索引策略(父子、分层、多表示),

远比你选哪种向量库重要。


第四层:真正开始像「系统」的地方——查询侧

图左上角,是整个系统的灵魂。

你会看到四件事同时出现:

  • 查询构建
  • 查询优化
  • 查询路由
  • HyDE / 主动检索

这一步意味着什么?

意味着系统已经不再是:

“用户问一句,我搜一遍”。

而是:

系统开始“理解该怎么问世界”。


第五层:检索后处理,决定答案质量上限

中间偏右那一块,是很多 Demo 系统里完全没有的东西。

  • 重排(Rerank / Cross-Encoder / ColBERT)
  • 压缩(相关性 + 冗余控制)
  • 校正(CRAG)
  • 主动补查

这一层解决的是:

不是有没有搜到,而是“哪些值得被看见”。

如果没有这一层,

你永远会觉得:

“有点对,但总差点意思”。


第六层:生成不只是“丢给模型”

右下角的生成部分,我刻意没有画成一个大脑就结束。

你会看到:

  • 提示工程
  • 结构化输出(Pydantic / JSON Schema)
  • 工具调用
  • Self-RAG / RRR
  • 主动再检索

这意味着一件事:

生成,本身也是一个可以被设计、被反思的过程。


第七层:评估,是系统是否“工程化”的分水岭

最右侧那一列,是很多人最不想做、但最重要的。

  • Precision / Recall / F1
  • MRR / MAP
  • BLEU / ROUGE / METEOR
  • 忠实度 / 安全性

有没有这一列,决定了:

你是在做 Demo,
还是在做系统。


那这张图,到底是什么?

它不是教程目录。

也不是技术大全。

它是一张工程演化图。

它回答的不是:“你现在该用什么技术”,

而是:“一个 RAG 系统,迟早会走到哪些结构层”。

如何学习AI大模型?

如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!

这份完整版的大模型 AI 学习和面试资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!


第一阶段:从大模型系统设计入手,讲解大模型的主要方法;

第二阶段:在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段:大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段:大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段:大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段:以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段:以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

100套AI大模型商业化落地方案

大模型全套视频教程

200本大模型PDF书籍

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

LLM面试题合集

大模型产品经理资源合集

大模型项目实战合集

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/23 8:59:06

深入解析DDR内存原理、测试方法及在嵌入式系统中的应用

文章目录摘要1. DDR内存核心技术解析1.1 物理架构与存储原理1.2 关键时序参数2. DDR测试方法与工具链2.1 测试环境搭建2.2 MemTest86测试流程3. 嵌入式系统集成实践3.1 ARM Cortex-A内存控制器配置4. 完整测试代码实现5. 常见问题解决5.1 信号完整性问题6. 成果展示技术图谱摘要…

作者头像 李华
网站建设 2026/5/22 6:56:49

交通仿真软件:Aimsun_(3).Aimsun基本操作

Aimsun基本操作 创建和配置仿真网络 在Aimsun中,创建和配置仿真网络是仿真过程的第一步。仿真网络是交通仿真的基础,它包括道路网络、交叉口、交通信号、交通流等基本元素。本节将详细介绍如何在Aimsun中创建和配置仿真网络,以及如何导入和导…

作者头像 李华
网站建设 2026/5/20 14:08:09

docker下搭建redis集群

1. 环境准备 准备好Linux系统机器,并安装好docker,阅读这篇文章前请先了解清楚docker的基本知识并且会熟悉运用docker的常用命令。学习docker基础知识可以参考这篇博文 安装好并启动docker后就可以开始搭建redis了 2. docker容器下安装redis 本篇文章…

作者头像 李华
网站建设 2026/5/26 6:53:55

docker 安装 mysql

目录 一、下载mysql镜像 1.查看你自己的镜像下载 ?2.运行一个mysql容器 方法一、?直接运行 方法二、创建脚本 直接使用脚本运行 3.连接数据库 一、下载mysql镜像 docker pull mysql:5.71.查看你自己的镜像下载 docker images?2.运行一个mysql容器 方法一、直接运行…

作者头像 李华
网站建设 2026/5/23 5:07:40

二分猜答案

二分前后缀分解lc786二分查找分数值范围&#xff0c;统计小于等于中间值的分数个数&#xff0c;定位第k小的素数分数并返回#include <vector> using namespace std;class Solution { private:vector<int> arr;int n, a, b; public:vector<int> kthSmallestPr…

作者头像 李华
网站建设 2026/5/22 20:31:35

信使(msner)(信息学奥赛一本通- P1376)四种做法

【题目描述】战争时期&#xff0c;前线有n个哨所&#xff0c;每个哨所可能会与其他若干个哨所之间有通信联系。信使负责在哨所之间传递信息&#xff0c;当然&#xff0c;这是要花费一定时间的&#xff08;以天为单位&#xff09;。指挥部设在第一个哨所。当指挥部下达一个命令后…

作者头像 李华