RAG 是什么?为什么要用RAG 模型?本文将用最白话的方式带你了解RAG 意思,告诉你RAG 技术原理与4 大RAG 优点,并用实例跟你分享企业RAG 应用案例!
检索增强生成(RAG)是一种优化大型语言模型(LLM)的方法,启动能够在生成响应之前引用数据训练之外的权威知识库。LLM使用海量数据进行训练,拥有完成亿个参数,能够执行诸如回答问题、翻译语言和完成句子等任务。RAG 在LLM强大功能的基础上,通过访问特定领域或组织的内部知识库,而重新抽取训练模型,进一步提升了其输出的相关性、准确性和实用性。这是一种经济的高效的改进方法,适用于各种场景。
RAG包含三个过程,主要是:搜索、增强和生成。
- 检索:根据用户的查询内容,从外部知识库获取相关信息。具体来说,将用户的查询通过嵌入模型转换进行操作,方便与支持数据库中存储的相关知识进行比对。通过相似性,查找与查询最匹配的前K个数据。
- 增强:将用户查询的内容和搜索到的相关知识一起嵌入到预设的词提示模板中。
- 生成:将经过搜索增强的提示词内容输入到大型语言模型中,以生成所需的输出。
以下是流程图:
一、RAG 的优势有哪些?
RAG 架构由于有内置检索机制,因而能够利用大语言模型常规训练之外的额外数据源。通过 RAG 将大语言模型建立在外部的一系列可验证的事实上,可实现以下几个有益目标:
准确性
RAG 为大语言模型提供了引用来源,因此,用户可以加以验证。您还可以将 RAG 架构设计为在问题超出其知识范围时将“我不知道”作为回答。总体而言,RAG 可以减少大语言模型在输出结果中分享错误或误导性信息的几率,进而可能会提高用户的信任度。
成本效益
对大语言模型进行重新训练和微调既昂贵又耗时,就像从头开始创建一个基础模型(例如构建一个聊天机器人)并添加特定领域的信息一样。借助 RAG,用户可以将新数据引入大语言模型,还可以通过上传文档或文件来轻松替换或更新信息源。
降低 AI 幻觉的风险
OpenAI 的 GPT 等生成式 AI 模型通过检测其数据中的模式,然后使用这些模式来预测用户输入最可能的结果来工作。有时模型会检测到不存在的模式。当模型将错误的或虚构的信息当作事实呈现时,就会发生幻觉或虚构。
RAG 将 LLM 锚定在由真实、权威和最新数据支持的特定知识中。与仅在其训练数据上运行的生成模型相比,RAG 模型倾向于在其外部数据的上下文中提供更准确的答案。虽然 RAG 可以降低出现幻觉的风险,但它不能使模型完全无误。
RAG vs 传统生成式AI
目前市面上的传统生成式AI 大多都只是根据网路上的一般资讯进行训练,就像一个受过通识教育的大学生;而RAG 则能将企业的专属资料与生成式AI相结合,让模型深入了解特定领域的知识和工作流程,就像对模型进行入职培训,让生成式AI 真正为企业带来实质价值。
以下用大家较熟悉的生成式AI 应用ChatGPT 与RAG 进行比较:
✦生成式AI:生成式AI 是预训练好的大模型(如GPT),已经具备通用的推理能力,每个人都可以透过提示词优化(Prompt Engineering),运用大模型来生成过去需要大量资源才能达成的结果。
使用GPT 模型的ChatGPT 应该是大家最熟悉的生成式AI 应用,ChatGPT 就像一个天马行空的作家,可以根据你的指示,编造出一个故事、写一首诗,甚至模仿某种写作风格。 ChatGPT 擅长创造新的内容,但不一定能保证内容的准确性。
✦ RAG:像一个资料整理高手,它会根据你的需求,在你提供的资料库中搜寻相关资讯,然后用清晰、简洁的语言将资讯整理成你想要的格式,例如文章、报告、摘要等等。 RAG 的优点是能保证内容的准确性,因为它的回答是来自真实的资料。
3 大RAG 应用场景
企业知识管理:让企业内部人员透过自然对话,轻松找到需要的正确资料
客服机器人:24 小时快速精准回复客户问题,提升客户满意度
专业知识问答:打造创新服务模式,扩大客户触及范围、降低营运成本
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。