本质上，目前的LLM只是一个无状态的函数。输入，计算，输出，结束。每一次交互，对它来说都是初见。
要让工具进化为Agent，必须引入状态。这个状态，就是记忆。没有记忆，智能就无法在时间维度上积累；没有积累，就没有复利。
构建记忆系统，就是赋予AI在时间长河中航行的能力。
记忆的本质
在计算机科学里，记忆就是状态管理。LLM天生无状态。为了延续，必须外挂存储。
我们通常把这个外挂分为两类：
- 短期记忆：像内存，快，贵，存当下。
- 长期记忆：像硬盘，慢，廉，存历史。
短期记忆
短期记忆，即 Prompt 中的 Context（上下文）。是 Agent 当前的工作台，摆着正在处理的任务，和刚说的话。
容量限制
强如GPT-4，上下文窗口也有极限（如128k token）。更要命的是成本和延迟。
对话越长，烧的钱越多，反应越慢。人不能把一辈子的事都塞进大脑前额叶，AI也一样。
优化策略
我们需要对短期记忆进行治理，核心在于压缩与丢弃。
短期记忆优化策略
滑动窗口
只保留最近的N轮对话，旧的直接扔掉。
简单，可控。但健忘，容易丢掉早期的关键信息。
摘要压缩
当对话超出阈值，触发后台任务，让LLM对历史进行摘要。 将 你好，我叫小明，我是一名程序员… 压缩为 用户是小明，职业程序员。
省空间，留核心。但细节丢了，计算成本也上去了。
长期记忆
如果短期记忆是工作台，长期记忆就是无限扩容的图书馆。当用户问起上个月讨论的架构方案，滑动窗口早就把它丢了，这时候，需要去图书馆里翻书。
向量数据库
长期记忆的载体，不是MySQL，而是向量数据库 (Vector DB)。人类的记忆是模糊的、关联的。你记不住一句话的ASCII码，但你能记住它的语义。
Vector DB通过Embedding技术，将文本转化为高维向量。在这个高维空间里，苹果和水果离得很近，但苹果和汽车就离得很远。
AI记忆系统架构图
RAG机制
RAG（Retrieval Augmented Generation）是长对话的解决方案。
RAG流程图
当用户Query到来时：
- 感知：将Query转化为向量。
- 检索：在向量库中寻找距离最近的Top-K片段。
- 增强：将这些片段作为参考资料塞进Prompt。
- 生成：LLM基于参考资料回答。
这解决了记忆容量问题，也缓解了幻觉问题。
架构融合
孤立的短期或长期记忆都不够完善，智能，在于两者的流动。
记忆巩固
人睡觉时，会将短期记忆固化为长期记忆，Agent 也需要这个过程。
记忆巩固流程图
交互时，全靠短期记忆抗。会话结束了，就提取关键信息。接着入库，把信息向量化，存进长期记忆。下次唤醒，先查库，构建好上下文，再开口。
写在最后
记忆不是存储，而是选择。遗忘和记住同样重要。如果记住了所有噪音，就听不见信号。
过滤掉平庸的日常，留下有价值的数据。这才是 Agent 的核心。
如何学习AI大模型？
如果你对AI大模型入门感兴趣，那么你需要的话可以点击这里大模型重磅福利：入门进阶全套104G学习资源包免费分享！
这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
这是一份大模型从零基础到进阶的学习路线大纲全览，小伙伴们记得点个收藏！
第一阶段：从大模型系统设计入手，讲解大模型的主要方法；
第二阶段：在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段：大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段：大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段：大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段：以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段：以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
100套AI大模型商业化落地方案
大模型全套视频教程
200本大模型PDF书籍
👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；
• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。
LLM面试题合集
大模型产品经理资源合集
大模型项目实战合集
👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
