本文深入解析了 AI Agent 的记忆系统，包括短期记忆（上下文窗口）、长期记忆（持久化存储）和矢量记忆（语义搜索）三个核心组件，以及它们如何协同工作来提升 AI 对话能力和效率。文章还介绍了从零搭建记忆系统的技术实现和设计关键原则，适合想要学习大模型和 AI Agent 记忆机制的程序员和小白收藏阅读。
为什么 AI 对话每次都要重新解释背景？
为什么同一个问题换了个问法，AI 就答不上来了？
答案藏在 AI Agent 的记忆系统里。
今天从技术角度拆解：短期记忆、长期记忆、矢量记忆——这三个东西是怎么配合工作的。
01 短期记忆：上下文窗口
什么是短期记忆？
就是 AI 正在"思考"时能访问的信息——也就是我们常说的 上下文窗口（Context Window）。
以 Claude 为例：
- Haiku：200K tokens ≈ 15万字 ≈ 一本中篇小说
- Sonnet 4.6：200K tokens
- Opus 4：200K tokens
它存储的内容：
- 对话历史（用户说了什么、AI 回复了什么）
- 当前任务的背景信息
- 正在处理的文件内容
- Agent 内部的推理状态
# 上下文窗口示意图 conversation = [ {"role": "user", "content": "帮我重构这个函数"}, {"role": "assistant", "content": "好的，我先看看代码..."}, {"role": "user", "content": "改成用 async/await"}, # ... 更多对话 ] # 当前窗口已消耗的 token 数 print(f"已使用: {len(conversation) * 150} tokens")短期记忆的问题：贵，且有上限。
每次对话，窗口里的内容都要重新传给模型计算。token 越多，费用越高，速度越慢。
这就是为什么要让 AI “记重要的，忘不重要的”——记忆系统的核心矛盾就在这里。
02 长期记忆：持久化存储
什么是长期记忆？
不依赖上下文窗口，持久化存储的信息。
AI Agent 的长期记忆通常保存在：
| 存储方式 | 适用场景 | 示例 |
|---|---|---|
| 文件系统 | 结构化数据、项目文档 | .claude/memory/ |
| 数据库 | 用户偏好、配置信息 | SQLite、PostgreSQL |
| KV 存储 | 快速读取的键值对 | Redis、etcd |
| 外部服务 | 跨 Agent 共享信息 | API 调用 |
典型应用：用户偏好
# 长期记忆示例：记住用户偏好 classUserMemory: def__init__(self, user_id: str): self.user_id = user_id self.storage_path = f".claude/memory/{user_id}" defremember(self, key: str, value: str): """保存用户偏好""" withopen(f"{self.storage_path}/{key}.md", "w") as f: f.write(value) defrecall(self, key: str) -> str: """读取用户偏好""" try: withopen(f"{self.storage_path}/{key}.md", "r") as f: return f.read() except FileNotFoundError: returnNone # 使用 memory = UserMemory("user_123") memory.remember("preferred_language", "Python") memory.remember("code_style", "类型注解必须写") # 下次对话时加载 language = memory.recall("preferred_language") # "Python"长期记忆的价值：跨会话积累信息，不需要每次重新解释。
03 矢量记忆：语义搜索的核心
什么是矢量记忆？
把信息转换成向量（Embedding），存储在向量数据库里，需要时通过相似度搜索召回。
这是 AI Agent 记忆系统里最关键的一层。
工作原理：
文本 → Embedding Model → 向量 → 存入向量数据库 查询 → Embedding Model → 向量 → 在数据库中搜索相似向量 → 召回相关内容举个例子：
# 矢量记忆示意图 documents = [ "Claude Code 是 Anthropic 推出的命令行工具", "OpenClaw 是一个 Agent 编排框架", "wechat-publisher 可以一键发布公众号文章" ] # 当用户问 "有什么工具能发公众号？" query = "发公众号的工具" # 向量数据库会找到最相关的文档 results = vector_db.search(query, top_k=2) # → ["wechat-publisher 可以一键发布公众号文章"] # → ["Claude Code 是 Anthropic 推出的命令行工具"]为什么需要矢量记忆？
传统的关键词搜索（grep/Lucene）只能匹配字面。
矢量搜索能理解语义——你搜"AI编程工具"，能找到"Claude Code"，即使文档里没写"AI编程工具"这几个字。
04 三层记忆如何协同
实际的 AI Agent 不会只用一种记忆，而是三层协同：
用户提问 ↓ 1. **短期记忆：检查当前对话上下文** ↓ 2. **长期记忆：加载用户偏好、项目背景** ↓ 3. **矢量记忆：搜索历史经验、相关文档** ↓ 综合所有信息 → Agent 推理 → 回复一个具体场景：
用户：帮我优化这个图片处理模块 ↓ 短期记忆 当前在处理 user-upload 模块，文件是 image_processor.py ↓ 长期记忆 该用户上次偏好：喜欢函数式风格、讨厌过度封装 ↓ 矢量记忆 找到 3 个月前类似的优化案例：用 VectorDB 缓存 + 流式处理 ↓ Agent 综合信息 输出：基于上次案例的优化建议 + 符合用户偏好的代码风格05 技术实现：从零搭建记忆系统
用 Python 简单实现一个三层记忆系统：
from dataclasses import dataclass from typing importOptional import json @dataclass classMemorySystem: """三层记忆系统的简化实现""" short_term: list = None# 对话历史 long_term_path: str = ".claude/memory/"# 持久化路径 vector_store: dict = None# 简化版向量存储 def__post_init__(self): self.short_term = [] self.vector_store = {} defadd_short_term(self, role: str, content: str): """添加到短期记忆（对话历史）""" self.short_term.append({"role": role, "content": content}) defsave_long_term(self, key: str, value: str): """保存到长期记忆（文件系统）""" withopen(f"{self.long_term_path}{key}.json", "w") as f: json.dump({"key": key, "value": value}, f) defload_long_term(self, key: str) -> Optional[str]: """从长期记忆读取""" try: withopen(f"{self.long_term_path}{key}.json", "r") as f: return json.load(f)["value"] except FileNotFoundError: returnNone defadd_to_vector_store(self, content: str, metadata: dict): """添加到矢量记忆（简化版：存储原始内容）""" # 实际项目中应使用 FAISS / ChromaDB / Pinecone vector_id = len(self.vector_store) self.vector_store[vector_id] = {"content": content, "metadata": metadata} defsearch_vector(self, query: str, top_k: int = 3) -> list: """矢量搜索（简化版：按关键词匹配）""" results = [] for vid, item inself.vector_store.items(): if query.lower() in item["content"].lower(): results.append(item) return results[:top_k] # 使用示例 memory = MemorySystem() # 短期记忆 memory.add_short_term("user", "帮我重构图片上传模块") # 长期记忆 memory.save_long_term("user_style", "喜欢函数式风格，避免过度封装") # 矢量记忆 memory.add_to_vector_store( "上次重构：图片压缩用 Sharp 库，WebP 格式转换", {"date": "2025-12-01", "type": "refactor"} ) # 查询 style = memory.load_long_term("user_style") # "喜欢函数式风格，避免过度封装" context = memory.search_vector("图片 压缩 重构") # 找到相关记录生产环境推荐工具：
| 类型 | 工具 | 适用场景 |
|---|---|---|
| 向量数据库 | ChromaDB | 本地开发、轻量级 |
| 向量数据库 | FAISS | Facebook 开源、大规模 |
| 向量数据库 | Pinecone | 云服务、生产级 |
| 向量数据库 | Milvus | 国产、开源、大规模 |
| 记忆框架 | MemGPT | 大模型记忆管理 |
| 记忆框架 | LangChain Memory | 与 LangChain 集成 |
06 设计记忆系统的关键原则
原则 1：按需加载，不要全量塞入
窗口空间有限。把对当前任务最有用的记忆优先加载。
# 不好：全部加载 context = all_user_memories # 可能爆窗口 # 好：按任务相关性筛选 context = filter_relevant(memories, current_task) # 只加载相关的原则 2：定期遗忘，保留最重要的
短期记忆要设上限。超过就压缩或归档。
MAX_SHORT_TERM = 50 # 最多保留 50 条对话 def compress_if_needed(messages): if len(messages) > MAX_SHORT_TERM: # 保留最近 20 条 + 摘要 return [ summarize(messages[:-20]), *messages[-20:] ]原则 3：矢量存储要定期更新
过时的信息会误导 AI。设置 TTL 或定期重建索引。
总结
| 记忆类型 | 存储位置 | 生命周期 | 用途 |
|---|---|---|---|
| 短期记忆 | Context Window | 当前会话 | 正在处理的任务 |
| 长期记忆 | 文件/数据库 | 持久化 | 用户偏好、项目背景 |
| 矢量记忆 | 向量数据库 | 持久化 | 历史经验、语义搜索 |
三者配合：
- 短期记忆管当前
- 长期记忆管经验
- 矢量记忆管检索
懂了这个系统，你就理解了 AI Agent 为什么能"记住你"——而不是每次都像个陌生人一样从头开始。
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
为什么要学习大模型？
我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着AI技术飞速发展，预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。
大模型入门到实战全套学习大礼包
1、大模型系统化学习路线
作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！
2、大模型学习书籍&文档
学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。
3、AI大模型最新行业报告
2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。
4、大模型项目实战&配套源码
学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。
5、大模型大厂面试真题
面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。
适用人群
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
