你的 Agent「记得」用户上周说过对花生过敏——这在物理上是怎么发生的?
多数人答「接了个记忆模块」。抓一次请求就知道不是:模型在两次调用之间不保留任何东西,上一轮的信息没被重新塞进这一轮的窗口,下一轮就等于没发生过;所谓记得,全是每轮重新搬回去的结果。
于是「记忆系统」的真身不是给模型装硬盘,而是每一轮重新决定窗口里放哪些 token 的一套调度。当成存储选型,你会一直答不出四个问题:窗口里哪几格是记忆、哪一格必须封顶、这条刚说出口的信息该不该写进长期层、写错之后它从哪条边反复回来。下面十四张图从这条不变式往下推,每层出现前先答一句「不做会怎样」。
🧭 本文路线图
①两次调用之间零残留
②三条硬约束逼出分层
③不分层的两个极端
④两套词汇一张换页图
⑤代码写还是模型写
⑥写入准入四问
⑦四种触发一个入口
⑧长期层只收断言
⑨每轮窗口的槽位
⑩三类读触发
⑪召回预算与三种读错
⑫三条线可写性不同
⑬污染沿加载边回流
⑭决策树与最小档
▍ 一、两次调用之间,模型什么都没留下
一次调用的全部输入就是这一轮的窗口。调用结束,模型侧不残留任何状态:没有变量、没有句柄、没有会话对象。下一次是全新的前向,只看得见你重新递进去的那些字。
后端有现成坐标可借:窗口是 RAM,外面的存储才是磁盘,记忆就是在两级间搬页。一手源把这套机制叫虚拟上下文管理,灵感明写来自操作系统的分层内存——靠在快慢介质间搬数据,造出「内存很大」的表象(2026-08-27 回核论文摘要)。
于是问题换了问法:不再问它记不记得,而是问这一格这一轮被搬回来了吗。
▍ 二、三条硬约束:为什么不能全塞回去
那每轮把全部历史搬回去不就完了?三条硬约束各堵一条偷懒路径。
窗口有边:再长也装不下无限历史,而且每轮完整付一次费;更难受的是中段容易被淹——塞得越多不等于看得越清。
跨会话要连续:用户期望这周说的下周还算数,而会话对象会结束——连续性只能由会话之外的东西扛。
写回有副作用:搬回窗口只读,写进长期层却是持久的。一条写错的断言,会以「现行事实」的身份进入之后每一轮。
▍ 三、不分层的两个极端,坏在不同地方
不分层有两种走法,各自坏在不同地方。
全塞窗:每轮铺完整历史。短聊够用,一长就三件事同时发生:窗口被历史吃掉大半、近因区只剩一条缝、成本随轮数一路上去。贵,而且糊。
全外置:什么都不常驻,每轮现捞。窗口干净,代价是多一次往返,且捞不到的部分会变成一个安静的缺口——它不报错,只是让模型少一块拼图然后照样答。
▍ 四、两套分层词汇,其实是同一张换页图
两套词汇天天混用,先对齐。
认知向:工作记忆(当前任务进度)、短期记忆(本会话对话与工具轨迹)、长期记忆(跨会话偏好与教训)。操作系统向:常驻区(每轮必进窗)、可搜索的近期存(历史落盘、按需捞回)、长期外存(不限容量的事实库)。
两套是同一张换页图的两种叫法:工作记忆加常驻画像≈常驻区,会话历史≈近期存,跨会话知识≈长期外存。工程上也这么落——某图状态框架里,会话快照存单条线程的图状态,长期存储存跨线程的键值数据,编译期一起交进去(同日回核官方现行文档)。
▍ 五、代码写还是模型写:可审计与可演化互为代价
谁决定写什么?两条路,取舍互为代价。
代码写:固定 schema、按字段更新。完全可审计、出事能回放,但它只记你事先想到的字段。
模型写:给它一个写入工具,自己判断什么值得留下。换来可演化,代价是写策略不再完全可审计,也更易被诱导写入。
生产默认档是混合:制度性规则由人写死,经验性偏好交给模型写,但必须可审、可删、可回滚。要判断的不是选哪条路,是先分清哪些字段归哪一类。
▍ 六、写进去之前,先过四道准入
写不是记,写是一次带准入的提交。一句话说出口,先过四问。
稳定吗——长期偏好,还是这次任务的临时数字?验证了吗——已确认的结论,还是随口一猜?是不是密钥或隐私——密钥不进记忆是硬闸不是建议;长期层落盘等于用户画像库,加密、租户隔离、可删除权都得配齐。是不是一次性——一次性的留在本会话,结束随摘要走掉。
任一条不过就退回本会话。这道闸的价值是把「该不该记」从模型的临场判断,换成一个位置固定、可被审计的动作。
▍ 七、四种触发,一个入口
什么时候写?四个入口。显式触发——用户说「记住」或纠正偏好,优先级最高。周期触发——按轮数定期复盘写入(轮数是经验起点、按任务自定,图上只作示意)。事件触发——任务成功、失败或人审通过这类闸门上写。空闲整理——没有新消息时后台合并重复条目、消过期项。
四个入口不能各修一条路直通存储,必须汇进同一道准入闸、同一个写入口。否则你会得到四份互不知情的写策略,事故那天没人答得出这条断言从哪进来的。
▍ 八、长期层收断言,全文留在近期层
写进去的是什么形状,比写不写更要紧。长期层收的是压缩后的断言,不是全文日志:「偏好简体中文、代码要带注释」是断言;三千字对话原文不是。全文该去可搜索的近期层,需要时按检索捞回来。
理由两条。体积:断言小到可以每轮常驻,全文不行。可判断:断言能被覆盖、能被推翻、能带时间戳,一段原文不能——你没法给一整段聊天记录标「已过期」。陈旧只在断言层有解,重复膨胀也只有这一层才谈得上合并。
▍ 九、每一轮窗口,是这样拼出来的
把读那一侧摊开:每轮窗口按固定槽位拼出来——系统与人设、长期断言、当前任务进度、近期消息或压缩摘要、本轮检索片段、工具定义、本轮输入。
第一,长期断言只占其中一小格,且必须带硬上限;不封顶,它会慢慢把近因区吃掉。第二,关键约束与当前目标压在尾部近因区。
还有一笔容易漏的账:检索片段若每轮改写靠前那段静态前缀,缓存命中会崩。捞回来的东西挂在哪一格,不只是效果问题。
▍ 十、什么时候才去捞:三类读触发
读也有触发,分三类。总是读:常驻区与当前任务进度,每轮无条件进窗,不检索——成本固定,所以它必须小。
条件读:用户提到旧实体、任务跨了会话、或出现「上次那个」这类指代,才去长期层捞。
失败读:工具报错或用户纠正之后,捞相关的失败教训。这一类最容易被漏掉,却是让 Agent 不在同一个坑里栽第二次的唯一入口。
共同点:三类都不是「模型自己会想起来」,而是代码里一个明确的分叉。
▍ 十一、召回预算:少了漏,多了把噪声灌进决策
捞多少是预算问题,不是效果问题。太少会漏;太多把噪声灌进决策——检索结果一旦进窗,模型就默认它相关。合适档位是「小而准」,并给这一格设硬上限(条数是经验起点,图上只作三档示意)。
读错有三种,坏法完全不同:捞回过时偏好,行为锁死在旧设定上;捞回无关片段,工具选择被带偏;该捞没捞,用户直接感到「你忘了」。体感上都叫记忆不好用,要改的地方却各不相同:失效策略、召回精度、触发条件。
▍ 十二、三条线接在不同位置,可写性完全不同
这是全篇最贵的一条判断。自记忆回答「关于用户和任务学到了什么」,可写可变;外部检索回答「哪段文档支持这个回答」,语料应只读或受控更新;运行快照回答「跑到哪、怎么恢复」,是过程状态。
三者接在系统不同位置,可写性不同,事故的可逆性也不同:快照丢了可以重跑,语料错了可以重建,长期记忆写错会一直污染下去。技术上可以用同一套检索实现长期层,但产品语义仍是「自传与偏好」而非「百科」。
▍ 十三、被写坏的那一句,沿加载边反复回来
把写和读接起来看:记忆投毒坏的不是一次,是沿「每轮加载」那条边反复回来。
一条被诱导写入的断言落进常驻区之后,不需要再被攻击第二次——每一轮它都被正常的加载流程搬回窗口,以「已知事实」参与判断。这就是它和一次性错误回答的区别:后者随这轮结束,前者每轮复活。
防线只能卡在位置上,四道:写入前分类(偏好还是指令)、指令句拦截、高风险写入走人审、常驻区分区排优先级(系统 > 记忆 > 用户临时话)。四道闸全在写入侧和加载侧,不靠模型自觉。
▍ 十四、先问要不要,再问上到哪一层
把所有判断收成一棵树。无状态的单轮工具不需要记忆系统;只要外部知识就是检索,别叫它记忆;只要会话内能恢复,快照就够。要跨会话的偏好与自演化,才轮到长期层加写策略——强合规走代码写加人审,个性化陪伴走模型写加可删可审。最小可行档=结构化进度 + 会话消息 + 一张可选偏好表,痛了再往上加。
还有一件:只测单轮会产生评测错觉。公开的长程记忆基准可借来看口径——一套 500 题考五类能力(抽取、多会话推理、时间推理、知识更新、弃答),持续交互上准确率掉约 30%;另一套对话平均 300 轮、最多 35 个会话(同日回核论文摘要)。
快照丢了可以重跑,语料错了可以重建,长期记忆写错会一直污染下去——所以只有它需要版本、软删和人审。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~