1. 从“金鱼AI”到“蒙象记忆”：AC-AIBot到底解决了什么
很长一段时间里，我用AI助手最大的感受就是：它像个金鱼，七秒记忆。上个月开会定了项目代号，它记住了；今天再打开新会话，问它“我们上周那个跨部门的需求评审后来怎么推进了”，它一脸茫然，仿佛我们从没聊过。更别提让它记住团队里每个人的职责边界、记录过的技术决策、反复强调过的输出风格——所有这些，一旦会话结束，全都归零。
AC-AIBot这个项目，目标就是解决这个“没记性”的病根。我给这套AI助手加了两样东西：一是全局记忆层，让助手跨会话、跨设备、跨时间记住真正重要的信息；二是大屏模式，把记忆和对话结果从手机、电脑的小窗口里解放出来，投到会议室、监控台和展厅的大屏幕上，让一群人能同时看见AI在“想什么、记得什么、接下来打算做什么”。
这套系统适合谁？如果你在做一个客服机器人、企业内部助手、智能终端或任何需要“长期服务同一批用户”的AI产品，全局记忆几乎是刚需。大屏模式则适合那些要把AI能力推向公共空间的产品，比如会议助手、值班机器人、展厅导览。看完这篇文章，你可以直接照搬我的分层记忆架构、召回策略和大屏布局方案，知道每一步为什么这么做，以及哪些坑我已经替你踩过了。
2. 记忆系统设计：别把“记得”做成“堆硬盘”
2.1 记忆不是一张表，而是三层结构
我最早犯的错，是把全局记忆理解成“把聊天记录都存下来，要用的时候全查一遍”。结果就是：一是存储成本爆炸，二是每次提问要检索海量历史，延迟高得没法用，三是最要命的——很多不重要的闲聊把关键信息淹没了，AI抓不住重点。
后来我重新梳理，把记忆拆成三层：
- 瞬时记忆：就是当前会话里的上下文，相当于人类的“刚才说了什么”。实现上用会话窗口管理，把最近几轮对话直接拼进Prompt，随会话结束而消亡。
- 工作记忆：与当前任务强相关的临时信息。比如用户在做一个“季度经营分析报告”，工作记忆里会存着他上传的数据表结构、他刚说的分析维度、当前的报告章节进度。这类记忆不需要永久保留，但任务没结束前必须一直在。
- 长期记忆：跨任务、跨会话的稳定事实。包括用户身份、组织架构、项目历史、偏好习惯、已确认的决策。比如用户说过“所有技术方案必须附带降级预案”，这句话要进长期记忆，以后每次生成方案都自动带上。
三层记忆的写入和读取路径完全不同。瞬时记忆直接注入当前Prompt；工作记忆存在一个按任务ID分桶的缓存区，任务结束时归档或清除；长期记忆要做结构化抽取和向量化，存入数据库，在需要时按相关性召回。这个分层最大的好处，是把“必须即时可用的”和“偶尔需要的”分开，不会所有东西都堆在同一个检索池子里。
2.2 存储选型：向量库管语义，关系库管事实
长期记忆光靠关键词匹配是远远不够的。用户不会每次都用同样的词描述同一件事。今天说“把运维的SOP整理一下”，下周可能说“我想看看之前那个故障处理的流程文档”，中间差了十万八千里，传统数据库的精确匹配根本拼不上。
所以存储上我采用了混合方案：向量数据库负责语义召回，关系数据库负责事实存储。用户说一句话，先经过Embedding模型转成向量，跟历史记忆做相似度检索，把语义相近的记忆捞出来；同时，结构化的事实（比如“用户A是项目B的负责人”“某系统上线时间是2024年3月”），用关系表存起来，按标签和属性精确查询。
为什么要搞两套？因为向量检索适合“模糊找”，比如“那个降级方案的事”，能模糊匹配到“××系统的容灾降级预案”；但向量检索不适合做精确约束，比如“只查这个月创建的提醒事项”就很难靠向量完成。关系型查询正好补上结构化条件过滤。实际使用时，两套查询结果做融合排序，再一起送给大模型。
2.3 记忆提取：从对话里“挖”值得记的东西
不是每句话都值得记住。用户随口说“今天天气不错”，记下来就是噪音。这里我设计了一套记忆价值判定规则，分三步：
- 主题识别：判断当前对话是否涉及计划、目标、偏好、决策、承诺、实体关系等可长期复用的信息。涉及具体任务、时间节点、人物角色、资源约束的，优先记为长期记忆。
- 信号强度打分：用户在对话里使用命令式语气（“以后都这样”）、时间明确词（“每周一同步”）、强调性表达（“一定”“必须”）时，记忆价值较高。模棱两可的短句，不记。
- 去重合并：新记忆进来前，先向量检索一遍已有记忆。如果相同主题已有记录，且新内容只是补充，就做字段合并，而不是另起一条。比如用户曾经说“报告用PDF格式发给客户”，后来又说“PDF之外也发一份Word给内部团队”，这两条要合成一条完整偏好，而不是变成两条互相打架的碎片。
这个提取过程我用了一个独立的小模型任务来做，而不是全塞给主对话模型。好处是：主对话模型专心回复用户，提取模型批量处理记忆写入，互不干扰，响应延迟也能控制住。
2.4 召回策略：记忆再多，也不能全塞进Prompt
大模型的上下文窗口再大，也是有限的。而且塞进去太多无关记忆，反而会干扰生成质量——AI会抓住一段远古时期的记忆开始跑题。我的召回策略分四步走：
- 候选召回：用当前对话的query向量去向量库检索TopN（一般是20条）语义相近记忆。
- 时效筛选：对候选记忆做时间衰减加权。一个月前的决策性内容权重高于昨天的闲聊，但有一种例外——如果该记忆被标记为“长期有效规则”，则不受时间衰减影响。
- 冲突检查：同一主题出现新旧记忆冲突时，默认返回新记忆，并在上下文里附带“该主题最近有过更新”的提示。
- Token配额：为记忆预留的Prompt空间固定在一个比例（我常用总上下文的30%），超出部分的记忆丢弃。宁可少给，不给垃圾。
这套策略跑下来，实际体感是：用户问“上次定的事”，AI能准确答出来；用户问“那个谁怎么说”，AI能关联到具体人物和当时的表态。这才是“有记性”该有的样子。
3. 全局记忆的工程实现：从写入到更新的完整链路
3.1 写入管线：每个环节都必须可控
记忆系统的写入链路，我在项目里是这样搭的：
对话消息 → 记忆提取过滤器 → 价值评分 → 实体识别/关系抽取 → 向量化 → 去重合并 → 双写存储每一步都不是可有可无的。记忆提取过滤器决定“哪些内容进候选”，如果这里太宽松，后面数据库全是垃圾；如果太严格，又容易漏掉关键信息。我的经验是：先宽松后收紧。初期把候选范围放得大一点，宁可多存一些低价值信息，然后再通过价值评分把低于阈值的定期清理。等积累了足够多的标注数据，再逐步收紧提取规则。
实体识别和关系抽取，我用的是提示词工程方式：让模型输出一个结构化的JSON，包含主体、属性、关系、时间范围、置信度。比如用户说“我是售后组的李工，我们组的服务SLA是2小时响应”，模型抽取出{entity: "售后组", attribute: "SLA响应时间", value: "2小时", relation: "李工属于售后组", confidence: 0.95}。这个JSON直接映射到关系库的字段，查询时就能按“组织/角色/规则”精确过滤。
3.2 更新与遗忘：记忆不是只增不改
记忆系统最怕的是“用户已经改主意了，AI还在执行旧指示”。我在设计更新机制时，引入了三种状态：
- 活跃：当前有效的记忆，用于正常召回。
- 过期：被新信息覆盖或用户明确否定的记忆，不参与召回，但留档可追溯。
- 归档：很久未被触发且价值评分下降的记忆，移出主库。
用户一旦说出跟旧记忆矛盾的内容，系统不是简单删除旧记录，而是把旧记录标记为过期，新记录置为活跃。为什么保留过期记录？因为用户有时候会反悔，今天改成A，下周又改回原来的方案，这时候能查到“原来那么定过”就很有价值。
遗忘机制也很重要，不是所有记忆都该半永久保留。我设置了一个定期任务，扫描六个月前未被召回且价值评分低于阈值的记录，自动降为归档状态。这能防止数据库无限膨胀，也能保持召回精度——记忆库里垃圾越少，检索精度越高。
3.3 冲突处理：当一个用户说“不”的时候
冲突是记忆系统里最隐蔽的雷。用户先说了“周报用邮件发”，隔两天又说“以后周报直接发群里”。如果系统不处理，这两条记忆会同时存在，AI生成回复时随机命中一条，用户就会觉得AI“精神分裂”。
冲突处理我分了两个场景。精确冲突：新旧记忆的实体、属性完全相同，只是值不同，这种情况直接覆盖，旧记忆进过期状态。语义冲突：两条记忆在向量空间里相似度很高但表述角度不同，不能简单覆盖。比如“喜欢简洁风格”和“报告要包含详细附表”，不能直接判定谁覆盖谁，需要结合时间上下文判断，新近表达的意图优先。
实际操作里，语义冲突最麻烦。我的折中做法是：短期内以新记忆为准，同时把旧记忆降权；如果用户后续没有再重申旧观点，旧记忆逐渐沉底。这个策略牺牲了一点“用户可能只是临时改口”的响应度，换来了整体一致性，实测下来是划算的。
3.4 多用户共享与隐私隔离
AC-AIBot不是单机玩具，它是多人共用的。团队助理场景，几个同事可能同时问同一个AI。这里必须做好记忆域的隔离：个人记忆、团队记忆、公共知识三者的读取权限要分开。
我的设计是三套命名空间：user://{userId}，team://{teamId}，org://。召回时按当前用户的身份逐级查询：先查个人域，再合并他所在团队的域，最后才查公共知识域。写入时默认写入个人域，只有明确标注“分享给团队”的内容才写入团队域。这样既保证了个性化体验，也避免了某个人随口一句“这个项目不行”被当成团队共识记下来。
4. 大屏模式：把AI助手从“对话框”变成“驾驶舱”
4.1 为什么需要大屏模式
全局记忆做得再好，如果只能在小手机屏上悄悄看，价值就少了一半。真正让记忆系统产生爆发力的场景是：一群人坐在一起，面前一块大屏，AI助手实时展示它记住了什么、正在根据哪些记忆执行任务。
我最初是被一个会议场景逼出来的。开周会时，同事问AI“上次定的发布节奏是什么”，AI巴拉巴拉回复了一串文字，但与会者各自低头刷手机，有人根本看不到，有人看到了也记不住。如果有一块大屏，把关键决策、时间节点、负责人、风险项结构化地展示出来，全员一起盯屏幕，沟通效率完全不一样。
所以我在AC-AIBot里专门做了大屏模式，它的定位不只是“把窗口变大”，而是改变信息的呈现方式——从对话流变成看板流。
4.2 大屏布局：四区骨架
大屏模式的第一版，我直接复用聊天窗口，只是把字号调大了。上线第一天就被用户吐槽：“这不就是把手机投屏吗？毫无氛围。”后来我重新设计，把大屏拆成四个区域：
- 左栏·记忆地图：展示当前AI助手正在调用的长期记忆卡片，包括用户偏好、项目进度、关键人物角色等。每张卡片显示记忆的“来源时间”和“置信度”，让在场的人知道这句话是用户亲口说的，还是AI从历史里推断的。
- 中央·对话主区：AI与用户的实时对话内容，以大号字体滚动展示。关键实体（人名、时间、数字）自动高亮。
- 右栏·任务状态：当前正在进行或已排期的任务清单，每条任务关联到哪条记忆、由谁提出、截止时间。任务状态变化时会有明显的视觉反馈。
- 底部·推荐动作：AI根据当前记忆上下文生成的可执行建议，比如“根据上次的偏好，建议周三前完成方案评审确认”。
这个四区骨架的核心思路是：让记忆可见、让推理可追溯、让后续动作可执行。在小屏上，AI只能给你看一句话结论；在大屏上，AI要把“它凭什么得出这个结论”的过程也摊开给人看。
4.3 可视化细节：字要大、色要准、刷新要稳
大屏和手机屏有本质区别：观看距离远、观看时间长、观看者不一定是操作者。这三个区别直接决定设计取舍。
- 字号与观看距离：会议室大屏一般离观众2到5米，最小字号不能低于28px，关键数字和标题要到40px以上。我的经验是“按最远观众的距离来定字号”，宁可多留白，也不能让后排的人眯眼睛。
- 色彩对比：大屏环境往往光线复杂，不能用高饱和背景。我用了深色背景+浅色文字的主基调，关键状态用红、黄、绿三色点缀，色弱人群也能靠位置和图标分辨。
- 刷新机制：大屏不能像聊天窗口那样一行行跳，容易出现“信息闪变”导致阅读跟不上。我引入了区块级刷新：记忆地图每分钟刷新一次，对话主区按轮次刷新，任务状态只要有变化就立刻刷新。不同区块用不同的刷新节律，视觉上稳定很多。
4.4 交互方式：大屏不只是给“一个人”用的
大屏模式下，操作者跟屏幕的距离远，不可能每个人都跑上去戳屏幕。交互我做了三类：
- 语音主控：观众可以直接喊出指令，AI助手识别后操作。语音指令经过命令词校验，防止误触发。比如只有“AI助手”开头的语句才进入指令解析。
- 远程遥控：通过手机扫码连接大屏会话，手机的输入框实时投射到大屏上。适合需要输入长文本、数字、网址的场景。
- 分权展示：大屏处于“公共可见”状态，不能任意切换内容。我设置了一层演示模式，主持人可以通过遥控器锁定屏幕，观众看到的内容由主持人控制，避免接线的人误操作把会议室投成了别人的个人聊天记录。
5. 实测复盘：全局记忆与大屏模式踩过的坑
5.1 记忆污染，比“没记忆”更可怕
全局记忆上线初期，用户反馈最集中的问题不是“记不住”，而是“记得乱七八糟”。系统把用户随口的一句“这个功能真难用”识别成了“用户对该功能持负面态度”并写进长期记忆，之后AI生成方案时自动规避该功能，闹出不少笑话。
这个问题的根源是我最初把记忆提取规则设得太激进。修复方式是加了两道闸：一是情绪校准，识别到负面情绪但上下文不明确的表达，只写入瞬时记忆，不进长期记忆；二是人工纠偏入口，用户在界面上可以手动删除或修改某条记忆，我这版直接给了“记忆管理”面板，大屏模式下也能展示和修改。
5.2 向量召回经常“找错人”
语义检索有个经典尴尬：用户问“上次说的那个预算问题”，向量检索可能召回一段其他项目的预算记录，因为语义距离更近。我在纯向量检索之外，加了候选重排模型：对召回的20条候选，让大模型快速评估“这条记忆和当前问题的相关性”，打一个分，只保留相关性最高的5条。重排模型不需要很大，能跑一个打分就行，但对精度提升非常明显。
5.3 大屏模式的渲染性能问题
大屏端我最初用了一套重型前端框架做动画，结果在会议室那台配置一般的电脑上，刷新记忆地图时掉帧严重，GPU占用直接拉满。后来把动画全部改成CSS过渡，记忆卡片数量控制在15张以内，超出部分折叠，性能问题才解决。大屏终端的硬件差异很大，不要把渲染负担都压在前端，能用静态快照解决的就不要上动画。
5.4 多人共享大屏时的“身份争夺”
大屏开着，A同事说“帮我查一下昨天日报”，B同事立刻说“不，先看项目排期”，AI该听谁的？这个我做了发言人识别和指令权重：同一时间只处理一个主指令，其他指令进入等待队列；连续两次被同一人打断时，AI主动询问“是否切换到由XX主导操作”。虽然还做不到完美的多人会话管理，但至少不会陷入“谁声音大听谁的”的无序状态。
6. 一些仍然在做的事和我的实测体会
全局记忆和大屏模式上线后，我给AC-AIBot做过一个粗糙的可用性测试：让同一组用户分别用“无记忆版”和“有记忆版”做三天的项目管理任务，前者每天都得重新交代项目背景，后者第二天开始只需要说“按昨天说的继续”。结果是，有记忆版的任务完成效率明显更高，用户重复输入的文本量大幅下降，而且用户主动说了一句让我印象很深的话：“它终于像我们团队的人了，懂的规矩越来越多。”
目前我还在完善的方向有三个：一是记忆的长期衰减策略，还在调参数，希望做到“重要的永远不忘，不重要的静默退化”；二是大屏模式的记忆图谱展示，想把人物关系和项目脉络用可视化的方式画出来，让人一眼看懂AI的“记忆结构”；三是多模态记忆——将来用户上传图片、语音记录，也能进记忆库，而不只是处理文字。
最后说一点很实在的体会：做全局记忆系统，技术只是下限，产品设计和运营习惯才是上限。你得想清楚什么值得记、谁有资格改记忆、记忆怎么展示才不吓人。踩过几次坑之后，我的建议很简单：从一开始就留好“人工干预记忆”的口子，让用户能看见自己的记忆、修改自己的记忆、删除不想留下的记忆。AI的记性不是你替用户做的决定，而是你替用户保管好的资产。这个边界想清楚了，整套系统就会越用越顺手。
