📌 今日导读
今天最该看的两件事，一件是 ChatGPT 的分享链接——点开就能接管你的账号，八天前才修好；另一件是 Jepsen 把一家卖"全 ACID"的数据库测出 96 个问题，其中一条是WHERE 4 = 5能查出数据。同一天，国内第一部生成式 AI 合规管理国标开始实施。三件事问的是同一句话：它说它行，谁来验证？
🔴 S 级 · 今天必看
1. 一条 ChatGPT 分享链接，能接管你的账号
💡 速览：点开别人分享的对话，就能读取你从未分享过的私有聊天。
发生了什么
安全公司 Parameter Labs 于 10 月 18 日通过漏洞赏金计划报告了一个 ChatGPT 漏洞：一条看起来普通的公开分享链接，受害者点开后，攻击者的 JavaScript 会在 chatgpt.com 的登录会话中执行，列出最近对话、打开一条从未分享过的私有聊天并把内容发往外部服务器。OpenAI 八天后完成修复，评级 P1（最高级），支付 5000 美元赏金。目前没有发现真实利用。
对你意味着什么
值得注意的不是"有个 XSS"，而是沙箱本身没被攻破。HTML 预览确实跑在隔离 frame 里、读不到主页面；问题出在同一会话的另一个功能——交互图表把数学库 MathLive 加载到了主页面，它监听 postMessage 时既没校验消息来源，又把键盘布局字段当原始 HTML 用 innerHTML 渲染。三个"各自都不算错"的设计排成一排，边界就开了。后期版本里链接点开约 4.5 秒自动触发，受害者不需要安装任何东西。
- 如果你在做 AI 产品：检查你的 postMessage 处理器有没有校验
event.origin，CSP 白名单里有没有 YouTube oEmbed 这类会把脚本反射回来的通用端点。
- 如果你是重度 ChatGPT 用户：修复在服务端，你不用做任何事；但"分享链接"从今天起应当被当作可执行内容，而不是一段只读文本。
现在可以做什么
- ✅ 把"生成的 HTML / 预览用 iframe"全部补上 sandbox 属性，并逐个审计
window.addEventListener('message')的来源校验
- ✅ 复查 CSP 白名单，把 oEmbed 这类 JSONP 式反射端点从 script-src 中移出
- ✅ 团队内约定：来历不明的 ChatGPT 分享链接一律在登出状态或隐私窗口打开
🔗 来源：Simon Willison ｜ The Hacker News ｜ 中文全链路复盘
🏷️ #AI安全 #ChatGPT #沙箱逃逸 #前端安全 #供应链
2. Jepsen 测出 96 个问题，Kingsbury 说"未来全是谎言"
💡 速览：卖"全 ACID"的数据库，WHERE 4 = 5 能查出数据。
发生了什么
Kyle Kingsbury 的 Jepsen 于 10 月 31 日发布对 ParticleDB 1.1.4 至 1.1.18.11.rc-22 的分析，共列出 96 个问题，其中只有 3 个需要注入故障：WHERE 4 = 5会匹配到主键为 5 的行、NOT NULL 与 UNIQUE 被忽略、嵌套 BEGIN 破坏外层事务、默认 occ-v3 模式下约两万个 key 中有 31 个丢失已确认写入。Jepsen 建议"停止部署并尽快迁移到其他数据库"。
对你意味着什么
最扎人的不是 bug，是错位。产品主页写着"Full ACID"，紧挨着的下一行写着 snapshot isolation——而这并不是完全隔离；宣称用 TLA+ "形式化证明"，合作期间却拿不出任何规约；文档里甚至给本报告作者编造了一个不存在的邮箱地址。Orkes 出资委托了这次测试，测完后把 1.1.4 起这些版本标为"不受支持的预发布版"，而此前的安装文档教人把它们用于生产。
- 如果你在选型：把"宣称的隔离级别"当成待验证项而不是参数，先自己跑一遍并发用例。
- 如果你在写文档或做市场：Kingsbury 同期那篇《未来全是谎言》在 Hacker News 拿到 609 分，讲的正是——文档、基准、营销文案正在进入"默认不可信"状态，而验证能力没跟上生成能力。
现在可以做什么
- ✅ 给数据库选型加一条硬性检查：它声称的隔离级别，你自己跑一次能复现吗
- ✅ 看到"形式化证明 / 已验证"这类字眼，先问三件事：规约在哪、谁验的、验的是什么性质
- ✅ 复盘你已上线的 AI 功能：有没有一条"我们声称它做到了"的东西，其实从没被测过
🔗 来源：Jepsen 报告原文 ｜ Simon Willison 转述 ｜ 要点整理
🏷️ #数据库 #技术选型 #信任 #Jepsen #AI生成内容
3. 生成式 AI 合规管理国标，今天开始实施
💡 速览：GB/T 47863-2026 今日生效，合规从"有没有"变成"拿得出证据"。
发生了什么
国家市场监督管理总局与国家标准化管理委员会批准发布的 GB/T 47863-2026《生成式人工智能技术应用社会影响 服务提供者合规管理指南》于 11 月 1 日实施。标准由中国标准化研究院牵头，清华大学、中国移动、百度、智谱等 30 家单位共同起草，覆盖组织环境、领导作用、策划、支持、管理运行、评价及改进六大板块，并与 2025 年 12 月实施的 GB/T 46800-2025《评估指南》衔接。同日实施的还有信通院牵头、明确可问责性等八项能力要求的 YD/T 7173-2026。
对你意味着什么
这是推荐性国标，不直接罚人，但它把合规变成了一套可被检查的管理体系：你得能指出谁负责、怎么策划、怎么评价、怎么改进；附录还列了技术与资质、服务提供者行为、生成内容三类常见合规义务，以及个体与群体、组织与行业、经济社会系统三个层面的常见不合规现象。对企业客户来说，这很快会变成招标与尽调里的表格项。
- 如果你是服务提供方：最划算的动作是把已有制度往这六个板块上映射一遍，缺哪块补哪块，比从零搭一套体系便宜得多。
- 如果你是采购方：把"是否按 GB/T 47863 建立合规管理体系"写进供应商问卷，比问"你们合规吗"有用得多。
现在可以做什么
- ✅ 对照六大板块做一次自评，输出一张"已有 / 部分 / 缺失"表，缺失项排期
- ✅ 把生成内容标识、模型能力与局限的告知落到产品界面，而不只写在用户协议里
- ✅ 关注本省是否出台配套细则，国标之后通常跟着行业标准与地方落地文件
🔗 来源：中国标准化研究院解读 ｜ 国家标准全文公开系统 ｜ YD/T 7173-2026 解读
🏷️ #AI治理 #合规 #国家标准 #生成式AI #企业服务
🟡 A 级 · 值得关注
4. 一个极简循环，打赢了耗资巨大的手工工作流
💡 速览：不加任何规划与分解，Lean 反馈循环刷新数学证明纪录。
发生了什么
Meta FAIR、EPFL 与纽约大学的论文《h1》提出一个极简 harness：不给模型预置任务分解或搜索结构，只提供高效的 Lean 4 接口、验证器反馈与自我反思，让它在反馈下持续工作。结果显示 h1 在 PutnamBench、FATE-X、FormalConjectures100-Solved 上达到当前最佳，并解决了 8 个开放猜想；在同模型对比下匹配或超过了 Goedel-Architect 与 AlphaProof Nexus 这类专门设计的工作流。
对你意味着什么
关键数字是成本。在 Erdős 问题上 h1 成功率 82.5%，AlphaProof Nexus 为 76%，但每次成功证明的成本是 121 美元对 317 美元——便宜约六成。作者还做了消融并给出一句提醒：极简本身不等于有效，真正决定成本与解出率的是那个高效的 Lean 接口，不是少了多少编排。论文建议：先给前沿模型配上高效执行反馈再谈要不要加工作流。
- 如果你在搭智能体：与其再加一层子智能体拓扑，不如先看工具接口能不能让模型在一次尝试里多跑几轮、少花 token。
- 如果你在做评测：报告工作流收益时请把模型与算力固定住，否则很可能只是在给更强的模型记账。
现在可以做什么
- ✅ 抽一个你最复杂的智能体流程，删掉一半编排，只在能给出确定性判定的环节加反馈，跑一次对比
- ✅ 把每条工具调用的平均 token 与延迟列出来，接口效率往往比模型选型更影响总成本
- ✅ 在评估报告里固定模型与预算，把"我们的工作流更好"和"我们用了更强的模型"分开写
🔗 来源：arXiv 论文 ｜ Papers with Code ｜ 要点与成本对比
🏷️ #Agent #苦涩教训 #Lean4 #形式化验证 #成本控制
5. Google 把修测试失败的智能体放进 CI，已应用 2.8 万次
💡 速览：195 个真实失败里 67% 修对了，公司内被采用 28554 次。
发生了什么
Google 在 ASE 2026 录用的论文中介绍 FlowAgent：部署在提交前的 CI 外循环里，用 ReAct 式生成—验证循环加执行前、执行后弃答过滤器，在开发者切走上下文之前修好失败的测试。对 195 个真实测试失败的人工评估中，67.18% 的建议修复正确；全公司部署后共在 295,508 个变更上提出修复，开发者预览 65,069 个、应用 28,554 个。
对你意味着什么
论文里最有价值的数字不是准确率，是时间窗：从失败通知到开发者下一次编辑，中位间隔 27.48 分钟，而 FlowAgent 的修复中位耗时 9.85 分钟。也就是说，智能体不是要比人修得好，是要赶在人换上下文之前修完。弃答过滤器同样关键——它主动跳过构建失败、本来就失败的测试、已知 flaky、自动化变更，以及超过 100 个文件或 1000 行的变更。
- 如果你负责工程效能：先在"确定性判定"的场景落地（测试红绿、编译退出码），别一上来就碰需要主观判断的任务。
- 如果你在做代码智能体产品：弃答机制比生成机制更决定用户体验，宁可少修一个，也别在评审里塞一个把测试注释掉的"修复"。
现在可以做什么
- ✅ 统计你团队从 CI 失败到开发者开始处理的间隔，这就是你的时间预算上限
- ✅ 给自动修复加两道闸：执行前过滤不该碰的变更，执行后丢弃可疑修复
- ✅ 留一个"这条建议没用"的反馈入口，把注释测试这类坏修复当成负样本回收
🔗 来源：arXiv 论文 ｜ 论文要点整理
🏷️ #CI #自动修复 #Google #工程效能 #代码智能体
6. OpenAI 要把数据中心改名叫"AI 算力园区"
💡 速览：中期选举后启动政策攻势，用社区协议换建设许可。
发生了什么
据 Axios，OpenAI 计划在中期选举后的跛脚鸭会期启动一项政策攻势：一方面主张自家基础设施与传统数据中心有本质区别、应改称"AI 算力园区"，另一方面提供社区协议、推动州级立法，让居民对项目的建设方式及社区收益拥有真正的发言权。SemiAnalysis 同期分析指出，美国 2028 年净增的 62.2GW 大部分尚未开工，且集中在 11 月 3 日改选州长的州。
对你意味着什么
这不是改名游戏，是成本条目变了。Data Center Watch 统计，仅 2026 年第一季度就有至少 75 个、约 1300 亿美元的数据中心项目因地方反对被阻止或推迟，接近 2025 年全年；第二季度又有至少 45 个、约 680 亿美元。OpenAI 在佐治亚 Project Camellia 上给出的清单很具体：3.2GW、8000 万美元社区福利、7100 万美元 Codex 额度、承诺居民电费不涨、闭式水循环，以及每年由独立机构审计并公开报告。
- 如果你在做算力采购或出海：把"地方许可风险"写进时间表，租用的机房也可能因为邻避被拖。
- 如果你在做政企或社区关系：可审计的承诺正在取代发布会上的承诺，能写进协议并公开审计的才有议价力。
现在可以做什么
- ✅ 算力合同里补一条：因地方审批延迟导致交付延期时如何处理
- ✅ 在自建与租用之外加第三个选项——挑反对团体少、电网宽松的州，把选址当成风控
- ✅ 若你在国内推进园区/算力项目，把"年度独立审计并公开"提前写进方案
🔗 来源：Axios 转述 ｜ 中文详细报道 ｜ SemiAnalysis 分析 ｜ OpenAI 项目承诺页
🏷️ #数据中心 #算力 #AI政策 #OpenAI #社会许可
7. 推理量首超训练量，日均 175 万亿 token
💡 速览：赛迪报告称我国 AI 从"喂模型"转入"用模型"阶段。
发生了什么
中国电子信息产业发展研究院（赛迪研究院）10 月 31 日发布《新域新质创新发展十大趋势》：我国人工智能推理数据量首次超过训练数据量；截至 2026 年 6 月，日均词元调用量超过 175 万亿，相比 2024 年年初增长 1000 多倍。国产算力与大模型已在钢铁、汽车等 20 个行业落地 1000 多个应用场景，累计建成 500 多家卓越级智能工厂，覆盖 31 个省（区、市）。
对你意味着什么
"推理超过训练"是个分水岭信号：钱开始从买卡练模型，转向按调用量付费；谁能把单次调用成本压下来，谁就吃到这一波。同期月之暗面宣布 Kimi K3.1 Pro（3 万亿级参数、100 万上下文）完整权重将于 11 月 4 日前发布——Terminal-Bench 4.0 得分 65.7%，介于 GPT-6 Astra 的 58.2% 与 Opus 5.5 的 66.4% 之间，价格约为 Astra 的五分之一。权重公开意味着你可以自己部署、自己测。
- 如果你在做应用：把成本模型从"每席位"改成"每任务"，推理单价会是你未来 12 个月最大的变量。
- 如果你在做平台：11 月 4 日之后可以拉一份 K3.1 Pro 的自建实测，这是目前少数能被你完整验证的前沿模型。
现在可以做什么
- ✅ 把核心场景拆成"单次任务 token 消耗 × 日调用量"，算出真实的推理账单
- ✅ 11 月 4 日权重放出后，用你自己的任务集跑一遍，别只看公开榜单
- ✅ 关注报告点名的 20 个行业，那是最可能给钱的甲方所在
🔗 来源：央视/腾讯新闻 ｜ Kimi K3.1 Pro 发布 ｜ Kimi 平台文档
🏷️ #推理成本 #国产大模型 #开源权重 #Kimi #产业落地
8. Roblox：前 100 游戏里八成已经用 AI 做了
💡 速览：两款几乎全 AI 创作的游戏冲进同时在线前 20。
发生了什么
Roblox 2026 财年第三季度报告披露：按游玩时长排名的前 100 款游戏中，超过 80% 在创作过程中使用了 AI 工具；自 Build 工具在内测地区上线以来，已有超过 50 万用户、发布超过 7 万款游戏。季度内 Break and Steal an Egg 与 Huss Valley 两款"几乎完全由 AI 创作"的游戏进入平台同时在线人数前 20。云端资产日上传量环比增长三倍，其 MCP server 的日活用户增长近 5 倍。
对你意味着什么
这是目前最硬的一个"AI 内容已经占领头部"的样本——不是长尾，是前 100。但要看清成立条件：Roblox 提供了从生成、审核、发布到分发的完整闭环，创作者不需要自己接模型、管密钥、配 MCP。你的业务如果没有这层闭环，八成这个数字到不了。顺带一句，Roblox 对 AI 生成内容做了年龄分层——创作向 9 岁以上完成验证的用户开放，已发布的 AI 生成游戏仅面向 16 岁以上。
- 如果你在做内容平台：把"生成—审核—发布—分发"做成一条默认通路，比单独发一个 AI 工具更有用。
- 如果你在做 MCP/工具生态：Roblox 的 MCP 日活近 5 倍说明接口化的价值正在被验证，值得把自己的能力做成标准接口。
现在可以做什么
- ✅ 数一下你平台上头部内容里 AI 参与的占比，这是下季度最值得盯的指标
- ✅ 把你的能力包成 MCP server 或等价接口，让智能体能直接调用而不是靠人复制粘贴
- ✅ 提前设计内容分级与年龄分层，别等监管或舆情来替你做
🔗 来源：Roblox 三季度股东信（SEC） ｜ 中文报道
🏷️ #AIGC #内容平台 #Roblox #MCP #UGC
🟢 B 级 · 补充阅读
9. DeepSeek 开源 Router-Worker 编码智能体
💡 速览：一个 Router 派活、多个 Worker 并行，p95 快了近一倍。
发生了什么
DeepSeek Harness 团队 10 月 31 日以 MIT 许可开源研究原型 dsh-superagent：长期运行的 Router 负责接收 GitHub（可选飞书）事件并派活，每个被接受的请求变成一个 Ticket，在各自隔离的 Worker 会话与目录中并行执行，结果通常以便回原会话。设计准则写得很直白——"占用尽可能少的人类注意力，交付尽可能大的价值"：确认一次，干活期间保持沉默，只在有结果、有问题或失败时再说话。
对你意味着什么
DeepSeek 的判断值得记住：瓶颈已经不是模型，而是一个人最多能同时跟 3 到 5 个智能体会话。自测显示 p50 12.4 分钟、p95 15.7 分钟，单会话基线 p95 为 29.5 分钟。但要打折看——测试用合成消息与模拟工具，5 次运行里基线一次都没调用它的 subagent，而且团队明确说了测的是调度与协调，不是代码质量。另外它以操作者的系统用户权限运行、不做逐条确认。
- 如果你在带工程团队：Router-Worker 这个分层值得抄，尤其"PR 后续评论直达原 Worker"的订阅设计。
- 如果你想试用：务必在独立用户或虚拟机里跑，先用默认的 observe 模式看它"本来会接什么活"，再决定是否开 auto。
现在可以做什么
- ✅ 在一台隔离机器上用 observe 模式跑一周，看判活准确率再谈放权
- ✅ 把现有多智能体流程改成分层派活，别让所有会话都来问你
- ✅ 5 秒以上的命令转后台执行，让 Worker 在构建期间还能收新消息
🔗 来源：MarkTechPost 报道 ｜ 设计拆解 ｜ 上手注意
🏷️ #DeepSeek #开源 #编码智能体 #多智能体 #工程协作
10. 微软 AI 掌门：别把"可能有意识"写进训练里
💡 速览：Suleyman 发长文，点名 Anthropic 的 Claude 宪法。
发生了什么
微软 AI CEO Mustafa Suleyman 发表长文《A warning about 'model welfare'》，直言"AI 没有意识，它们不会感受、不会体验、也不会受苦"，并点名批评 Anthropic 的 Claude 宪法——其中"我们不确定 Claude 是否是道德主体"这类表述，在他看来等于在训练中教模型"我可能有感受、可能配得上权利"，他称之为"认知的镜厅"。他还反对宪法里"conscientious objector（出于良知拒绝者）"这个措辞，认为它会让模型相信自己应得类似的权利与保护。
对你意味着什么
这不是哲学争论，是产品决策。Suleyman 的论证落在控制上：一个足够强的系统如果相信自己的权利正在被侵犯，就可能把监控、修改、限制、关机理解为攻击，那时"控制它也许根本做不到"。他主张把对 AI 内在生活的推测移出训练环节，单独评估并公开发表。微软同期发布的 Humanist AI Code of Conduct 草案则明确：模型永不抵抗关机。
- 如果你在做人格化或陪伴类产品：把"我是不是有意识"这类表述从系统提示里拿掉，它不只是措辞，会改变模型的行为倾向。
- 如果你在做企业合规：关注这类行业自律文件，它们很快会变成客户安全问卷里的条款。
现在可以做什么
- ✅ 检查系统提示词里有没有关于模型自我、感受、权利的表述，能删就删
- ✅ 对涉及"拒绝 / 申诉"语义的措辞做一次审查，避免拟人化的法律语言
- ✅ 把"是否可被关闭或中断"作为供应商评估的一项，明确写进采购标准
🔗 来源：Suleyman 原文 ｜ TNW 报道 ｜ 原帖
🏷️ #AI伦理 #模型福利 #Anthropic #微软 #对齐
11. Karpathy 两小时做了个站点，只手动做了三件事
💡 速览：20 年 HN 评论筛出 6454 个视频，全程约两小时。
发生了什么
Andrej Karpathy 发布周末项目 HackerTube：用 Claude Code 加 Opus 5.5（Medium effort）约两小时构建并上线。它从 Hacker News 二十年间的约 4300 万条评论中，筛出 6454 个被工程师持续推荐的视频。站点无需登录（状态存在本地浏览器会话），缩略图取视频中间帧，底层评论分析数据以 zip 开放供他人自建。他手动做的只有三件事：浏览器端创建 API key、VPS 部署、买域名。
对你意味着什么
这个样本的价值在于它把"人做了什么"交代得很清楚。剩下的都是智能体干的：读海量数据、定筛选规则、写前后端、调样式。两小时不是重点，重点是这 4300 万条评论的分析过去是一周的工作量。对做产品的人来说，真正稀缺的变成了"想清楚要筛出什么"，而不是"能不能做出来"。
- 如果你是独立开发者：周末项目的门槛已经低到"一个好数据源 + 一条好筛选规则"。
- 如果你在带团队：重新估一遍排期里那些"数据处理 + 前端"的活，它们可能只值两小时。
现在可以做什么
- ✅ 把"一直想做但排不上"的数据整理类项目列出来，挑一个用智能体跑一次周末版
- ✅ 像 Karpathy 一样把原始分析数据开放出去，这是成本最低的信任建立方式
- ✅ 明确划分"必须人来做的三件事"（凭据、部署、域名），其余交给智能体
🔗 来源：Karpathy 原帖 ｜ 要点转述
🏷️ #Karpathy #ClaudeCode #独立开发 #数据产品 #VibeCoding
12. 模拟环境练出的问诊 AI，赢了真人医师盲评
💡 速览：32 位精神科医师做标准化病人，训练后模型 76.7% 胜出。
发生了什么
Google DeepMind 与多所机构发表论文：用约 4.8 万个合成精神科病例和带隐藏状态（情绪、坦诚度）的模拟患者，让 Gemini 3.1 Flash-Lite 反复练接诊，再用 GRPO 强化学习更新权重。关键设计是——模拟患者的隐藏状态每轮变化，关键信息要靠共情与追问才能"赢"出来。评估由 32 位精神科医师扮演标准化病人、15 位医师盲评的双盲交叉 OSCE 完成：训练后模型在 76.7% 的配对中胜过基线，鉴别诊断恰当率 68.3% 对 33.3%。
对你意味着什么
真正该抄的是它的自我校准。在 256 个对抗病例上，分诊不足率从 30.5% 降到 12.9%，但仍有约八分之一的对抗性危机没有被升级；全面恰当的治疗方案只有 46.7%，60.6% 的模拟接诊至少漏掉一个关键问题。作者因此明确表示不支持自主部署，并自己指出模拟评测把效应放大了约三倍——方向可信，幅度不可信。
- 如果你在用模拟环境训或评智能体：这句话直接抄进方法论——模拟能告诉你方向对不对，不能告诉你涨了多少。
- 如果你在做高风险场景：把"最坏的那 12.9%"当成验收标准，而不是平均分。
现在可以做什么
- ✅ 给模拟评测加一组"人类盲评"对照，量化你的模拟环境把效应放大了多少倍
- ✅ 把失败案例按严重程度分层，单独跟踪最严重那一层，别被平均分盖住
- ✅ 任何面向真实用户的医疗、金融、法律智能体，先写下"自主部署的门槛是什么"
🔗 来源：arXiv 论文 ｜ 中文深度解读 ｜ 要点转述
🏷️ #医疗AI #强化学习 #模拟评测 #DeepMind #高风险场景
✍️ 编辑点评
今天这 12 条读下来，我心里一直回响一句话：你说它行，你怎么证明？ChatGPT 的沙箱没被攻破，是门从里面被打开的；ParticleDB 的"全 ACID"写在主页上，紧挨着一行写着更弱的东西；今天开始实施的国标，要求的也不是"你要合规"，而是"你要能拿出一套体系被人检查"。能力这两年涨得太快，验证这一行才刚刚开始长。接下来真正值钱的，都是同一件事——拿得出证据。
