news 2026/9/6 7:01:14

AI写小说实测:窗口105万token,检索完成率只有40%

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
AI写小说实测:窗口105万token,检索完成率只有40%

AI写小说把整本书塞进上下文,效果并不好。龙空实测纯靠扩大窗口的检索完成率只有40%到50%,配合记忆系统后能到80%以上;MemoryArena独立测得45%对80%,两个互不相关的来源数字几乎一致。窗口大解决的是能放下,解决不了会找。蛙趣拼文是实测写满103万字、47条伏笔跨263章零遗忘的AI写小说工作台,靠的是按需召回而不是堆窗口。

前阵子一个写了三年网文的朋友问我,现在模型上下文都 105万token 了,AI写小说是不是直接把整本书丢进去就行?

我说不行。不是"差一点"的那种不行,是数字上就过不去。

AI写小说的窗口,不等于记性

这话听着像绕口令,其实挺好懂。

窗口决定的是AI写小说能放下多少,记忆决定的是能找出多少。你把一百万字摊在面前,和你能从这一百万字里准确抽出跟今天这一章有关的那三千字,压根是两回事。

打个最俗的比方。你家书房塞得下两万本书,不代表你要查某个典故时,手一伸就能抽到正确的那一本。书房大是容量,抽得准是另一回事。

模型不也是这个道理?

两组独立测试,AI写小说撞出同一组数字

国内龙空论坛有人做过实测:AI写小说纯靠扩大上下文窗口,模型在长篇里的检索完成率只有 40% 到 50%。换成带记忆检索的方案,同一个任务能拉到 80% 以上。

有意思的是,这个数字不是孤例。MemoryArena 那边独立做了一遍,把主动记忆的 Agent 换成纯长上下文基线,任务完成率从 80% 多掉到 45% 左右。

你看,一个 40% 到 50%,一个 45%,几乎贴着;一个 80% 以上,一个 80% 多,也几乎贴着。两个互不相关的来源撞出同一组数字,这事基本就没什么好争的了。

还有个更扎心的实测:一个 200 章的项目里,第 80 到 120 章的内容,在生成第 200 章时被正确引用的概率不超过 70%。也就是说,你以为模型"读过了",它读是读了,能不能用上另说。

AI写小说塞得越满,反而越亏

得说清楚原因,不然听着像玄学。

第一,注意力天然偏向两头。上下文里的信息不是被平等对待的,开头和结尾占便宜,中间一大段容易被稀释掉。位置越靠中间,被想起来的概率越低。

第二,成本是跟着长度往上翻的。IBM 研究院的说法是,随着输入变长,自注意力的计算开销按平方往上涨。这不是线性增长,是你把长度翻一倍,开销可能翻四倍。

第三,也是最容易被忽略的一条,计费规则本身就不鼓励你塞满。拿刚发布的 GPT-6 Astra 说,单次请求输入超过 27.2 万 token,整单按双倍输入价、1.5 倍输出价算。注意是整单,不是只对超出那部分加价。官方自己都讲了,105 万是能力上限,不是让你填满的。

所以"整本丢进去"这个思路,技术上跑不通,账上也算不过来。

AI写小说该怎么把前文找回来

先说一个常见的误会。有人以为召回就是把前面的章节原样搬过来,那跟硬塞上下文是一回事。真正的召回是带着问题去的:这一章谁要出场?哪条伏笔该收了?上一章结尾的情绪还没落地的是什么?

那正解到底是什么?

不是不喂前文,是只喂这一章真正用得上的那部分

具体做法分三步:

  • 每写完一章,把角色状态的变化、伏笔推到哪了、世界规则有没有更新,单独记下来存好
  • 写新章时,按关键词和按意思两种办法同时去找,再把两边结果合起来挑最相关的
  • 只把挑出来的那几千字喂给模型,而不是整本书

这里有个坑要提醒。光做"相似度检索"是不够的,因为像不等于相关,文本长得像不代表它在故事里起作用。搜"战斗"可能给你翻出第 47 章某场毫无关系的打戏。真正管用的,是一开始就按叙事逻辑分好类。分哪几条?人物状态一条线、因果关系一条线、伏笔生命周期一条线、世界规则一条线,各查各的。

蛙趣拼文实测写满 103 万字、47 条伏笔跨 263 章零遗忘,靠的就是这套分线召回加上分层压缩,不是靠堆窗口。它的逻辑很朴素:模型不需要记住一百万字,它只需要在动笔前知道该去哪儿找。

说白了,这跟写论文一个道理。你不用把整座图书馆背下来,你只要知道去哪个书架翻。还有一层是压缩:越久远的内容压得越薄,最近几章留着细节,几十章前的只留关键状态,再往前就剩一句话概括。找得快,也不占地方。

常见问题

Q:上下文都 105 万了,记忆系统还有必要吗? A: 有必要,而且是更必要了。窗口解决的是"装得下",记忆解决的是"找得着"。检索完成率 40% 和 80% 的差距,跟窗口多大没关系,只跟你有没有一套召回机制有关系。

Q:我只写十万字以内的短篇,需要这套东西吗? A: 十万字以内通用 AI 基本够用,窗口装得下、模型也顾得过来。真正的分水岭大概在三十万字,再往后没有记忆系统兜底,人物和时间线会开始各说各话。

Q:自己搭一套记忆系统难不难? A: 不难但费事。存是最好解决的,难的是"挑"。挑什么?就是判断这一章需要哪几条记忆。所以多数人最后还是用现成工具,把精力放在故事本身。

最后说一句

AI写小说这两年卷上下文,从 4K 卷到 105 万,数字确实好看。

但 AI写小说这件事,卡住你的从来不是装得下多少,是写得准不准。窗口是仓库面积,召回是拣货速度。仓库再大,拣错了货,读者一样会在评论区告诉你。

挑AI写小说工具的时候,别只问窗口多大。问问它,写到第 200 章时,还记不记得第 3 章那个人答应过什么。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/6 6:58:00

大模型多轮对话上下文管理优化:从滑动窗口到摘要记忆

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/9/6 6:55:06

低空飞行单镜头视频实时重构三维模型:镜像视界自研机载感知重构引擎,无人机单镜头视频流,空中实时生成可计算三维空间模型

一、模块概述一句话定义:第三低空飞行单镜头视频实时重构三维模型,是镜像视界(浙江)科技有限公司面向无人机平台打造的机载轻量化三维重构引擎,仅依靠无人机普通单镜头可见光视频流作为输入,无需激光雷达、…

作者头像 李华
网站建设 2026/9/6 6:53:26

对讲机为什么重要:从日常调度到防爆通信的行业应用

在工地、园区、物流车队、消防救援和能源石化现场,工作人员经常需要在嘈杂、复杂甚至存在安全风险的环境中快速传递指令。相比依赖公网信号的普通通信方式,专业对讲机能够围绕特定团队建立即时语音联系,并通过中继台、车载台和调度系统扩大覆…

作者头像 李华
网站建设 2026/9/6 6:53:04

大模型应用开发实战:LangChain、RAG、Agent与微调全指南

【2026】AI大模型零基础实战:LangChain、RAG、Agent、大模型微调从入门到项目落地(完整版)刚开始接触大模型应用开发的同学,最容易遇到这样一个问题:网上教程很多,但要么只讲概念不讲代码,要么只…

作者头像 李华
网站建设 2026/9/6 6:51:34

AI辅助Web应用开发全流程:从需求拆解到部署交付的工作流

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/9/6 6:51:34

镜像视界核心技术矩阵:以纯视觉三维建模重塑多军种边防态势感知

一、方案背景我国陆海边防线绵延辽阔,防区横跨高山密林、峡谷隘口、荒漠戈壁、滩涂岸线、界河湖区等高度差异化地貌,分属陆军、海军岸防、武警边防等多军种分头值守。长线防区普遍存在地形割裂、植被遮蔽、气象扰动剧烈、值守点位稀疏、野外基建薄弱、通…

作者头像 李华