如果你维护过任何一个需要周期性重训的AI系统，大概率碰到过这种诡异的情况：指标报表一切正常，模型却在真实场景里越用越笨。TORI 2.0就是为这个难题设计的一套数学框架，它把大规模自循环AI（Cosmic AI Loops）中的数据衰变（Data Decay）现象，从一句模糊的经验直觉，变成了可以用算子、约束和熵来度量的精确对象。
先说明一下，这不是一篇介绍某个开源库的教程。TORI 2.0到现在也没有对应的公开实现，它更像是我在某段内部研发经历里沉淀下来的分析工具和思考方式。全称是Time-Oriented Recursive Inference，面向时间的递归推理。它回答的问题只有一个：当一个AI系统开始用自己过去的输出来训练自己，并且这个循环会持续不断地跑下去的时候，我们该用什么数学语言描述“它正在变坏”这件事，以及如何把这种“坏”控制在可接受的范围之内。
为什么叫2.0不叫1.0？因为最早那版只处理数据时效问题，本质上只有一个时间衰减算子；2.0把观测覆盖、递归边界、整体衰变熵这三块补全了，才真正形成一个闭环的分析框架。下面拆开讲：它定义了哪些数学对象，怎么落成代码，以及我在实测中靠它避免了多少次“看起来很稳、实际上在跑偏”的训练事故。
1. 先承认一个尴尬事实：自循环AI系统大多在慢性中毒
1.1 从一次推荐模型迭代事故说起
事情发生在我参与维护的一个推荐系统上。某个团队负责召回模型的每周重训，流程很简单：拉最近三十天日志，清洗，抽特征，训练，上线。连续跑了两个月，离线AUC稳中有升，所有人都觉得做得不错。直到某天值班的同学发现，用户点击率其实一直在跌，只是跌幅很小，被每周的指标波动盖住了。
我们把训练日志翻出来，一条一条对。最后定位到一个看起来无关紧要的处理上：特征工程里有一列“用户近7天点击某类内容的概率”，这个概率不是从原始日志算的，而是直接取了上一版模型的预测分数。换句话说，模型自己给自己供特征。第一周这么做没问题，因为上一版模型大体是准的。可是到了第四周、第五周，这个特征本身已经在悄悄退化了——上一版模型在这列特征上的偏差被当成“事实”写进了下一版模型的训练数据，下一版模型学会了放大这个偏差，再传给下一版。这就是一个标准的自我污染循环。
我把这类现象叫循环中的误差繁殖。单独看任何一版模型，它都是在正常训练、正常收敛，P99延迟、内存占用、离线指标全都健康。但把时间维度拉开，整个序列是发散的，模型在一个看不见的斜坡上慢慢滑向自己的偏见。
1.2 数据衰变不是“数据变脏”，而是“数据过期”
很多人把数据质量问题和数据衰变混为一谈。脏数据是数据本身错了，比如埋点字段丢了、标签打反了，这是可以靠清洗规则修掉的。衰变不一样，衰变是数据本身没有错，但它描述的世界已经变了。
我倾向于把数据衰变拆成三个层次来看。第一层叫时效衰变：一条样本采集之后，它的相关性会随时间单调下降。七天前的用户点击行为，和今天的用户偏好之间相关性已经很弱了，但它作为一条记录依然是“真实”的。第二层叫语义漂移：特征和标签之间的关系变了。比如某个季节性消费习惯，在特定的时间窗口内，“是否节假日”这个特征对目标的影响方向会整体翻转，旧样本不仅无用，还会误导。第三层叫分布压缩：当循环系统反复用自身输出去筛选、加权、重构训练集时，数据的多样性会逐渐减少，分布变得越来越窄，最终塌缩到模型自己最“自信”的那一小片区域。第三层最隐蔽，因为它不来自外部世界的变化，纯粹是系统内部行为造成的。
这三层常常叠加出现。光修数据质量解决不了后两层，因为问题不在数据采集端，而在模型系统的反馈结构本身。
1.3 循环的数学本质：从静态函数变成动态系统
为什么普通的监督学习不会出这种问题？因为普通训练假设数据是静态的：模型f是一个从输入空间X到输出空间Y的函数映射，训练集是从某个固定分布里独立同分布采样出来的。可一旦引入循环，情况就变了。模型的输出y会作为下一步的输入特征或训练标签，系统就从“一次函数求值”变成了“一个离散动态系统的迭代”：x_{t+1} = g(x_t)，其中g包含了模型自身。
在动态系统理论里，这类迭代的行为取决于g在不动点附近的雅可比矩阵谱半径。谱半径小于1，迭代收敛；大于1，迭代发散。放在AI循环里，这个“谱半径”的直观理解就是：模型对自己的输出有多“信任”，以及这种信任导致的偏差放大有多快。问题在于，常规训练框架根本不会去计算这个量，因为没人把模型放进动态系统里看待。
TORI 2.0要做的事情，就是把这套动态系统视角变成一套可操作的数学工具。它不追求消除循环——在很多场景下循环是无法避免的——而是给循环装上度量仪器和刹车片。
2. TORI 2.0的核心：四个数学对象的定义与直觉
TORI 2.0不是某个单一的公式，而是一组配套定义。整个框架围绕四个核心对象展开：时间算子T、观测覆盖域Ω、递归深度约束R、衰变熵Hδ。它们分别回答四个问题：数据多旧了？模型见过什么？循环能跑多深？系统整体有多健康？
| 数学对象 | 符号 | 回答的问题 | 落地形态 |
|---|---|---|---|
| 时间算子 | T | 每条样本在当前训练中应该被相信多少 | 采样权重、损失加权系数 |
| 观测覆盖域 | Ω | 模型在哪些区域有真实数据支撑 | 覆盖度估计、外推惩罚项 |
| 递归深度约束 | R | 模型输出最多能作为训练输入几次 | 循环层数上限、自动切断开关 |
| 衰变熵 | Hδ | 训练分布整体偏离真实世界多远 | 监控指标、训练暂停触发器 |
2.1 时间算子T：给数据贴上半衰期
时间算子T的作用是对任意一条样本赋予一个随时间衰减的权重。TORI 2.0默认的衰变核函数有两种。
指数衰变：w(t) = 2^(-(t_now - t_sample) / τ)，τ是半衰期，表示样本相关性减半所需的时间。它适合变化相对平稳的领域，比如搜索排序、长期偏好预测。
幂律衰变：w(t) = (1 + (t_now - t_sample) / τ)^(-β)，β控制衰减速度，典型取0.5到1.0之间。它适合头部数据极重要、尾部迅速失去价值的场景，比如热门事件驱动的信息流推荐。
这两个核的区别很关键：指数衰变在时间趋于无穷时趋向于零，而幂律衰变是厚尾的，意味着很久以前的少量样本依然保留一定权重。如果你的场景里存在“一年前的少数行为依然有预测价值”的情况，比如低频高价值消费决策，厚尾核就更合适。选择之前，建议先用历史数据做一个简单的自相关分析，看看样本相关性随年龄的衰减曲线，再决定用哪个核。
2.2 观测覆盖域Ω：把“模型看不见什么”变成可计算的对象
循环系统里最危险的样本不是那些模型判断错的样本，而是那些模型从来没见过、却因为循环筛选而永远不会被选进训练集的样本。TORI 2.0用观测覆盖域Ω来描述这个问题。
形式化地说，Ω(x)表示在输入x附近训练数据支撑的密度。如果在某个区域里支撑密度低于阈值θ，TORI就认为该区域的预测属于“无依据外推”。实现上可以用简单的核密度估计，也可以用数据增强生成邻近样本再统计重建误差。重点是：这个覆盖度要参与训练损失加权——低覆盖区域的预测被施加额外惩罚，梯度下降在看不见的地方不被鼓励自信。
这里有个反直觉的设计：不是惩罚一切低置信度，而是惩罚“低置信度和低覆盖度”的组合。模型可以对一个没见过的情况保持低置信度，这是诚实；但模型不应该对一片空白区域给出高置信度且高确定度的输出，那是幻觉。观测覆盖域约束主要针对后者。
2.3 递归深度约束R：给自我指涉装上限位器
递归深度约束是一道硬性的闸门。TORI 2.0规定，在一次完整的训练-推理-再训练循环里，模型的输出最多只能作为后续训练输入R次，超出之后必须从外部世界重新引入新鲜的、未经模型自身加工的观测数据。
R的默认值是2。这个数字听起来保守，但实测下来相当有效。R=1的意思是：模型可以把自己的输出作为下一轮训练的特征，但第三轮一律不允许。R=2可以覆盖一些需要两层推理链的场景，比如“先判断用户意图，再用意图结果去预测商品点击”。超过4层的循环，在几乎所有我们测试过的场景里都出现了明显的误差累积，没有例外。
为什么用整数R而不是用连续约束？因为程序化实现需要一个可执行的条件。连续约束，比如限制相邻两轮输出之间的KL散度，计算开销大，而且阈值难以调。整数约束虽然粗，但是可审计、可检测，出问题了一查日志就能定位是第几层循环开始越界的。
2.4 衰变熵Hδ：用一个标量盯住整个系统的健康度
前面三个对象都是局部约束，第四个对象是全局指标。衰变熵Hδ衡量的是：当样本按时间算子T加权后，训练数据分布与原始（未经模型污染的）参考分布之间的信息距离。直观地说，它回答“现在的模型还在学习真实世界，还是在学习自己过去的影子”。
计算上，可以取最近N条被实际使用的训练样本，估计它们的特征分布p_t，再与一个保留的基准分布p_0做KL散度或JS散度。Hδ就是散度的指数化结果。指数化的目的是让数值范围稳定在1附近：Hδ=1表示训练分布与基准一致，Hδ越大表示漂移越严重。当Hδ超过上限（比如1.8），训练管道应当自动暂停并切换数据源，直到新鲜数据补充进来。
这个指标最大的用处不是调试，而是监控。它把“数据正在腐烂”这种抽象感受变成了一个可以挂在大屏上的数字。有了它，值班的同学不需要再靠直觉判断“这周的数据是不是不太对”。
3. 从公式到代码：一个衰变感知训练管线的搭建笔记
前面是理论，这节讲怎么落地。TORI 2.0本身不是软件，但我把它实现成了一个训练管线的中间层，大约几百行Python。所有逻辑集中在三个位置：数据采样、损失加权、循环控制。
3.1 第一步：给样本加时间权重
import math from datetime import datetime def decay_weight(timestamp, now, half_life_days=14, kernel="exp"): age_days = (now - timestamp).total_seconds() / 86400.0 if kernel == "exp": return 2 ** (-age_days / half_life_days) elif kernel == "power": beta = 0.8 return (1 + age_days / half_life_days) ** (-beta)这段代码不复杂，但有个重要的工程细节：时间戳必须用事件发生时间，而不是写入时间。很多数据管道有延迟，离线任务凌晨跑，但如果用写入时间去算年龄，会把本该是新鲜样本的数据错误地打上过期标签。我们为此在特征表里单独维护了一个event_time字段，所有下游任务一律以它为准。
另一个细节是半衰期单位。天数适合毫秒级实时的在线学习场景，对于以周为训练周期的批量任务，建议直接把半衰期设成周数，避免在时间单位换算上反复出错。
3.2 第二步：把覆盖度加权进损失函数
def weighted_loss(model, batch, coverage): base_loss = nn.functional.cross_entropy(model(batch.x), batch.y) coverage_penalty = coverage_scaling(coverage) # 覆盖度低的区域放大不确定性 return (base_loss * batch.decay_weight * coverage_penalty).mean()这个改造表面上是加了一个系数，实际上改变了模型优化的目标几何。低覆盖区域的样本，即便表面对齐了标签，权重也被压低；高覆盖区域则保持正常。结果是模型的决策边界趋于保守，在空白区域更愿意给出模糊回答而不是强行分类。
需要注意weighted_loss里的三个系数要分别归一化，否则数值尺度会漂移。我们踩过的一个坑是decay_weight的平均值会随时间自然下降，导致整体loss量级持续变小，学习率相对变大，模型在训练后期出现诡异的震荡。解决办法是每个batch内对decay_weight做一次标准化：w = w / mean(w)。
3.3 第三步：循环控制器
class LoopController: def __init__(self, max_depth=2, auto_stop=True): self.max_depth = max_depth self.auto_stop = auto_stop def should_retrain_with_own_output(self, depth, prev_pred, cur_pred): if depth >= self.max_depth: return False if self.auto_stop: kl = kl_divergence(prev_pred, cur_pred) if kl > 0.05: return False # 输出偏移过大，说明模型已经在放大偏差 return Truemax_depth是硬约束，auto_stop是软约束。硬约束保证循环永远不会超过R层；软约束保证即便还在允许的深度内，如果检测到相邻两轮预测的分布偏移速度过快，也及时切断。两种约束叠加起来，比单独用任何一种都稳。
KL散度阈值0.05是我们调出来的经验值，不建议照抄。更可靠的做法是先跑两周基线，统计正常状态下相邻两轮预测的平均KL散度，取它的三倍作为告警阈值。这个“自基线”方法比任何拍脑袋的常数都靠谱。
4. 实测结果与三个反直觉结论
框架上线跑了几个月，我们积累了一些数据。这里挑三个最反直觉的结论说，每一个都和我们最初的预想不一样。
4.1 结论一：样本半衰期在不同任务里能差三个数量级
我们最初拍脑袋给所有业务线统一设了14天半衰期，结果发现这是一个严重的错误。在某个搜索排序场景里，半衰期超过30天都嫌短，老样本依然有参考价值；但在某个热榜驱动的信息流场景里，半衰期只有几个小时——昨晚的热点，今天中午再喂给模型，只会帮倒忙。
后来我们给每个任务单独做了一个相关性衰减曲线估计：把样本按年龄分桶，计算每一桶样本的标签与当前最新样本标签的互信息。互信息掉到一半的那个桶龄，就是实际半衰期。不同任务的差异可以到三个数量级，统一设定参数等于让一半任务用错参数还浑然不觉。
4.2 结论二：递归深度不是越深越聪明，超过2就发散
我们在模拟项目X里做了一个可控实验：同样一套数据，只改变递归深度R，从1调到8。结果显示，R=1和R=2时指标基本持平；R=3时开始出现轻微退化；R=4以上，在线指标出现可观测的滑落；R=6的时候，模型几乎完全记住了自己过去的错误并形成了固定偏见。
原因并不神秘。每一轮循环都会把上一轮的误差乘以一个放大因子，这个因子通常大于1。三轮以上的级联，误差就会超过信号。简单说：递归深度每加1，系统的有效信噪比就掉一个台阶。这也解释了为什么很多团队在做多轮自训练时总感觉“模型越调越死”——不是调参的问题，是循环结构本身不允许那么深。
4.3 结论三：衰变熵不是越低越好，存在最优区间
我一开始以为，衰变熵Hδ越低代表系统越稳定，所以设了一个硬性下限，企图把Hδ压到接近1。结果调参的时候发现一个诡异现象：某些任务里，把Hδ压得太低之后，模型的短期指标确实变好了，但两周之后突然出现反弹式的退化，而且比压之前更猛。
后来才想明白：Hδ被压得过低，意味着训练分布与基准分布几乎完全一致，这本身是假的——真实世界在持续变化，如果训练分布一点都没漂移，那只能说明采样器没有在采集真实的新鲜数据，系统实际上处于一种“被锁死在旧世界”的状态。适度的分布漂移（Hδ在1.2到1.5之间）反而是健康的，它说明模型确实在跟随世界变化。
这个发现改变了我对监控指标的理解：监控不只盯上限，也要盯下限。数据既不腐坏、也不僵化，才是健康的循环。
5. TORI 2.0解决不了的三个问题
这个框架不是万能的。用了大半年之后，我对它的边界有了比较清晰的认识，写在这里，免得后来的人走弯路。
5.1 衰变核函数本身依赖人工先验
TORI 2.0定义了衰变怎么参与计算，但它没有告诉你半衰期该设为多少，也没告诉你该用指数还是幂律。这些参数仍然依赖业务经验和前期数据分析。如果业务场景本身处于剧烈变化期，比如市场规则突变，再好的核函数也追不上实际衰减速度。框架能做的是让衰减被显式表达出来，而不是假装它不存在。
如果非要给一个通用建议：拿不准的时候选指数核，因为它参数少、行为直观、容易调。幂律核虽然在某些场景更准确，但β和τ两个参数的联合调参成本高得多，在数据量不够大时反而容易过拟合到噪声上。
5.2 熵估计在流式场景里不便宜
衰变熵Hδ的计算需要维护一个参考分布和一个实时训练分布，并持续计算两者之间的散度。在批量场景里这完全没问题；但到了高吞吐的流式训练场景，每个batch都要做一次分布估计和散度计算，成本会明显上升。
我们最后采取的办法是：Hδ只在固定时间窗结束后异步计算一次，再回写到监控系统，不参与batch内的实时优化路径。这是一个折中，代价是监控存在分钟级延迟，好处是训练吞吐基本不受影响。
5.3 它能告诉你“系统变坏了”，却讲不了“为什么变坏”
TORI 2.0是一个量化工具，不是解释工具。当Hδ超过告警阈值时，你能确定系统出问题了，但要去排查到底是外部环境变了、数据管道坏了、还是循环放大导致误差累积，框架本身给不出答案。这时候还是需要人去查特征重要性、看样本分布、翻管道日志。
框架的意义在于把“什么时候该去查”这个问题变得确定，而不是取代排查本身。想清楚这一点，就不会对它有超出预期的期待。
最后分享一个我个人觉得最有用的实践心得：不要试图把TORI 2.0一次性完整落地。先把时间算子T加进去，跑两周，观察指标变化；再上循环控制器，跑两周；最后再考虑衰变熵和观测覆盖域。分步引入有一个好处——每一步的效果都能被单独归因，出了问题也容易回滚。我见过太多团队想一步到位，结果三个新机制同时上线，出了状况根本分不清是哪个环节引起的。慢慢来，反而快。
如果你也在维护一个需要长期自训练的AI系统，哪怕不引入这整套框架，至少做一件事：在训练日志里把每一条样本的事件时间、来源（原始日志还是模型输出）、递归深度这三个字段打全。有了这三个字段，你将来想复现任何关于数据衰变和循环污染的排查，都不至于从头补数据。这是我在模拟项目X里踩坑之后，最希望当初能提前做对的一件事。
