如果要预测一位 F1 车手下一场比赛能否完赛，可以参考的数据很多：过往赛果、积分、排位成绩，以及车队相关记录。这些数据通常分散在关系型数据库的不同表里，依靠外键关联。
面对模型有限的输入空间，哪些关联记录值得优先读取？哪些可以少读，甚至不读？
2026 年 10 月 1 日发布在 arXiv 上的论文 STEER，研究的就是这个问题。作者 Abdalla Mohamed 与 Ashraf Aboulnaga 都是来自得克萨斯大学阿灵顿分校。论文报告：在所测试的模型和任务上，采样上下文平均减少约四成，平均预测指标接近基线，部分情况下还能有提升。
设计分工很清楚：大语言模型判断连接的相关性，预设规则把等级转换成概率，采样器执行选择，关系型基础模型完成预测。
01 / 随机删一半，预测质量会怎样
先认识关系型基础模型（Relational Foundation Model，简称 RFM）。这类模型在多种关系数据库和任务上预训练，之后可以对未见过的数据库与任务做预测，而不更新模型权重。
预测时，模型需要读取目标记录周围的信息。采样器从待预测的任务行出发，沿外键收集关联记录，组成上下文。
例如，任务行先找到车手记录，再找到这位车手的历史赛果。赛果还可以连接到车队等记录。采样还要排除预测时刻之后的数据，避免使用未来信息。
通常上下文越大，模型通常需要越多计算。一个直接的压缩办法，是从已经采样的记录中随机删除一半。
论文把这种“朴素剪枝”（Naive Pruning）作为对照方案。按该方案的规则，样本规模减少 50%。但与未修改的基线相比，RT-J 的平均分类 AUROC 下降了 4.10 个百分点，平均回归 R² 下降了 16.09 个百分点。
AUROC 衡量模型区分正例与负例的能力。R² 衡量模型解释目标数值变化的能力。论文把两者都按百分数尺度报告，但它们都不等同于预测正确率。
随机删除不考虑记录与任务的相关性，关键的历史赛果和帮助较小的记录，都有相同的概率被删除。
缩减输入时，需要同时决定保留什么、减少多少。只控制规模，可能损害预测质量。
02 / 先给连接分级，再决定是否跟随
STEER 全称为 Schema-guided, Token-Efficient Edge Ranking，可以理解为“用数据库结构引导连接评级，让采样输入更精简”。
它给大语言模型提供完整的数据库结构和预测任务说明。结构包括表名、列名、主键与外键，不包括具体记录值。
大语言模型先理解结构和任务，再评价每条外键连接与任务的相关性。评价结果分为四档：极强、强、中等、弱。
采样器可以沿外键关系向两个方向遍历。例如，从一条赛果记录找到对应的车手，是从子记录到父记录；从一个车手找到多条赛果，则是从父记录到子记录。STEER 分别评价两个方向。
同一张目标表，也可能通过不同连接到达。因此，STEER 评价的是“这条连接在当前遍历方向上是否有用”。即使通向同一张表，不同连接的等级也可能不同。
默认配置把四档转换为以下跟随概率：
| 相关性等级 | 跟随概率 |
|---|---|
| 极强 | 100% |
| 强 | 60% |
| 中等 | 20% |
| 弱 | 0% |
这些概率由预设规则确定，大语言模型负责输出等级。整个流程可以写成：
数据库结构与任务 → 连接等级 → 跟随概率 → 采样上下文 → RFM 预测。
采样器先找出候选记录，再对每条候选记录连接独立抽取一个随机数，取值大于等于 0、小于 1。随机数小于对应的跟随概率，就跟随这条连接，继续采样。
例如，一条连接的跟随概率是 0.6，抽到的随机数是 0.74，采样器就跳过它。抽到 0.32，则跟随它。跳过连接后，采样器不再沿这条路径继续扩展。在关系图中，同一记录仍可能通过其他路径被访问。
这里的 60% 是跟随概率，既不是预测正确率，也不保证每次恰好保留 60% 的候选记录。
这套方法还有一个重要设计：配置可以复用。
首次处理一个数据库与预测任务时，主方法调用大语言模型两次，分别评价两个遍历方向，并保存配置。之后，同一数据库与任务的预测可以直接读取配置。
在这个条件下，即使进行一万次预测，也只需在首次生成配置时调用两次大语言模型。高频执行由采样器和 RFM 完成。
概率筛选能缓和部分评级错误。例如，一条本该评为“强”的连接被评为“中等”，跟随概率从 0.6 降到 0.2，仍有机会被保留。但它不能消除错误，默认配置下，“弱”的概率为零，误判到这一档仍可能切断有用路径。
03 / 样本缩小了，平均指标接近或高于基线
论文在 RelBench 上测试了 8 个数据库、24 个任务，包含 14 个分类任务和 10 个回归任务。被测模型为 RT、RT-J 和 Griffin，存在已知时间泄漏问题的 rel-event 数据库被排除。
下面四组结果来自论文表 2，使用 Claude 生成等级、采用默认概率，未启用列筛选：
| 模型与任务类型 | 平均样本大小，tokens | 样本减少 | 平均预测指标 |
|---|---|---|---|
| RT 分类 | 915.6 → 546.6 | 40.3% | AUROC：69.98 → 71.46 |
| RT-J 分类 | 912.6 → 517.7 | 43.3% | AUROC：71.72 → 71.64 |
| RT 回归 | 954.5 → 489.1 | 48.8% | R²：17.33 → 21.21 |
| RT-J 回归 | 937.2 → 405.8 | 56.7% | R²：40.43 → 41.22 |
注：箭头表示基线 → STEER。分类数据在 14 个任务上平均，回归数据在 10 个任务上平均。指标使用论文的百分数尺度。
这些结果说明，在上述实验设置中，STEER 能明显缩小样本，同时维持接近基线的平均预测质量。RT 的两类平均指标都有提升；RT-J 的分类指标略降，回归指标略升。
Griffin 上也观察到样本缩减。其分类样本减少 47.5%—48.2%，回归样本减少 32.8%—37.0%。这些范围覆盖论文使用的两种大语言模型评级来源。跨两类任务和两种评级来源，Griffin 的平均指标最大下降为 0.78 个百分点。
需要注意，Griffin 的输入规模采用节点数与平均列数换算的估计 token 数，与 RT、RT-J 的直接 token 计数口径不同。
这组结果有两个边界：
第一，样本减少四成，不是费用降低四成
论文中的约四成来自采样上下文规模。它不能直接换算成相同比例的推理时间、GPU 开销或账单变化。实际收益还受模型结构、批处理方式、采样开销和硬件影响。
第二，平均质量接近基线，不代表每个任务都没有损失
默认 STEER 下，RT-J 在rel-avito的user-clicks任务上，AUROC 从 49.64 降到 40.52，下降 9.12 个百分点。论文表 3 报告了这个单任务结果。
平均数适合观察总体趋势，决定是否用于某个业务时，还要看目标任务本身。
04 / 三个可以借鉴的方向
第一，检查输入中哪些部分真正有用
模型表现既取决于模型能力，也取决于输入质量。低价值信息占据上下文，可能挤掉更有用的记录。优化系统前，可以先检查模型实际读取了什么，以及这些信息为什么被选中。
STEER 使用结构语义提供筛选依据，表名、列名和连接关系给大语言模型提供线索。
由此可以提出一个需要验证的推断：名称缺少语义时，评级可能更困难。但表名、任务说明和连接结构仍可能提供信息，不能仅凭列名难懂，就断定方法失效。
第二，把可复用的判断与重复执行分开
STEER 让大语言模型生成配置，再让采样器反复执行。对于任务相对稳定、判断结果能够复用的场景，这种分工值得尝试。
实际落地时，还要考虑配置的适用范围：任务定义或数据库结构发生变化，旧配置是否仍然有效，需要重新检查等都是工程部署需要处理的问题。
第三，每增加一层筛选，都重新验证质量
论文还测试了可选的列筛选：记录已经被访问后，再决定哪些字段写入上下文。这项扩展针对 RT、RT-J 这样的 Transformer 模型。
以基线样本大小为参照，叠加列筛选后，样本缩减比例比仅用连接筛选时再增加 5.6—9.8 个百分点。但 RT-J 的平均回归 R² 从 41.22 降到 38.11。
字段名称也无法说明全部数据情况。一个看似重要的列，实际可能大量为空。论文为列筛选增加了空值率统计，用实际数据修正部分语义评级。
语义判断可以提出筛选方向，实际数据和任务评估负责检查这个方向是否有效。
05 / 怎样判断优化真的有效
评估输入筛选方案，可以检查三个问题：
- 输入规模减少了多少？明确计算的是记录数、节点数还是 token 数，并使用可比较的口径。
- 预测质量变化了多少？在同一评估条件下，与未修改的基线比较。
- 哪些任务退化了？查看单任务结果，以及重要任务能否接受这种变化。
如果目标是降低成本，还要补上采样时间、推理时间、资源使用和实际费用测量。上下文缩减只是其中一项证据。
论文也尝试了按任务调优概率。部分任务获得明显提升，部分任务却下降。作者指出，调优可能拟合验证集，不能保证在测试集上继续有效。
这意味着，即使筛选规则更复杂，也需要独立评估它的收益。
STEER 已验证的范围是关系数据库预测，以及论文测试的三个 RFM。把它用于检索增强生成（RAG）、Agent 或教学系统，目前仍是迁移设想，论文没有验证这些场景。
可以借鉴的是它的分工：让语义判断产生可复用的配置，让执行系统按配置选择输入，再用目标任务检验收益。
作者还将统一的 SQL 采样接口列为未来工作，希望减少为不同模型分别修改 Python 采样器的工程负担，但该统一接口并未在本文中实现。
读完这篇论文，最值得注意的问题是：删减信息后，我们减少了多少处理负担，又失去了哪些预测能力？
参考来源
- STEER: Reducing Inference Cost in Relational Foundation Models through Semantically Informed Sampling，Abdalla Mohamed、Ashraf Aboulnaga，arXiv 预印本，2026 年 10 月 1 日。方法见第 3—6 节，主实验见第 8.2 节，汇总数据见表 2，单任务数据见表 3。
- lids-lab/steer，论文列出的代码与实验资源仓库。
最后，感谢你看到这里 👋
如果喜欢这篇文章，不妨顺手给我们点赞｜转发｜评论📣
阅读原文
