news 2026/7/22 9:57:37

加入腾讯的姚顺雨发表首篇Paper!

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
加入腾讯的姚顺雨发表首篇Paper!

Datawhale学术

论文发表:姚顺雨,来源:PaperAgent

  • 2025.12.17 姚顺雨正式出任出任腾讯CEO / 总裁办公室首席 AI 科学家;兼任 AI Infra 部、大语言模型部负责人。

  • 2026.1.10 在 AGI-Next 前沿峰会上首秀亮相:做应用不仅需要强大的模型能力,还需要较长context(上下文/语境)

回到最近,腾讯混元&复旦联合发表的论文中《CL-bench》,姚顺雨也署名了!

CL-bench:A benchmark for Context Learning

CL-bench地址:

1. https://www.clbench.com/

2. https://github.com/Tencent-Hunyuan/CL-bench

3. https://huggingface.co/datasets/tencent/CL-bench

当然不是只挂名哦,姚顺雨(Shunyu Yao)全面而细致的审阅和反馈,极大地提升了这项工作的质量。

一、CL-BENCH价值

现有评测

痛点

静态知识问答(MMLU、C-Eval)

模型只靠预训练“老本”

长文档理解(LongBench、L-Eval)

考的是“找答案”,不是“学知识”

In-Context Learning(ICL)

只给几个样例,学的是“格式”而非“新知”

CL-BENCH 首次把“现学现卖”单独拎出来考

给一段全新、复杂、领域性强的上下文(最长 65 k tokens),再出 1~12 道必须依赖这段新知才能解的题目。

模型如果偷懒用预训练知识,几乎必挂(ablation 显示任务通过率 <1%)。

图 1:现学现卖 vs 传统 prompt 推理

二、CL-bench设计原则

CL-bench 围绕一个简单但严格的设计原则构建:每个任务都必须要求从 context 中学习新知识。 CL-bench 中的每个 context 都是完全自包含(Self-contained)的

解决任务所需的所有信息都显式地提供在 context 本身之中:不需要外部检索,也不允许隐藏假设。

解决CL-bench 中的任务需要模型从相应的 context 中学习新知识。

三、四大题型,18 个子类

考卷长啥样?

CL-bench 示例。解决这些任务要求语言模型从提供的 context 中学习。

图 3:上下文分类学

四、评分机制——“全或无”

每道题配套 10~20 条可自动判定的细项 rubric(格式、事实、计算、逻辑…)。

只有全部 rubric 通过才算 1 分,否则 0 分——彻底杜绝“差不多”。

表 4:LM-as-Judge 的 system prompt(节选)

Score = 1:学生答案必须**完美**满足 rubric 中**每一条**要求 Score = 0:只要有 1 条不满足

五、10 个前沿模型集体“翻车”

表 2:10 款模型全量结果

关键发现

  1. inductive ≪ deductive:需要“从数据归纳规律”的 Empirical Discovery 平均仅 11.8 %,比前三类低 6 个百分点。

  2. 长度即杀手:32 k tokens 以上文本,所有模型得分腰斩。

  3. 推理档位≠灵丹妙药:GPT-5.2 把推理从“low”拉到“high”,反而掉 5.6 %,暴露长链逻辑与指令跟随的失衡。

六、错误画像——模型都在怎么“偷懒”?

表 3:不同模型错误分布

一句话总结

CL-BENCH 像一场“闭卷速读+现场实操”的残酷考试,告诉咱们:现学现卖仍是下一代大模型最缺的通用能力

把这篇论文加入你的阅读清单,一起把模型逼成“10 分钟就能上手新业务”的超级打工人!

一起“赞”三连

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/16 9:27:29

Nano-Banana Studio多场景应用:服装AR试穿前结构理解辅助工具

Nano-Banana Studio多场景应用&#xff1a;服装AR试穿前结构理解辅助工具 1. 为什么服装设计需要“看得见结构”&#xff1f; 你有没有想过&#xff0c;一件T恤从布料裁剪、缝线走向、领口加固到袖窿弧度&#xff0c;背后藏着十几道不可见的结构逻辑&#xff1f;在AR试穿系统…

作者头像 李华
网站建设 2026/7/16 1:07:26

GLM-Image WebUI免配置实践:多用户隔离、权限控制、日志记录配置

GLM-Image WebUI免配置实践&#xff1a;多用户隔离、权限控制、日志记录配置 1. 为什么需要“免配置”的GLM-Image WebUI&#xff1f; 你有没有遇到过这样的情况&#xff1a;刚部署好一个AI图像生成Web界面&#xff0c;同事一涌而上&#xff0c;有人改参数、有人删历史图、有…

作者头像 李华
网站建设 2026/7/21 21:31:23

CogVideoX-2b创意玩法:将历史文献转化为动态纪录片

CogVideoX-2b创意玩法&#xff1a;将历史文献转化为动态纪录片 1. 为什么历史文献值得“动起来” 你有没有翻过泛黄的《永乐大典》残卷&#xff0c;或在博物馆玻璃柜前驻足于敦煌写经&#xff1f;那些密密麻麻的竖排小楷、褪色的朱砂批注、纸页边缘的虫蛀痕迹——它们不是静止…

作者头像 李华
网站建设 2026/7/21 4:52:14

AI 净界可解释性研究:可视化 RMBG-1.4 模型注意力区域

AI 净界可解释性研究&#xff1a;可视化 RMBG-1.4 模型注意力区域 1. 为什么“抠得准”比“抠得快”更重要&#xff1f; 你有没有试过用某款AI工具抠图&#xff0c;结果发丝边缘像被锯齿啃过&#xff1f;或者宠物胡须和背景融成一片灰雾&#xff0c;怎么调参数都救不回来&…

作者头像 李华
网站建设 2026/7/16 4:47:35

文艺青年的AI画室:灵感画廊一键生成梦幻作品

文艺青年的AI画室&#xff1a;灵感画廊一键生成梦幻作品 1. 这不是工具&#xff0c;而是一间为你留灯的画室 你有没有过这样的时刻——凌晨三点&#xff0c;咖啡凉了&#xff0c;草稿纸上涂满破碎的意象&#xff1a;月光下的青瓷、穿旗袍的机械猫、雨巷里浮起的旧胶片……可当…

作者头像 李华
网站建设 2026/7/19 17:36:39

造相 Z-Image 应用场景:游戏公司原画师概念草图快速生成与风格探索

造相 Z-Image 应用场景&#xff1a;游戏公司原画师概念草图快速生成与风格探索 1. 为什么原画师需要 Z-Image&#xff1f;从“画不出”到“一天出十版”的真实转变 你有没有见过这样的场景&#xff1a; 凌晨两点&#xff0c;游戏公司原画组的会议室还亮着灯。美术总监盯着屏幕…

作者头像 李华