news 2026/11/5 17:02:41

小模型干活,大模型出主意:Anthropic 新 API 让成本降 12%、性能反升 2.7%

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
小模型干活,大模型出主意:Anthropic 新 API 让成本降 12%、性能反升 2.7%

https://claude.com/blog/the-advisor-strategy
nthropic 推出了一个叫“顾问工具”(advisor tool)的新 API 功能,核心思路是:让便宜的模型干活,遇到难题时请贵的模型出主意。

具体来说,Sonnet 或 Haiku 作为"执行者"全程跑任务、调工具、处理结果。碰到自己搞不定的决策,就把上下文递给 Opus,Opus 给出方案或纠正,执行者接着干。Opus 全程不碰工具、不直接输出给用户,只充当幕后军师。

这跟很多人熟悉的“大模型拆任务、小模型干活”的模式正好反过来。以前是大模型当指挥官,把任务拆成小块分配下去。现在是小模型自己跑,只在关键节点向大模型请教。好处很直接:大部分 Token 消耗在便宜的模型上,贵的模型只在刀刃上用。

效果方面,Sonnet 配 Opus 顾问在 SWE-bench 多语言测试上比 Sonnet 单干高了 2.7 个百分点,同时每个任务的成本还降了 11.9%。更有意思的是 Haiku 的表现:配上 Opus 顾问后,Haiku 在 BrowseComp 测试上从 19.7% 跳到 41.2%,翻了一倍多。虽然分数还是比 Sonnet 单干低 29%,但成本只有 Sonnet 的 15%,适合跑量大但对智能要求没那么极端的场景。

用起来也简单,在 Messages API 的 tools 里加一个 advisor_20260301 类型就行,一个 API 请求内部完成模型切换,不需要额外管理上下文或做多次调用。可以设 max_uses 控制每次请求最多咨询几次顾问,账单里顾问和执行者的 Token 分开计费。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/11/5 17:02:41

LLM_端到端自动驾驶

EAI:Embodied Artificial Intelligent,E2E:End to End,LLM:Large Language Mode 端到端自动驾驶专题:多模态输入融合、开源框架、头部企业与性能对比核心定义:端到端自动驾驶分为两类 纯端到端&…

作者头像 李华
网站建设 2026/11/5 17:02:40

PyTorch DataLoader优化:从底层机制到性能调优实战

我经常和团队里的小伙伴说,模型结构决定精度上限,数据管道决定训练体验。很多人花大把时间调网络、调学习率,却忽略了每个epoch都在默默拖后腿的数据加载环节。等到GPU利用率只有50%、nvidia-smi里显存占用高但计算核心闲着的时候&#xff0c…

作者头像 李华
网站建设 2026/11/5 17:02:35

GPT Images 2.5发布,局部编辑更精准不破坏原图

OpenAI本周推出GPT Images 2.5时,承诺在一项常见的编辑任务上带来更好的效果:修改图片的某一部分而不破坏其余部分。为此,开发者迎来了两款新模型Flare和Sunburst,但在选择时还需做一番功课。OpenAI为两款模型列出了相同的Token计…

作者头像 李华
网站建设 2026/10/19 14:48:33

Unity WebGL打包实战:四层决策树与37个线上坑的诊断手册

1. 这不是“点一下就出包”的魔法,而是 Unity WebGL 打包的实战地图Unity WebGL 打包,听起来就是把项目导出成网页能跑的文件——但实际操作中,它更像是一场需要同时兼顾引擎机制、浏览器沙箱限制、JavaScript 互操作、内存管理、加载策略和构…

作者头像 李华