刷到 arXiv 上前段时间刚发布的论文,来自慕尼黑工业大学和巴塞罗那理工大学。
这篇综述解读了 「自主 LLM 智能体」的底层逻辑,适合想从工程角度理解 Agent 架构的同学。
论文提到了首先得纠正一个常有的误区:
Agent 不等于 Workflow。
Workflow 是预设好的、僵硬的步骤;
而 Agent 是根据环境反馈动态生成策略的。
这篇论文的核心是提出了一个完整的智能体。
由四个子系统组成:感知、推理、记忆和执行。
1️⃣ 感知系统
论文提到了四种路径:
纯文本、多模态(MM-LLMs)、结构化数据(比如利用HTML里的Accessibility Tree)以及工具辅助感知。
有意思的是,为了解决视觉感知容易幻觉的问题。
文中提到了Set-of-Mark(SoM)操作。
简单说就是在界面上先画满标记,再让模型去思考。
这种方式在处理复杂 GUI 时准确度提升非常明显。
为什么会这样呢?
可能一方面有点像是画重点,标出可操作区域。
另一方面可能是给出一个reference。
毕竟LLM空间感通常比较弱,给一个标记来帮助指代和思考,更有利于推理,而且也把空间坐标问题转化成了标签选择问题。
2️⃣ 推理系统
论文详细对比了几种范式:
比如DPPM(分解、并行计划、合并),这是目前应对复杂约束的方式,把任务拆开让不同 Agent 并行处理,最后再合并。
还有反思机制:包括DEVIL’S ADVOCATE模式。
Agent 在干活前会先给自己打预防针:
如果这步失败了怎么办,有没有 Plan B?
3️⃣ 记忆系统
短时记忆受限于Context Window;
长时记忆则通过 RAG、数据库或具身记忆(把经验微调进权重里)来实现。
在这里面记忆去重很重要,比如每存够 5 条类似的成功经验,就用 LLM 总结成一条通用方案替换掉。
4️⃣ 执行系统
除了 API 调用,现在还有视觉界面自动化。
通过生成精准的鼠标坐标和键盘输入,Agent 理论上可以操作任何人类能用的软件。
哪怕那个软件根本没有 API。
虽然饼画得很大。
但论文也给出了现实数据:
在 OSWorld 基准测试中,
人类的完成率是 72.36%,而目前最顶尖的模型只能达到 42.9%
目前 Agent 遇到的最大瓶颈不是模型本身不够聪明。
而是感知的精度、推理的一致性、上下文管理等综合性问题。
要把所有的现实应用都放到Agent的框架下完成,还有很多困难要解决。
🔧可使用ArxivSub查阅更多论文
📬ArxivSub: arxivsub.comfyai.app
📬LLM全英文免费教程: comfyai.app
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线科技企业深耕十二载,见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事,早已在效率与薪资上形成代际优势,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包:
- ✅ 从零到一的 AI 学习路径图
- ✅ 大模型调优实战手册(附医疗/金融等大厂真实案例)
- ✅ 百度/阿里专家闭门录播课
- ✅ 大模型当下最新行业报告
- ✅ 真实大厂面试真题
- ✅ 2025 最新岗位需求图谱
所有资料 ⚡️ ,朋友们如果有需要《AI大模型入门+进阶学习资源包》,下方扫码获取~
① 全套AI大模型应用开发视频教程
(包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点)
② 大模型系统化学习路线
作为学习AI大模型技术的新手,方向至关重要。 正确的学习路线可以为你节省时间,少走弯路;方向不对,努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划,带你从零基础入门到精通!
③ 大模型学习书籍&文档
学习AI大模型离不开书籍文档,我精选了一系列大模型技术的书籍和学习文档(电子版),它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。
④ AI大模型最新行业报告
2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
⑤ 大模型项目实战&配套源码
学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。
⑥ 大模型大厂面试真题
面试不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我精心整理了一份大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。
以上资料如何领取?
为什么大家都在学大模型?
最近科技巨头英特尔宣布裁员2万人,传统岗位不断缩减,但AI相关技术岗疯狂扩招,有3-5年经验,大厂薪资就能给到50K*20薪!
不出1年,“有AI项目经验”将成为投递简历的门槛。
风口之下,与其像“温水煮青蛙”一样坐等被行业淘汰,不如先人一步,掌握AI大模型原理+应用技术+项目实操经验,“顺风”翻盘!
这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。