news 2026/10/2 20:07:40

AI Agent 开发工程师(十四):给模型的回答装上三道闸门——护栏与兜底

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
AI Agent 开发工程师(十四):给模型的回答装上三道闸门——护栏与兜底

Agent 会乖乖交卷,但我们得先给答卷装个"自动判题机"

上一篇我们真跑出一个扎心的结论:即便你写死了"严禁编造",LLM 照样会在逼它输出 JSON 时,偷偷编个 1999.00 塞给你。prompt 是人话,模型是概率,你没法用"你发誓不准编"焊死它。那怎么办?

靠"押宝给模型自觉"终归不牢。真正可靠的是在代码层给它装上护栏(guardrail):无论模型说什么,都在它出门之前质检一遍——输出是不是合法 JSON?价格在不在合理范围?查不到时有没有老实说?不对就拦下、修拦截、或降级。这就是这一篇要做的:让 Agent 的"靠得住",从"看它说多好听"变成"代码先于结果把诡异拦下来"。

一句话:prompt 是"前台劝导",guardrail 是"后台保安"。前台你劝它别干坏事,后台它在干坏事前一定要被拦死。

护栏要守的三道闸门

这一篇给我们那个股票 Agent 焊三道闸(全部能在代码层面真测真拦):

  1. 结构闸(JSON 校验):说好了返回 JSON,那就必须真的是合法 JSON、字段类型对、不能多不能少。用json.loads+ 字段检查,非法就拦。
  2. 语义闸(防编造 / 数值范围):价格必须在合理范围(茅台不可能 1 元,也不可能 1 万)。落在区间外,判定"可疑",标注suspect或直接标纠。查
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/2 20:04:29

Ubuntu 20.04 安装 OpenClaw 全攻略:从环境配置到模型接入与报错排查

1. 安装前要摸清的底细如果你搜到这个标题,大概率已经有两个预判:一是觉得“Ubuntu 20 装个开源工具能有多难”,二是卡在某个报错里出不来。我先后在物理机、虚拟机、WSL2 里完整跑过 OpenClaw,也被 npm 权限、Node 版本、WSL 报错…

作者头像 李华
网站建设 2026/10/2 20:02:47

CSS字体属性全攻略:字体栈、字号、字重与复合属性详解

CSS字体属性大概是前端入门时最早接触、却最容易稀里糊涂带过去的一块。很多人写 font-family 就手打一个 Arial,写 font-size 就随便给个 14px,等到做真实项目才发现:字体栈顺序不对、中文乱码、 font-weight: bold 在部分浏览器里根本…

作者头像 李华
网站建设 2026/10/2 19:58:10

a标签href与target全解析:从基础用法到安全坑位

1. 一个被写错的属性名&#xff0c;让我重新审视了a标签先讲个真事儿。上周帮一个前端群里的朋友排查问题&#xff0c;他写的链接死活不跳转&#xff0c;代码如下&#xff1a;<a herf"https://example.com">点击跳转</a>我一眼就看到了问题&#xff1a;h…

作者头像 李华
网站建设 2026/10/2 19:58:07

告别Vivado编辑器:用VSCode打造高效Verilog开发与仿真工作流

每次在Vivado里写Verilog&#xff0c;我都觉得回到了十年前——编辑器没有代码补全&#xff0c;信号跳转靠眼力&#xff0c;语法错误要到综合阶段才爆出来。后来花了一个周末&#xff0c;把Vivado和VSCode串成了完整工作流&#xff0c;从此写RTL、跑仿真、查时序全在VSCode里完…

作者头像 李华
网站建设 2026/10/2 19:58:06

SCADA系统架构与通信链路实战教学课件

简介&#xff1a;本资源是一份系统、专业的SCADA系统入门级教学PPT课件&#xff0c;面向自动化、电气工程、工业控制等领域的初学者与工程技术人员&#xff0c;旨在帮助读者快速掌握SCADA系统的核心概念、分层架构与典型应用场景。课件内容覆盖SCADA定义与本质&#xff08;监控…

作者头像 李华