news 2026/4/15 9:32:15

仅凭文本就能劫持AI:无点击、无恶意软件,仅靠文字

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
仅凭文本就能劫持AI:无点击、无恶意软件,仅靠文字

仅凭文本就能劫持AI —— 无需点击,无需恶意软件,仅靠文字

英国国家网络安全中心警告称,该漏洞可能永远无法被完全修复——因为它与语言模型读取文本的方式紧密相连。

一位银行客户要求ChatGPT查询其账户余额。AI却返回了其他十七位客户的账户详情,并开始转账。整个过程无人点击任何恶意内容,也没有任何凭据被盗。攻击是如何实现的?它被嵌入在网站元数据中,而ChatGPT的搜索功能自动索引了这些内容。

这并非理论推演。Tenable的研究人员在上个月已演示了此攻击。它能成功,是因为提示注入的本质与安全团队的想象不同。

SQL注入的应对手册在此无效

安全架构师们一直将提示注入与SQL注入相类比。这种模式看起来很熟悉:不可信的输入、权限提升、灾难性的入侵。但英国国家网络安全中心在2025年12月发布的指南中,指出了安全团队一直担忧的事实:

提示注入可能永远无法被妥善修复。

这并非因为研究人员没有努力。而是因为这个类比本身就是错误的。
CSD0tFqvECLokhw9aBeRqltLbYhrAO19ODn2qbbT3I2tRT8YcD5iRXHHfrfnejHfvVgPL+SD2tEp5oEfin6C8zhMAMi7YKjUPSEX7biagMM5dZasHuJgL3r/2eD642XosQG01NHJYJ5qvJ6kCN5Im7CUT0ydeasHnXUCrYP1Wy3E9cN/HvfXfEZEsBGmm553
更多精彩内容 请关注我的个人公众号 公众号(办公AI智能小助手)
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号(网络安全技术点滴分享)

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/9 14:17:15

关于大模型部署:看这篇就对了

前言 大模型从训练完成到真正对外提供服务,部署是中间的关键桥梁。部署的核心目标很明确:让模型在特定硬件环境下,以低延迟、高吞吐量、高稳定性的状态,响应各类输入请求。这不是简单的“加载模型运行”,而是一个涉及环…

作者头像 李华
网站建设 2026/4/12 19:09:31

王阳明:清除人生的三种“土匪”

《心学攻略:王阳明给现代人的“人生重构”系统》 2/24第02讲 | 核心隐喻:我们要打的三种“土匪”——人生阻力拆解:为什么你总在“打地鼠”,却永远清不完问题?三重围城:现代人的“土匪”阻力地图你有没有觉…

作者头像 李华
网站建设 2026/4/12 20:34:22

AiScholar艾思科蓝2025年度答卷:聚焦“四化”战略,驱动创新发展

2025年,AiScholar艾思科蓝立足“科研领域的连接者”,秉承“合法,诚信,透明,善意”的学术服务准则,以品牌化树立标杆、以国际化拓展边界、以专业化筑牢根基、以智能化驱动革新,在全球学术生态中持…

作者头像 李华
网站建设 2026/4/8 4:48:20

SpreadJS V19.0 新特性解密:评论重构协作体验,让表格沟通更高效

在表格协作场景中,数据编辑与沟通同步始终是开发者与企业用户的核心痛点:传统表格的单元格备注零散无序,多用户讨论难以追溯;评论编辑状态无法协同,未保存内容易丢失;重要沟通节点难标记,问题闭…

作者头像 李华
网站建设 2026/4/13 18:12:50

5.10 数据分析与报告生成:让AI成为你的数据洞察专家

5.10 数据分析与报告生成:让AI成为你的数据洞察专家 在数据驱动的时代,数据分析能力已成为职场核心竞争力。然而,传统的数据分析流程复杂繁琐,需要专业技能和大量时间。从数据清洗到可视化,从统计分析到报告撰写,每个环节都可能成为效率瓶颈。AI技术的应用正在彻底改变这…

作者头像 李华