news 2026/5/2 15:09:07

谁是Samuel LeCun?NeurIPS 2025论文幻觉大赏,同行评审引争议

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
谁是Samuel LeCun?NeurIPS 2025论文幻觉大赏,同行评审引争议

NeurIPS 2025 惊现“填空式”造假,连 arXiv:XXXX 都不删。

GPTZero 团队近日发布审查报告,在 NeurIPS 2025 已发表的 4841 篇论文中,检测出超过 50 篇包含明确的 AI 幻觉。

这是继 ICLR 2026 审稿阶段爆出 50+ 篇 AI 幻觉论文后(具体分析可参考我们之前的文章),学术界再次出现大规模 AI 生成内容通过同行评审的案例。

值得注意的是,这些幻觉并非出现在只有一两人把关的边缘刊物,而是全部逃过了每篇论文至少 3 位人类审稿人的法眼。

不同的是,ICLR 尚处审稿阶段,而 NeurIPS 这批论文已正式归档,作为顶会成果被全球 20,000 多名与会者查阅引用。

报告披露了以下几类典型的 AI 生成伪造引用文献样本。

虚构图灵奖得主与期刊

在 GPTZero 披露的数据中,最典型的案例是一篇论文对深度学习经典文献的引用错误。

〓 GPTZero 报告对比真实引用与幻觉引用,作者名和期刊名均为 AI 捏造

AI 把图灵奖得主 Yann LeCun 和好莱坞影星 Samuel L. Jackson(漫威电影中“神盾局局长”的扮演者)的名字强行缝合在了一起,并顺手虚构了名为 Science & Nature 的期刊。

如此明显的错误,在正文引用和参考文献列表中均未被作者或审稿人修正。

保留 arXiv 占位符

GPTZero 将此类现象称为 Vibe Citing,仅保留引用的形式,不具备实际内容。

〓 已发表论文中保留了未修改的 arXiv 占位符,且包含多个无效引用

在论文《Efficient semantic uncertainty quantification in language models via diversity-steered sampling》中,参考文献列表包含大量 arXiv:2305.XXXX 和 arXiv:2402.XXXX。

作者直接使用了 AI 生成的带 XXXX 占位符的模板,既未补全具体的 arXiv ID,也未核实论文标题是否存在。该论文最终包含 13 处此类幻觉引用。

匿名占位符

除了具体的错误,部分论文甚至直接保留了代码模板中的默认人名。

在 GPTZero 截取的另一案例中,参考文献作者栏直接显示为 "Firstname Lastname and Others"(名·姓及其他)。

〓 参考文献作者栏直接保留了 "Firstname Lastname" 等占位符文本

此外,报告还指出部分论文出现了 "John Doe and Jane Smith" 等常见的匿名占位符名字。

〓 已发表论文中竟直接保留了“John Doe”等虚构占位符人名。

这些显而易见的错误表明作者未对 AI 生成的参考文献列表进行最基本的目视检查。

真作者,假论文

相比上述低级错误,隐蔽性更强的是半真半假的幻觉。

例如在论文《Memory-Augmented Potential Field Theory》中,AI 引用了 Mario Paolone 等 9 位真实存在的电气工程领域学者,年份(2020)也是正确的。

〓 该引用的作者真实但论文标题为虚构

但经核实,该作者团队从未发表过题为《A benchmark model for power system stability controls》的论文,其对应的卷号及页码也均为捏造。

此类幻觉极难通过肉眼识别,必须依赖数据库检索。

全景扫描:100 条幻觉引用清单

上述案例仅仅是冰山一角。为了直观呈现此次审查疏漏的波及范围,GPTZero 团队公开了完整的检测清单。

上下滑动,查看完整表单

这份包含 100 条已验证幻觉引用的表单,详细记录了从作者姓名拼接到完全虚构论文的各类造假细节。

这份清单直观反映了在海量投稿冲击下,现有同行评审机制已难以有效拦截此类 AI 伪造内容。

涉事机构分布

数据表明,AI 幻觉论文并非仅出自边缘研究机构。在 NeurIPS 2025 接收率仅为 24.52% 的背景下,这些包含明显错误的论文依然通过了评审。

〓 包含 AI 幻觉引用的论文作者机构分布统计

按作者归属机构统计,New York University (NYU) 数量最多。

榜单中还包含 Genentech、Shanghai Jiao Tong University、University of Cambridge、MIT、Google、Meta 等高校与企业。

这意味着即使是顶级研究机构,也未能完全规避 AI 生成内容的审查疏漏。

工具滥用与同行评审瓶颈

GitHub 数据显示了论文生成工具与会议截稿日的强相关性。

项目 ai-scientist 和 ai-researcher 的 GitHub Star 增长曲线出现两次垂直爬升,分别对应 2025 年 4 月(NeurIPS 截稿前夕)和 2025 年 9 月(ICLR 截稿前夕)。

〓 GitHub 上 AI 论文生成工具的 Star 增长与顶级会议截稿日高度重合

这种突发性增长导致投稿量激增,使得每篇论文分配 3-5 名人类审稿人的传统机制难以维持原有的审核精度。

GPTZero 团队指出,仅依靠扩充人类审稿人数量已难以应对 AI 生成内容的规模,学术会议引入自动化 AI 核查机制将成为必然趋势。

参考资料

[1] Shmatko, N., Adam, A., & Esau, P. (2026, January 21). GPTZero finds 100 new hallucinations in NeurIPS 2025 accepted papers. GPTZero Blog. https://gptzero.me/news/neurips/

更多阅读

#投 稿 通 道#

让你的文字被更多人看到

如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。

总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。

PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析科研心得竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。

📝稿件基本要求:

• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注

• 稿件建议以markdown格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题

• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算

📬投稿通道:

• 投稿邮箱:hr@paperweekly.site

• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿

△长按添加PaperWeekly小编

🔍

现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

·

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/28 18:56:33

电源管理芯片在工业控制中的应用:深度剖析其稳定性设计

以下是对您提供的博文内容进行 深度润色与专业重构后的版本 。本次优化严格遵循您的要求: ✅ 彻底去除AI痕迹,语言自然、有“人味”,像一位深耕工业电源多年的工程师在技术博客中娓娓道来; ✅ 打破模板化结构,取消…

作者头像 李华
网站建设 2026/4/28 14:55:10

IndexTTS-2音色克隆实战:3秒音频克隆私人语音模型

IndexTTS-2音色克隆实战:3秒音频克隆私人语音模型 1. 为什么这次音色克隆让人眼前一亮 你有没有试过,录下自己三秒钟的声音,然后让AI完全模仿你的语气、节奏甚至小习惯,把一段文字变成“你本人”在说话?不是那种机械…

作者头像 李华
网站建设 2026/4/30 3:55:50

Qwen All-in-One技术拆解:如何实现分饰两角?

Qwen All-in-One技术拆解:如何实现分饰两角? 1. 什么是Qwen All-in-One:一个模型,两种身份 你有没有试过让一个人同时当医生又当厨师?听起来不现实,但AI却可以。Qwen All-in-One 就是这样一个“身兼两职”…

作者头像 李华
网站建设 2026/4/29 8:11:49

低成本运行Paraformer-large:4090D显卡部署实操手册

低成本运行Paraformer-large:4090D显卡部署实操手册 你是不是也遇到过这些情况:想用工业级语音识别模型做本地转写,但发现动辄要A100或H100,成本高得吓人;试过几个开源方案,结果不是识别不准、就是长音频崩…

作者头像 李华
网站建设 2026/4/30 2:37:04

Qwen2.5-0.5B部署失败?常见问题排查与修复步骤详解

Qwen2.5-0.5B部署失败?常见问题排查与修复步骤详解 1. 为什么小模型也会“启动不了”——先破除一个误解 很多人看到“0.5B”这个参数量,第一反应是:这么小的模型,装上就能跑,怎么可能部署失败? 结果一试…

作者头像 李华
网站建设 2026/5/1 11:43:52

Open-AutoGLM实操案例:一句话完成复杂手机操作

Open-AutoGLM实操案例:一句话完成复杂手机操作 你有没有过这样的时刻:想在手机上完成一个看似简单却步骤繁多的操作——比如“打开小红书搜美食,点进第三条笔记,截图发给朋友”,结果手指划了七八下、点错三次、还卡在…

作者头像 李华