news 2026/7/14 14:20:01

OpenAI招聘新任安全准备主管应对AI潜在危害

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
OpenAI招聘新任安全准备主管应对AI潜在危害

OpenAI正在寻找一位新的安全准备主管,帮助公司预测其模型的潜在危害以及可能被滥用的方式,从而指导公司的安全战略。这一招聘发生在OpenAI因ChatGPT对用户心理健康影响而面临众多指控的一年末,包括几起过失致死诉讼。

在X平台上关于这一职位的帖子中,OpenAI首席执行官Sam Altman承认"模型对心理健康的潜在影响是我们在2025年看到的一个预览",以及伴随模型能力出现的其他"真正的挑战"。他表示,安全准备主管"是在重要时刻的关键角色"。

根据职位描述,安全准备主管(年薪55.5万美元加股权)"将领导OpenAI安全准备框架的技术策略和执行,该框架解释了OpenAI追踪和准备可能造成严重危害风险的前沿能力的方法"。据Altman所说,这是"一份压力很大的工作,你几乎会立即跳入深水区"。

在过去几年中,OpenAI的安全团队经历了很多变化。该公司前安全准备主管Aleksander Madry在2024年7月被重新分配,Altman当时表示该职位将由高管Joaquin Quinonero Candela和Lilian Weng接管。Weng几个月后离开了公司,2025年7月,Quinonero Candela宣布从安全准备团队转到OpenAI负责招聘工作。

Q&A

Q1:OpenAI为什么要招聘新的安全准备主管?

A:OpenAI招聘安全准备主管是为了帮助公司预测其AI模型的潜在危害以及可能被滥用的方式,从而指导公司的安全策略。这发生在ChatGPT因对用户心理健康影响而面临众多指控的背景下。

Q2:安全准备主管的主要职责是什么?

A:安全准备主管将领导OpenAI安全准备框架的技术策略和执行,该框架用于追踪和准备可能造成严重危害风险的前沿AI能力。年薪为55.5万美元加股权。

Q3:OpenAI的安全团队近年来有什么变化?

A:OpenAI安全团队经历了很多人员变动。前安全准备主管Aleksander Madry在2024年7月被重新分配,接任者Lilian Weng几个月后离开公司,另一位接任者Joaquin Quinonero Candela也在2025年7月转到招聘部门。


版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/14 4:25:21

利用Miniconda镜像统一团队Python开发环境的最佳策略

利用Miniconda镜像统一团队Python开发环境的最佳策略 在数据科学和人工智能项目中,你有没有遇到过这样的场景:同事兴奋地跑来告诉你,“我训练好的模型准确率提升了5%!” 结果你一拉代码、装依赖、运行——报错:“Modul…

作者头像 李华
网站建设 2026/7/11 19:29:28

使用Miniconda-Python3.10处理万亿级Token语料库的技术路线

使用Miniconda-Python3.10处理万亿级Token语料库的技术路线 在大语言模型(LLM)训练迈向“数据为王”的时代,我们面对的已不再是GB级别的文本集合,而是动辄数万亿Token的超大规模语料库。当数据量从“可遍历”走向“只能流式处理”…

作者头像 李华
网站建设 2026/7/14 9:09:34

C#之ref与out

C# 中的 ref 与 out 参数详解教程 在 C# 中,ref 和 out 是用于修改方法外部变量的关键字,它们允许方法通过参数引用直接操作调用者提供的变量。本文将详细介绍这两个关键字的用法、区别和最佳实践。 基本概念 值类型与引用类型 在 C# 中,参数…

作者头像 李华
网站建设 2026/7/11 19:16:25

环境仿真软件:AnyLogic_(7).网络与交通流仿真

网络与交通流仿真 在之前的章节中,我们已经了解了如何在AnyLogic中进行基本的仿真建模。现在,我们将深入探讨网络与交通流仿真的原理和内容。网络与交通流仿真是AnyLogic中的一个重要模块,它主要用于模拟和分析交通系统中的各种动态行为&…

作者头像 李华
网站建设 2026/7/11 18:08:20

环境仿真软件:AnyLogic_(9).事件与时间控制

事件与时间控制 在仿真软件中,事件与时间控制是实现系统动态行为的关键机制。AnyLogic 提供了多种方式来管理和控制仿真时间,包括事件触发、时间进度控制、定时器等。通过合理地设置事件与时间控制,可以确保仿真的准确性和高效性。本节将详细…

作者头像 李华