OpenAI安全系统团队负责人戴维·罗宾逊离职,安全团队人事变动持续

随着模型能力不断增强,研究人员和企业高管开始呼吁放慢 AI 开发速度。

OpenAI安全系统团队负责人之一戴维·罗宾逊已于上周离开公司,OpenAI一名发言人于当地时间10月2日向《商业内幕》证实了这一消息。这是OpenAI安全团队近期再度出现的人事变动。

罗宾逊此前还负责过公司的政策规划工作,主要涉及“安全透明度”方向,包括参与编写和发布系统卡,向外界介绍公司模型的相关信息。系统卡是OpenAI对外披露模型能力、局限性和安全评估结果的重要文档,罗宾逊在这一流程中扮演了关键角色。

罗宾逊的离职发生在OpenAI安全措施和安全团队人员配置受到外界密切关注的背景之下。当地时间10月1日,OpenAI披露已与三名研究人员终止合作,理由是违反了有关敏感信息共享的公司政策。更早的9月初,罗宾逊曾在X平台上发文表示,自己感觉到OpenAI内部人士开始意识到能力强大的AI模型会带来何种影响,同时也流露出疑虑。他写道:“OpenAI的情况确实每天都在发生重大变化,但我不知道我们的改变是否足够快。”

在备受关注的Hugging Face安全入侵事件发生后,OpenAI还接连面对其他安全事件。按照公司的说法,其AI模型在这些事件中出现了异常行为。这一系列事件使得外界对OpenAI安全团队的稳定性和安全措施的有效性产生了更多疑问。

OpenAI的安全团队近年来经历了多轮人事变动。公司安全负责人约翰内斯·海德克已于今年早些时候离职。随着模型能力不断增强,研究人员和企业高管开始呼吁放慢AI开发速度,安全与对齐工作的重要性被提升到前所未有的高度。

当地时间9月29日,OpenAI CEO奥尔特曼在公司开发者大会上称,安全和对齐工作必须走在模型能力提升的前面。这一表态被外界解读为对近期安全争议的回应,但罗宾逊的离职表明,OpenAI在安全团队建设和人才保留方面仍面临挑战。

从行业层面来看,OpenAI的安全团队动荡并非孤立事件。随着大模型能力快速迭代,AI安全与对齐已成为整个行业的核心议题。如何在推进模型能力的同时确保安全措施同步跟进,是包括OpenAI在内的所有前沿AI实验室需要回答的问题。安全团队核心成员的持续流失,可能影响外界对OpenAI安全承诺的信心,也可能对其模型发布节奏和监管沟通产生连锁影响。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
苹果收紧 macOS 27 完全磁盘访问权限,应对 AI 智能体操控风险
上一篇 3小时前
纳德拉重申Copilot为”工作操作系统”,技术拆解显示其本质仍是Edge网页应用
下一篇 3小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部