据《商业内幕》报道,上周从OpenAI离职的安全系统团队前负责人之一戴维·罗宾逊公开表示,OpenAI在AI安全问题上存在明显的言行不一。罗宾逊指出,公司一边反复警告新模型能力增强可能带来的风险,一边公开讨论放慢AI开发速度,但内部却仍在全速推进模型训练和部署。他直言:“真正让我感到矛盾的是,我们不断发布这些警告,最后却还是在训练和部署那些被我们自己警告存在危险的模型。”
这一表态发生在其离职后不久。当地时间10月2日,OpenAI一名发言人证实,戴维·罗宾逊已从公司离职。罗宾逊是OpenAI安全系统团队的负责人之一,其离职正值OpenAI内部动荡加剧之际。此前,已有多名安全相关岗位人员离开该公司。
罗宾逊的批评指向了OpenAI在AI安全议题上长期存在的张力。今年7月,数百名OpenAI员工签署了一封公开信,呼吁政府出台监管措施,为AI开发降速。公开信警告,前沿AI能力的快速提升可能带来严重风险,需要外部监管介入。此后,Anthropic CEO达里奥·阿莫迪呼吁AI公司自行协调,共同放慢开发速度。今年9月,OpenAI CEO萨姆·奥尔特曼对此表示赞同,称“我们需要控制前沿AI的发展节奏。过去几周,这一直是OpenAI内部讨论的主要议题之一”。
但罗宾逊的描述呈现了另一番图景。他表示,OpenAI办公室内仍是一片高速运转的状态,不少人几乎靠透支精力支撑工作。他形容这种状态时说:“感觉几乎就像芭蕾,或者某种舞蹈,各个部门的工作全都同时汇聚在一起。整个过程充满肾上腺素。”这种高强度节奏与公开讨论的“放慢开发”形成鲜明反差。
OpenAI研究人员并不讳言让AI自行提升能力可能带来的危险。这种让AI不断改进自身能力的过程被称为“递归自我改进”。今年9月,OpenAI首席科学家雅库布·帕乔茨基在一篇讨论递归自我改进的博客文章中警告:“眼下需要极度谨慎。”递归自我改进被视为AI能力可能加速跃升的关键机制,也是安全研究者长期关注的风险点。
罗宾逊的离职与公开批评,是OpenAI近期安全团队人员变动的最新一例。此前已有多名安全方向的研究人员离开,部分人转投竞争对手或创立自己的AI安全机构。这一系列变动引发外界对OpenAI安全承诺与商业竞争压力之间平衡能力的关注。
从行业层面看,头部AI公司在安全议题上的表态与实际行动之间的落差并非孤例。在模型能力竞赛和商业化压力下,如何将安全承诺转化为可验证的开发节奏约束,仍是整个AI行业面临的共同问题。罗宾逊的批评为这一讨论提供了来自公司内部的视角,也可能促使外界更密切地审视AI公司在安全治理上的实际投入与优先级排序。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。