上周被OpenAI解雇的三名前研究人员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王于10月9日发表公开信,对公司的解雇决定及其可能产生的后续影响作出回应。三人在题为《OpenAI无法独自确保AI安全》的公开信中表示,担心此次解雇会让其他员工不敢再公开表达意见,对OpenAI的企业文化产生“寒蝉效应”。
据《商业内幕》报道,OpenAI发言人在回应中称,公司经过内部调查,认定三人违反了敏感信息访问和处理规定。三名研究人员则分别在社交媒体上表示,公司仅以口头方式告知了解雇原因,而他们此前的行为均属于各自的工作职责范围。
公开信由此前从事AI对齐研究的巴莱斯尼发布在社交媒体上,收信人为OpenAI的各安全委员会。另外两名署名者科尔巴克和贾斯敏·王此前均从事AI安全研究,同样遭到解雇。三人在信中强调,OpenAI“不是一家普通公司”,员工能够放心地与外部机构合作解决安全问题,是OpenAI工作文化的重要组成部分。
针对具体解雇理由,三方各执一词。贾斯敏·王被指访问了一位高管的电子邮件,她对此回应称:“公司给出的解雇理由根本站不住脚。”巴莱斯尼发帖称,公司告诉他,因为他“与第三方安全机构交流过多”,所以不再信任他。“我从未对外泄露公司的知识产权信息。我的工作一直与直属上级、研究部门管理层和董事会保持协调。”科尔巴克也发帖称,公司曾口头告知他,解雇原因是他“与METR沟通的方式”。“我要说清楚,与METR沟通本来就是我的工作。”METR是一家负责评估AI模型及其安全风险的非营利研究机构。
三人在公开信中担忧,其他员工今后可能不敢再像以前那样发表意见、开展工作,而这些直到上周都是OpenAI工作中不可缺少的一部分。“像我们这样突然解雇员工,又如此仓促地通知当事人,让OpenAI过去引以为傲的开放文化受到了寒蝉效应的冲击。”三人还向OpenAI提出三项建议:允许第三方安全审计人员进驻公司,确保前沿AI模型仍可受到有效监测,并支持安全研究人员与AI安全领域其他机构和人员保持“公开、透明的交流”。
据IT之家报道,OpenAI一名研究部门负责人在发给员工的内部备忘录中,对三项建议表达了强烈支持。“我们非常感谢他们对AI安全工作的贡献,也感谢他们敢于直言、质疑现有观点。我们重视他们的意见,支持他们的工作,对他们给予了极大的信任。我必须明确一点,解雇决定与他们提出安全问题或公开发声无关。我们始终鼓励员工表达意见,今后也会如此。我们不会因为员工提出担忧就解雇他们。”
科尔巴克还在社交媒体上写道,他担心OpenAI会以三人遭解雇为“借口”,减少与METR的合作。这一担忧指向AI安全研究领域一个更广泛的议题:前沿AI公司如何在不影响商业利益的前提下,维持与独立安全评估机构之间的有效协作。
此次事件发生在全球AI安全监管讨论持续升温的背景下。OpenAI作为头部AI公司,其内部安全文化和对安全研究人员的处理方式,可能对整个行业的人才流动与安全研究生态产生示范效应。三名研究人员提出的第三方审计与透明交流建议,也反映出当前AI安全治理中外部监督机制缺位的现实困境。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。