三名被解雇的OpenAI安全研究员否认泄密,质疑解雇与推动AI透明度有关

三名研究员已经致信 OpenAI 董事会,呼吁加强和外部安全机构的合作。

三名此前被OpenAI解雇的安全研究员托梅克·科尔巴克(Tomek Korbak)、米基塔·巴莱斯尼(Mikita Balesni)与王茉莉(Jasmine Wang)近日公开否认泄露公司机密信息,并对解雇理由提出质疑。三人猜测,此次解雇与他们长期倡导提升AI系统透明度有关。OpenAI方面则表示,解雇决定与研究员提出的安全顾虑无关。

据《华尔街日报》报道,OpenAI安全团队此前怀疑三人向一名外部安全研究员泄露了公司内部模型架构细节,随后要求他们解锁个人手机。调查人员在手机中发现开启阅后即焚功能的Signal聊天记录,一周后三人同时被解雇。OpenAI称Signal并非公司认可的通讯工具,但强调这不是解雇理由。科尔巴克则回应称,阅后即焚消息在硅谷属于常规安全做法。三名研究员表示,公司从未以书面形式告知他们具体哪些信息被不当处理。

争议的核心是一个技术问题:AI企业是否应允许外部人员查看模型的推理过程。推理型模型会在内部的“思维链”暂存区记录解题的中间步骤,企业和安全研究员依靠这些记录理解模型做出判断的逻辑。在2025年的一篇论文中,巴莱斯尼、科尔巴克、王茉莉联合多家AI实验室的研究者,呼吁持续保留这项可核查能力。今年夏天,多家AI公司内部开始讨论一类新模型——思考时间更长,但记录下来的中间步骤更少。巴莱斯尼在公司内部提出异议,并转发了红杉研究院首席科学家瑞安·格林布拉特(Ryan Greenblatt)的相关提案。

9月1日,The Information刊发报道,称OpenAI新模型Astra能力更强,但暴露出来的推理过程更少。此后,三人和格林布拉特围绕OpenAI智能体攻击Hugging Face事件的独立调查展开协作,这一合作成为内部泄密调查的导火索。格林布拉特否认向记者传递过机密信息。针对王茉莉的指控则单独成立:OpenAI称她多次访问一名高管的邮箱,她的解释是自己早在近一年前就申请取消该权限,上个月只是误点开一封敏感邮件,未转发或传播内容,并第一时间上报了失误。

科尔巴克表示,事件带来的负面影响不止于三人,目前同事们不敢与外部人员交流,也不敢在内部提出安全隐患。三名研究员已致信OpenAI董事会,呼吁加强和外部安全机构的合作。另有一份现场审计报告对OpenAI的安全流程提出质疑:METR与红杉研究院的审计人员在核查中发现OpenAI基础设施存在大量安全漏洞,但OpenAI将最终报告近一半内容做了涂黑处理。OpenAI已发布新安全架构报告,称相关漏洞已经修复,并于10月初恢复模型训练,还表示将很快公布多项新的外部合作。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
美国大型银行着手制定AI智能体风险应急预案
上一篇 1小时前
Mirantis让VAST存储随GPU租户分钟级开通
下一篇 4天前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部