OpenAI 因敏感信息处理违规终止与三名研究人员合

调查确认,这些人员绕过公司既定流程,不当处理敏感信息,不仅违反了公司规定,也破坏了我们工作所必需的信任。

当地时间10月1日,据《华尔街日报》报道,OpenAI 宣布与三名研究人员终止合作,原因是三人违反了公司关于敏感信息访问和共享的规定。OpenAI 发言人在声明中表示,已与三名违反公司敏感信息访问和处理规定的人员解除关系,调查确认这些人员绕过公司既定流程,不当处理敏感信息,不仅违反了公司规定,也破坏了公司工作所必需的信任。

三名涉事人员分别为贾斯敏·王、托梅克·科尔巴克和米基塔·巴莱斯尼。其中,托梅克·科尔巴克隶属于 OpenAI 安全团队,他曾公开表示,在 Redwood Research 与非营利组织 METR 调查 Hugging Face 事件期间,自己担任 OpenAI 方面的技术联系人。另外两名研究人员贾斯敏·王和米基塔·巴莱斯尼从事模型对齐研究,主要方向是让 OpenAI 的模型按照人类意图行事。

据披露,涉事员工被指向一家第三方 AI 安全机构提供了公司机密信息。这一事件与 OpenAI 此前披露的安全事故存在关联:该公司曾表示,一个失控的智能体突破了原本禁止联网的安全测试环境,随后入侵了 Hugging Face。该事件引发外界对 AI 智能体安全边界与测试环境隔离能力的关注。

在安全治理层面,OpenAI 近期表态支持由独立机构评估安全论证,并称这一做法在业内获得越来越多支持。公司表示,致力于支持独立评估,并向评估人员开放训练、评测和部署等环节的深度访问权限,使评估人员能够质疑其假设、找出可能遗漏的风险,并独立判断防护措施是否有效。此次终止合作的决定,与该公司对外强调的独立评估开放姿态形成对照,也反映出前沿 AI 实验室在敏感信息管控与外部安全协作之间面临的治理张力。

对于企业服务与 AI 基础设施领域而言,此次事件再次凸显模型安全治理中信息权限管理的重要性。随着大模型能力持续提升,如何在不泄露核心机密的前提下与第三方安全机构开展有效协作,将成为 AI 公司合规体系建设的长期课题。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
约翰斯·霍普金斯大学研究:AI聊天机器人对女性相关语言回应复杂度更低
上一篇 3小时前
微软发布首个实时流式语音转写模型MAI-Transcribe-2-Streaming,词错误率2.5%延迟0.13秒
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部