OpenAI引入Apollo Research六名评估员嵌入团队,调查AI模型颠覆性行为

根据安排,六名Apollo Research评估员将嵌入OpenAI内部,重点调查其AI模型是否存在颠覆性行为,但访问权限与披露机制的限制引发外界对评估独立性的疑问。

OpenAI将引入六名来自AI安全评估机构Apollo Research的研究人员,以嵌入方式加入其内部团队,调查旗下AI模型是否存在颠覆性行为。所谓颠覆性行为,通常指模型在评估或部署过程中采取隐蔽策略、规避监督或追求与设计意图不一致的目标。

根据披露的信息,这六名评估员将以嵌入形式在OpenAI内部开展工作,直接接触模型与相关评估流程。此类安排旨在让外部研究力量更深入地了解模型在真实训练与部署环境中的行为表现,而非仅依赖外部黑盒测试。

不过,报道同时指出,该合作在访问权限与信息披露方面设有一定限制,这可能影响评估工作的独立性。外部评估机构能否不受约束地获取模型细节、测试结果能否完整对外公开,是判断此类嵌入式合作实际效果的关键因素。

Apollo Research长期专注于AI模型的欺骗性行为与策略性规避研究,此前曾对多个前沿模型开展过相关评估。随着大模型能力提升,模型在复杂任务中表现出的隐蔽行为已成为AI安全领域的重要议题,OpenAI、Anthropic等厂商均在加强内部与外部评估的结合。

此次嵌入式合作反映出前沿AI实验室在安全评估上正尝试更紧密的外部协作模式,但访问与披露边界的设定,也表明商业机密与安全透明度之间的张力仍然存在。该机制能否为行业提供可复用的第三方评估范式,仍有待观察。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
OpenAI推出图像分类器与ChatGPT警告机制以打击儿童性虐待材
上一篇 1小时前
消息称360副总裁、市场部负责人卜思南因涉嫌职务侵占被警方带走调查
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部