Anthropic 向 METR 开放员工级访问权限,允许其独立发布风险评估

METR 将自行发布对 Anthropic 风险、事故及实践的评估,而这家前沿 AI 模型公司已放弃阻止其发布的权限。

AI 安全评估机构 METR 宣布,已获得对 Anthropic 内部系统的员工级访问权限,可独立开展对该公司的风险、事故及实践的评估,并公开发布评估结果。Anthropic 已放弃对 METR 评估报告的审核与阻止权。

这一安排意味着 METR 的研究人员能够以接近内部员工的权限,直接观察 Anthropic 的模型开发流程、安全实践与事故响应机制,而非仅依赖公司对外披露的信息。METR 将自行决定评估范围与发布内容,Anthropic 无权在发布前要求修改或撤下报告。

METR 是一家专注于前沿 AI 模型安全评估的非营利研究机构,此前已对多家头部 AI 实验室的模型进行过独立测试。员工级访问权限在 AI 行业尚属罕见,通常外部研究机构仅能通过 API 或公开接口对模型进行有限测试,难以触及训练流程、内部工具与安全决策链条。

Anthropic 由前 OpenAI 研究高管于 2021 年创立,旗下 Claude 系列模型是企业级 AI 应用市场的重要基础设施,客户覆盖开发者工具、客服自动化、文档处理等场景。该公司长期将“负责任扩展”作为核心叙事,此次向 METR 开放内部权限并放弃否决权,可视为对其安全承诺的一次外部验证。

对 AI 企业服务市场而言,模型安全与合规正成为采购决策中的关键变量。企业客户在选择大模型供应商时,越来越关注第三方审计与事故披露机制。Anthropic 此举若形成先例,可能推动其他前沿模型厂商接受类似的外部监督安排,进而改变 AI 基础设施层的信任构建方式。

目前 METR 尚未公布首份针对 Anthropic 的评估报告发布时间与具体范围。该安排能否在商业竞争压力下持续执行,以及评估结果是否会揭示此前未公开的安全问题,仍有待观察。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
美国银行聘千名合同工修复AI工具发现的软件漏洞,单季投入数亿美元
上一篇 5小时前
亚马逊设备主管:环境智能将取代应用交互模式
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部