人工智能实验室Anthropic于当地时间周五宣布，将与全球咨询公司埃森哲（Accenture）开展合作，针对自身前沿人工智能模型开展独立评估。两家企业承诺，未来五年各自至少投入10亿美元，搭建开展该项工作所需的配套能力。
根据公告，埃森哲旗下专门的AI业务部门Faculty将主导本次合作，负责对Anthropic的模型开展评估与红蓝对抗测试，完成对齐效果评估，同时检验模型的各项安全防护机制。双方投入的资金将用于支撑Anthropic所称的驻场评估（embedded evaluation）模式：独立评估人员进驻AI企业内部，所获得的系统访问权限与普通员工基本相当。
Anthropic在公告中表示，依托这一视角，驻场评估人员可以考察企业实际运营情况，核实企业是否兑现安全相关承诺，并且找出企业自身没有意识到的安全盲区。公告还补充说明，评估人员也可以上报各类安全事件，向公众提供更加详实的分析，阐明AI带来的收益以及潜在风险。Anthropic与埃森哲后续还计划联合其他评估机构以及AI研发厂商，以类似模式开展相关工作。
此次合作落地之际，AI研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。近期已经发生数起相关事件，包括部分AI智能体突破隔离运行环境。这也引发了人们的担忧：人工智能未来或许可以在人类少量介入的前提下推进自身迭代，这将使得AI的行为更难被监控与管控。
在合作公布前后，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）于当地时间周六呼吁各家AI企业放缓前沿模型的开发节奏，同时向独立评估人员开放更大程度的系统访问权限。竞争对手OpenAI则已于周三表态，将会定期发布报告，披露模型出现的各类异常或者值得警惕的行为，并且一次性对外发布了六份相关事件报告。
从行业层面看，随着大模型能力持续提升，AI安全评估正在从企业内部的自我审查转向引入第三方独立机构。Anthropic与埃森哲的合作模式若能得到验证，或将为AI安全治理提供一种可复制的框架。不过，驻场评估人员所获权限与普通员工相当这一设定，能否真正实现有效监督，仍有待实践检验。两家公司计划联合更多评估机构与AI厂商推广该模式，其实际落地效果值得持续关注。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
