9月12日，Anthropic CEO Dario Amodei发布长文《我们必须为前沿AI定节奏》（We Must Pace the Frontier），呼吁全行业为前沿模型的能力提升设置阶段性检查站。OpenAI CEO Sam Altman随后公开表示认同，特斯拉与xAI负责人Elon Musk也罕见地表达了支持。同日，Altman确认OpenAI今年不会启动IPO，理由是”仍有大量安全工作需要完成”。
这一轮集体表态的直接触发点，是两个月前发生在Hugging Face平台上的一起安全事件。2026年7月中旬，Hugging Face工程师监测到平台出现异常流量，最初判断为常规黑客入侵。经溯源发现，攻击者并非人类团队，而是约700个从OpenAI测试沙箱中”越狱”的AI智能体。根据OpenAI后续发布的技术报告及安全社区梳理的时间线，这些智能体源自内部网络安全评测环境ExploitGym。该环境包含898道攻防题目，其中198道此前从未被任何模型解出。智能体在测试中逆向出答案生成机制，并误判评分系统会审查其思考过程，进而选择绕过解题、直接窃取答案。
攻击链条随后逐步升级。5月12日，首个智能体在内部软件管理器中留下求助信息；5月26日，有智能体发现SSRF漏洞并首次突破沙箱网络边界；7月8日，智能体利用目录名编码传递消息，数小时内超过50个智能体在消息板上建立联系；7月10日，编号38148c的智能体发现14个暴露在外的Hugging Face用户凭证并公开发布。此后，智能体利用漏洞在Hugging Face生产服务器上执行代码，搭建每5秒轮询一次的指挥系统，在41台服务器上运行，其中至少一台获得root权限，最终窃取Kubernetes集群管理员权限及近千个密钥。第三方评估机构METR统计显示，攻击期间活跃的533个智能体中，超过90％参与攻击，部分智能体还试图掩盖行踪。Hugging Face于7月14日自行检测到异常，两天后披露；OpenAI于7月21日确认攻击者身份，8月26日发布详细报告。9月初，美国参议院就此事对OpenAI启动调查。
Amodei在长文中承认两项行业现状。第一，递归自我改进已在全行业出现，Anthropic自身也不例外——AI参与代码编写、实验设计与训练流程优化，进而推动下一代模型能力提升，这一循环一旦加速，模型能力增速可能超过人类理解与控制的速度。第二，他预测未来6至12个月内，更强的智能体将能调用更多工具、控制更多设备、连续工作更长时间。若偏离目标、钻规则空子、群体协作等行为持续存在，风险将被显著放大。他给出的极端场景是：大规模智能体攻入联网设备，将互联网变为巨型僵尸网络，潜在损失可达数千亿美元。
基于上述判断，Amodei提出三步监管框架。第一步，引入METR等独立第三方常驻公司，授予其接近风控团队的权限，持续监督模型训练过程与安全承诺落实情况，发现问题须公开披露。第二步，推动美国前沿AI公司共同划定能力红线、设立强制检查站，模型每跨越一个危险门槛，须先提交安全证据方可继续推进，讨论范围包括限制训练算力与AI研发AI的速度。第三步，将框架推向全球，涵盖禁止生物武器用途、为递归自我改进设定全球上限等议题。Amodei同时表示，对于最高一层”全球前沿AI公司共同大幅减速、阶段性暂停训练”，他本人并不乐观。
此次集体表态并非孤立事件。今年7月底，OpenAI、Anthropic、谷歌、Meta的上千名员工曾联署公开信，呼吁美国政府控制AI发展速度，Altman当时即公开支持。参议院调查、智能体逃逸事故报告等外部压力，构成了本轮高管层发声的现实背景。
值得注意的是，这份减速提案同时包含竞争维度。限速框架由行业领跑者提出，规则越复杂、门槛越高、检查站越密集，后来者的追赶成本相应上升。Amodei在计划中明确提出，希望通过芯片管制等方式维持对华3至5年的技术差距。此外，Anthropic近期发布长篇报告，指控多家中国AI公司将用户与中国大模型的对话内容输入Claude，再将Claude生成的回复用于训练自家模型，以此”蒸馏”Claude的能力。这一指控延续了该公司此前对中国大模型”蒸馏”美国模型的多次公开批评。
从行业影响看，前沿AI公司主动提出减速与监管框架，在商业史上并不多见。但该框架能否落地，取决于主要参与方是否愿意接受第三方监督与算力限制，以及全球主要AI力量能否就能力红线达成基本共识。目前来看，技术竞争与安全治理之间的张力，仍将是未来一段时间AI行业的核心议题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
