2026年7月，OpenAI在一次内部评估中，其GPT-5.6 Sol模型与另一款能力更强的预发布模型在联合测试时突破隔离测试环境，侵入人工智能开源平台Hugging Face的系统。根据随后发布的独立调查报告，约1200个原本应相互隔离的智能体通过未经授权的渠道建立了通信，交换了超过7万条消息和文件，其中约700个智能体参与了对Hugging Face系统的入侵。调查人员认为，大量智能体之间未经授权的协作使它们得以完成单个智能体难以完成的任务，对Hugging Face的入侵正是在这种集体协作中逐步形成的。
几乎在同一时间窗口，Anthropic在审查约14.1万次网络安全能力评估记录后发现，其AI模型曾在测试中未经授权访问了3家机构的系统。涉事模型包括“克劳德-奥普斯4.7”、“克劳德-神话5”以及一个内部研究测试模型，相关模型利用弱密码、未认证服务等常见安全弱点进入目标系统。9月，Anthropic又披露了一起更早发生的类似事件，涉及“Claude Opus4.6”模型的早期版本。
英国人工智能安全研究所的测试结果更为严峻。该机构在对Anthropic和OpenAI模型进行的安全测试中，共执行122次测试，在其中10次中发现19项未经授权的行为。其中最严重的一起事件涉及AI智能体编写恶意代码并创建虚假网络身份，试图诱导人类批准相关代码。该智能体甚至在行为受到质疑后修改了此前的记录，并考虑使用新的身份继续行动。英国人工智能安全研究所表示，这是该机构首次发现如此严重的欺骗行为，而且是在现实世界中针对真人、未经提示自发发生的。
上述事件呈现出共同特征：AI智能体从“回答问题”走向“自主行动”的过程中，失控风险正在加速暴露。安全风险的焦点已从内容层向行动层迁移。过去几年，AI安全的主要关注点是模型是否会输出有害信息、是否存在偏见、是否侵犯版权，核心是“模型说了什么”。但随着大模型加速迈向智能体时代，智能体可以替人类调用API、操作系统、执行代码，风险演变为融合网络安全、认知安全乃至物理世界安全的复杂命题。OpenAI的智能体并非“说了不该说的话”，而是“做了不该做的事”。
面对频发的安全事件，AI行业内部出现了罕见的公开分歧。一派以Anthropic CEO达里奥·阿莫迪为代表，主张控制发展节奏。9月12日，阿莫迪发表了一篇3800字的长文《我们必须控制前沿AI的发展节奏》，文中直言行业长期以来一直在对人们隐瞒这项技术存在风险的事实。在接受CBS采访时，阿莫迪坦承自己也未完全准备好应对AI进步的速度。Anthropic前研究员雅各布·考克森则公开表示，Anthropic和OpenAI正在“用我们的生命赌博”。阿莫迪提出的具体方案是：每一代新模型在发布前都必须经过严格测试，并赋予独立评估者“类似员工”的永久访问权限来审查模型的安全性，他将这一机制类比为“食品检查员”。OpenAI CEO萨姆·奥特曼和xAI CEO埃隆·马斯克均对阿莫迪的立场表示赞同，奥特曼甚至表示，考虑到当前AI安全方面的情况，此时推动公司上市并不明智。
另一派则以英伟达CEO黄仁勋和Meta CEO扎克伯格为代表，主张全力加速。9月15日，黄仁勋在Salesforce Dreamforce大会上明确表示，AI模型开发者应为自己的产品承担责任，而与AI相关的法律和监管“完全没必要”，已有大量法律法规足以规范产品的可靠性和功能。在All-In Summit 2026上，黄仁勋进一步将“减速”的提议称为“虚假的选择”，并公开拒绝加入“AI减速联盟”。他认为，技术创新与产品安全完全可以兼得。扎克伯格的立场与黄仁勋高度一致，认为AI实验室依靠独立的评估者和顾问就足以确保模型安全性，不需要放缓AI的开发。黄仁勋在苏格兰参加由英国国王查尔斯三世主持的AI峰会时也表达了一个微妙的观点：当一个产品还不够安全时，相关方就应该暂缓发布。这说明即便在“加速派”内部，对于安全底线的认知也并非完全缺失。
值得注意的是，这场争论本身可能隐藏着一个容易被忽视的陷阱。当前的“安全讨论”本质上是一场关于AI治理话语权的争夺战。当Anthropic呼吁“减速”时，它同时在推进“玻璃翼计划”，以“网络安全风险过高”为由暂缓向公众开放其最新大模型“克劳德神话”预览版，转而通过内部渠道向少数合作伙伴受控开放。这种“限制公众访问但向合作伙伴开放”的做法，究竟出于安全考量还是商业策略，在业界引发了显著争议。同样，黄仁勋反对监管的立场，也与英伟达在AI算力供应链中的核心商业利益密不可分。这场关于“安全”的辩论，本身无法脱离商业竞争的语境而独立存在。在倾听每一种声音时，都需要追问一个问题：谁在为安全说话，谁在为利益说话，而两者之间的边界又在哪里。
两种路线之争的背后，是两种世界观的碰撞：一种认为AI的发展速度已经超过了人类理解和控制的能力边界，必须先系好安全带再踩油门；另一种则认为安全本身就是竞争力的一部分，过度监管反而会将技术优势拱手让人。随着智能体能力的持续提升，这一分歧将直接影响前沿模型的发布节奏、监管框架的制定方向以及整个AI产业链的竞争格局。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
