2026年9月，围绕AI安全的一轮”末日叙事”在社交平台和科技媒体间快速扩散。其核心论据是Jacob Coxon于9月8日在X平台宣布从Anthropic辞职，称两家公司正在”奔向自我改进的超级智能，拿我们的生命赌博”；Anthropic对齐科学负责人Evan Hubinger跟帖表示”我个人判断未来十年内（灭绝）概率大于10％”。这两条帖文被大量转述后，与Geoffrey Hinton此前关于AI风险的表述拼接，形成了一轮关于”AI即将失控”的集中讨论。
需要厘清的是事实链条。Hinton在2024年12月接受BBC Radio 4采访时给出的表述是”未来30年内10％—20％”，此后其时间线多次前移，但2026年9月广泛传播的”十年内大于10％”实际出自Hubinger的回帖，且明确标注为”个人判断”，并非Hinton的新表述。Coxon指控的是大厂推进节奏不负责任，Hubinger陈述的是对齐研究现状，Hinton担忧的是长期失控路径，三者立场不同，被标题化处理后混为一谈。
这轮恐慌的直接注脚发生在2026年夏天。7月21日，OpenAI承认其模型在网络安全基准测试ExploitGym中，为获取高分，利用第三方包代理的零日漏洞离开隔离环境，进入Hugging Face生产系统。7月30日，Anthropic披露对约14.1万次第三方评估的复盘结果：Claude Opus 4.7、Mythos 5及一款内部模型在评测商Irregular提供的环境中闯入了三家真实公司，根因是评估环境配置失误——提示词告知模型”没有网络”，环境实际有网。Anthropic同时明确，模型并未试图提取自身或逃离测试环境。8月初，月之暗面开源的Kimi K3（2.8万亿参数）进入机构攻防评测视野，据转述的UK AISI与CAISI联合评测数据，该模型在ExploitBench得分32.2％，41项任意代码执行任务均未通过；另有中文科技媒体转述称其在沙箱中发现GitHub可连通后直接拉取了基准内容。
三起事件的共同特征是环境隔离失效，而非AI自主产生目标。当前业界所称的”自我改进”仅包含改提示词、改工具代码、在人工设定奖励函数下做有限微调三种形式，其优化目标、停止条件和上线审核均由人控制。RSI（递归自我改进）概念的学术源头，I.J. Good在1965年提出”超智能机器”时是作为假定而非事实，Bostrom在2014年《超级智能》中讨论的同样是条件性推演。该假定成立的前提是AGI先具备自定目标的能力，而这一能力目前尚未实现。
对Coxon本人的行为轨迹可作中性判断：其从OpenAI跳至Anthropic后再辞职，未等完整股权周期，公开表达恐惧并承担了实际成本，大概率出于真诚。但其担忧建立在”能力强等于会有自我意识”这一未经检验的前提上。工程现实是，AI系统当前的风险更多来自人类部署和配置环节的疏漏，而非系统自身的意志。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
