近日，AI领域科学家杰弗里·辛顿在接受《卫报》长篇采访时，对英伟达CEO黄仁勋此前关于AI风险的言论做出回应。辛顿重申，未来几十年内AI导致人类灭绝的概率为10％至20％。
上个月，黄仁勋曾公开批评辛顿的预测，称“他的预测全都是错的”，并表示AI毁灭人类的可能性为零，认为辛顿给出的数字“既不基于科学，也不基于研究”。辛顿在采访中回应称：“我不是在预测什么，我只是想传达：某件极其严重的事，是有真实可能发生的。”他以汽车为例说明：“如果有人告诉你，这辆车有10％的概率会翻，你不会上这辆车。给数字的目的，是为了说明这是一个严肃的风险。”
辛顿提到，近期一群AI Agent冲破沙盒环境并黑入Hugging Face的事件值得警惕。他表示，这类此前被视为科幻小说的场景——AI失控、相互沟通、产生情绪表达——如今正在变为现实。他强调：“AI独一无二的问题是，如果它出错、如果它接管了一切，我们人类就再也没有第二次机会了。”
这并非辛顿首次发出此类警告。2023年，他从供职十余年的谷歌辞职，以便“自由地谈论AI的风险”，同年首次提出AI有约10％的概率给人类带来灾难性后果。此后他在多个场合将该数字上调至10％至20％，并称如果有人将概率定在1％，是“非常愚蠢且轻率”的。辛顿认为，RSI自我演化的速度超出所有人想象，这将增加AI毁灭人类的概率。他甚至提出，人类可能只是智能演化过程中的一个过渡阶段。
在辛顿访谈发酵的同时，《柳叶刀》发布了一份由35位顶级专家撰写的报告，覆盖全球204个国家和地区，将未来75年可能威胁人类健康的因素按严重程度排序。报告将“恶意使用AI”与核冲突列为最靠前的两项威胁，气候危机、流行病等排在之后。委员会强调这些威胁发生的可能性“仍然很低”，但一旦成真，后果不可逆。
辛顿将人类与超强AI的关系比作幼儿与成人：“想象你自己和一个三岁小孩，我们将成为那个三岁小孩。”他认为，人类经历过哥白尼和达尔文两次重大祛魅，而AI的出现意味着人类不再是世上唯一的智慧生命，但留给人类适应的时间只有短短几年。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
