被誉为“AI 教父”的诺贝尔奖得主、计算机科学家杰弗里·辛顿（Geoffrey Hinton）当地时间9月16日向美国国会议员作完简报后警告称，美国立法者可能只剩大约一年时间为人工智能建立真正有效的监管护栏，再晚一些，AI的发展可能进入“失控”阶段。
当被问及政策制定者还有多少时间采取行动时，辛顿回答称“大概一年，但不会比一年多出多少时间”。他指出，AI的进步速度远超许多研究人员此前预期，可用于监管先进AI的时间窗口因此迅速收窄。人们对超级智能何时出现的判断也大幅提前，过去通常以数十年计算，现在只剩短短几年。
辛顿在简报中表示，AI已经发展到可以设计出更先进AI的阶段。“如果我们什么都不做，AI就会失控。我们必须放慢速度。”他强调，在继续推进先进AI之前，研究人员首先必须弄清楚如何控制好这些系统，“我们不应该开发可能把人类消灭的东西”。
辛顿还提到近期发生的Hugging Face事件，并将其形容为“一场小型切尔诺贝利事故”，认为该事件反映出前沿AI系统正变得愈发难以控制。Hugging Face是全球知名的开源AI模型社区与平台，此次事件的具体细节尚未被完整披露，但辛顿将其作为AI安全风险上升的例证。
近来，辛顿频繁公开警告先进AI可能带来的风险。上周，他接受BBC采访时称，认为未来10年内AI导致人类灭绝的概率约为10％“并非没有道理”。这一表态与其此前离开谷歌、以便自由讨论AI风险的举动一脉相承。
辛顿的最新警告正值美国国会围绕AI监管展开多轮讨论之际。立法者面临的核心问题在于，如何在鼓励AI技术创新与防范潜在灾难性风险之间取得平衡。辛顿给出的“一年窗口期”意味着，若监管框架未能在短期内落地，前沿AI系统的能力可能进一步超出人类可控范围，届时治理难度将显著上升。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
