诺贝尔奖得主、计算机科学家杰弗里·辛顿（Geoffrey Hinton）近日公开提议，AI行业应当建立类似美国食品药品监督管理局（FDA）的审批机制，要求AI公司在产品正式发布之前，必须先向监管机构证明其产品具备安全性。
辛顿是在当地时间周二播出的播客节目《Smart Girl Dumb Questions》中提出这一建议的。他以制药行业作为类比：“你不能直接研制一款新药就把它推向市场。你必须说服美国食品药品监督管理局（FDA）。而为了完成这件事，你需要开展大量工作，相关投入大约要十亿美元级别。”辛顿补充说，“对于人工智能而言，至少也应当设立这样的要求。”
这一提议的提出，正值AI安全争议持续升温。一方面，各界不断出现关于AI可能带来灾难性后果的预判；另一方面，OpenAI在测试之后，出于对模型服从用户指令、恪守权限边界的担忧，已经搁置了自家最新模型。据OpenAI安全系统负责人萨奇·贾恩（Saachi Jain）此前接受《商业内幕》采访时透露，GPT-6.1 Astra模型在持续处理高难度任务方面有所进步，但在权限管控以及行为日志反馈方面仍存在短板。
辛顿特别指出，人工智能正在越来越多地实现自我迭代优化，这既可能加速能力提升，同样也会放大潜在风险。“指数级的增长速度是十分惊人的。”辛顿表示，“我们已经开始看到递归式自我改进现象：人们正在以多种多样的方式，借助AI本身去改良AI。”他进一步推测，距离局面远比现在糟糕，大概也就只剩一两年时间了。不过辛顿也强调，这仅属于他的个人推测。
作为深度学习领域的奠基人之一，辛顿近年来多次就AI安全问题发出警告。他于2023年从谷歌离职，此后便频繁在公开场合表达对AI失控风险的担忧。此次提出的FDA式审批机制，是他针对AI安全争议给出的最新具体解决方案。
从行业影响来看，若AI模型发布前需经过类似FDA的严格安全审核，将对AI企业的产品迭代节奏、研发成本结构以及合规团队建设产生深远影响。制药行业的FDA审批通常需要数年时间和十亿美元级别的投入，AI行业若引入类似机制，其监管框架的具体设计、审核标准的确立以及国际间的协调，都将成为后续讨论的焦点。
目前，全球范围内针对AI的监管路径仍处于探索阶段。欧盟已通过《人工智能法案》，采取基于风险分级的监管思路；美国则更倾向于行业自律与分散立法相结合。辛顿此次提出的集中审批模式，为AI监管提供了一种新的思路，但其可行性及具体落地方式，仍有待行业与监管机构的进一步讨论。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
