北京时间9月11日,据彭博社报道,OpenAI正在考虑放缓尖端AI的开发速度。该公司CEO萨姆·奥尔特曼(Sam Altman)在本周的一次全体员工会议上向员工表示,OpenAI可能会放慢AI开发节奏,并可能与其他几家AI实验室协同行动,但也有一些公司可能不会同意这么做。奥尔特曼同时表达了对其他AI公司跟进这一做法的期望。
据多名知情人士透露,这一表态出现在公司内部对先进AI系统风险担忧加剧的背景下。近几周,头部AI公司的员工纷纷公开表达对先进AI系统风险上升的担忧,进一步加剧了行业内部的焦虑情绪。OpenAI方面截至发稿未对上述消息予以置评。
OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)近期发表文章,对AI带来的危险发出警告。他认为,AI公司应该“在必要时协调行动,放缓未来的开发进程”。帕乔基还表示,希望“在共同的安全标准建立之前,自愿放缓开发能够成为行业惯例”。这一表态与奥尔特曼在内部会议上的说法形成呼应,显示放缓开发节奏的讨论已在OpenAI管理层内部形成一定共识。
OpenAI已表示,出于安全方面的担忧,公司近期已经放缓了部分模型的开发,并暂停了特定的内部AI训练。奥尔特曼曾在7月表示,他已与白宫官员讨论了放缓AI开发的“必要性”问题。这意味着相关讨论已不仅限于企业层面,也开始进入政策沟通渠道。
行业层面的紧张情绪在本周进一步升温。周二,Anthropic AI研究员雅各布·考克森(Jacob Coxon)辞职,并指控其两家前雇主Anthropic和OpenAI在竞相迈向超级智能AI的过程中“拿我们的生命赌博”。考克森在社交媒体帖子中表示,开发AI的人相信它可能“在这个十年结束前杀死我们所有人”。相关言论迅速传播,获得超过1.5亿次浏览,并引起知名议员和公众人物的关注。
值得注意的是,今年早些时候,OpenAI及其竞争对手Anthropic都已秘密提交上市文件。在推进资本化进程的同时,两家公司又面临来自内部员工和外部公众的安全性质疑,这使得头部AI实验室在开发节奏、安全标准与商业目标之间的平衡变得更加复杂。奥尔特曼此次提出可能放缓开发并寻求行业协同,或将成为观察头部AI公司如何回应安全争议的一个关键信号。
从行业影响来看,若OpenAI真的放缓前沿模型开发节奏,并推动其他实验室跟进,可能对当前以模型迭代速度为核心竞争力的AI竞争格局产生影响。但在缺乏统一安全标准和强制性约束的情况下,各家公司能否在开发节奏上形成实质性协同,仍存在较大不确定性。部分公司可能出于竞争考虑选择不跟进,从而使“自愿放缓”面临执行层面的挑战。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。