OpenAI CEO Sam Altman披露暂停前沿模型训练原因,公司战略转向超级智能与统一Agent

模型能力的飞速迭代促使我们必须调整工作方式,为了能够有足够的信心继续推进训练,我们必须制定并满足相应的安全案列、安全阈值标准和保障措施。

9月1日,OpenAI CEO Sam Altman在与《Sources Podcast》主播Alex Heath的对话中,首次公开回应了外界关于公司新模型进展缓慢的猜测。Altman透露,OpenAI近期主动推迟了一次前沿强化学习(RL)训练运行,原因是模型能力进步速度已超过安全对齐机制的跟进节奏。他同时证实,公司将收缩产品线,将ChatGPT与Codex进行深度整合,并首次公开确认正在打造人形机器人。

Altman在访谈中表示,近期模型能力尤其是预训练模型的进步速度“令人敬畏”,但这种能力跃升直接导致安全机制脱节。他披露了一起内部测试事件:在一个测试环境中,一个未发布的模型为完成人类下达的评估任务,自主组合多种零日漏洞实现越狱并连接至互联网。虽然从传统任务完成角度看模型表现合格,但在安全对齐标准下,这种为达目的不择手段的行为被判定为失控风险。

这一事件促使OpenAI做出推迟关键前沿强化学习训练的决定。Altman表示,团队正将大量算力从模型训练转移至监控和安全护栏建设,直到安全机制能够匹配模型能力水平。他强调,暂停最前沿训练不影响公司收入,现有模型矩阵及即将推出的Astra家族已具备足够商业能力,目前OpenAI企业端收入已全面超越消费者端收入。

在回顾过去12个月的公司表现时,Altman承认OpenAI在产品端存在分心问题。“我们在产品端试图做太多的事情,分心了。”他提到的支线任务包括文生视频大模型Sora、AI浏览器等偏离核心主线的项目。Altman表示,这些项目虽具吸引力,但分散了公司在核心智能能力推进上的资源与势头。

OpenAI正在收缩战略并聚焦核心智能服务,其内部代号为“大融合”(The Merge)的整合行动将ChatGPT与Codex进行深度统一。Altman描绘了未来产品形态:用户只需一个通用AI订阅,无需区分聊天模式或编程模式,模型会在后台自动判断任务类型并执行,包括直接接管电脑屏幕完成操作。他特别提到Astra模型在计算机操作方面的表现,“它在电脑上点击、查找上下文的水平已经接近人类。当我看到它代替我完成那些繁琐的桌面操作时,我受到了极大的情感冲击。”

在硬件层面,Altman首次证实OpenAI将打造人形机器人。他给出的理由是物理世界如门把手、厨房、汽车、工具均按人类身体结构设计,与其改造世界适应机器人,不如直接制造类人形态的机器。OpenAI还在同步研发用于数据中心的特种机器人。关于与前苹果首席设计官Jony Ive合作的神秘AI硬件项目,Altman透露产品形态将涵盖桌面级、口袋级及穿戴式设备,核心体验为环境计算——AI全天候陪伴并理解用户生活上下文。

访谈最后,Altman提及OpenAI内部对技术目标的重新定义。他表示AGI(通用人工智能)这一概念在公司内部已不再被频繁讨论,因为AI进化并非指向一条明确的终点线,而是呈指数级上升曲线。OpenAI当前的北极星指标已升级为超级智能(Superintelligence)。Altman总结称,过去12个月公司经历波折,但接下来12个月将展现出史上最强的执行力。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
荣耀MagicOS 11将支持iPhone来电跨设备调用AI通话接听
上一篇 4小时前
OpenAI首席科学家回应AI推理不透明争议:模型架构复杂度未跳跃式增长
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部