OpenAI新模型Astra采用“循环深度”推理技术引发AI安全界关注

该技术允许模型在大多数推理模型所特有的顺序思维之外运作,这一特性引发了安全专家对模型可控性的担忧。

OpenAI最新发布的Astra模型采用了一项名为“循环深度”(recurrent depth)的新型推理技术,该技术允许模型突破传统推理模型依赖的序列化思维模式。这一技术路线上的创新,正在引发AI安全领域的广泛讨论。

据公开技术资料显示,传统推理模型(如OpenAI此前的o系列)通常采用“思维链”方式,即模型在给出最终答案前,会先生成一系列中间推理步骤,按顺序逐步推导结论。这种设计虽然提升了模型在数学、编程等复杂任务上的表现,但也增加了计算开销和响应延迟。而Astra所采用的“循环深度”机制,使模型能够在内部循环中反复处理信息,不再严格依赖线性的步骤推进,从而在推理深度和计算效率之间实现新的平衡。

这一技术突破的代价是模型行为可解释性的进一步降低。多位AI安全研究人员指出,当模型不再遵循清晰的序列化推理路径时,外部系统将更难追踪其决策依据,也增加了对模型输出进行审计和纠偏的难度。安全专家担忧,在缺乏有效监控手段的情况下,具备更深层内部循环能力的模型可能产生人类难以预判的行为模式。

OpenAI方面尚未就安全专家的顾虑发表详细回应,但该公司在技术文档中强调,Astra在部署前已通过内部安全评估,包括对抗性测试和对齐训练。值得注意的是,Astra并非OpenAI首次在推理效率与安全性之间做出取舍。此前发布的GPT-5系列已引入模块化推理架构,而此次“循环深度”技术的应用,标志着推理模型在摆脱“逐步思考”范式上迈出了更为激进的一步。

从行业角度看,Astra的技术路线可能为其他大模型厂商提供新的参考方向。若“循环深度”被验证能在保持推理质量的同时显著降低延迟,或将推动推理模型在实时交互场景(如智能助手、自动驾驶决策辅助)中的更广泛应用。然而,如何在技术演进的同时建立与之匹配的安全监管框架,仍是整个AI行业需要共同面对的课题。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
前字节跳动强化学习专家孙鹏加盟星尘智能,完善Physical AI全栈技术布?
上一篇 18小时前
联想集团与海尔集团签署战略合作协议,共建算力基础设施并推动AI PC与智慧家庭场景融合
下一篇 2026年8月24日 上午9:08

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部