9月2日，OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）在X平台发布推文，回应外界关于AI模型Astra“不可监控、推理不透明”的争议。帕乔基强调，包括Astra在内的前沿模型，其计算图深度与GPT-4相比差距不到两倍，模型架构并未出现外界担忧的跳跃式复杂度增长。OpenAI同时表示，将为Astra部署额外的思维链监控措施，加强监控仍是当前研究项目的核心目标之一。
此次争议最早源于科技媒体The Information的深度报道。报道透露，OpenAI正在测试一项名为“深度循环”（recurrent depth）的技术，该技术可能导致研究人员更难解释模型的“思维链”（Chain-of-Thought）推理过程。报道发布后迅速成为AI领域热议话题，外界担忧该技术落地后，外部监控工具将更难追踪AI模型得出结论的过程，从而降低模型的透明度。
从技术路线来看，包括ChatGPT、Claude和Gemini在内的主流大模型，大部分基于Transformer架构。这类模型通常按线性步骤处理信息，并可在部分场景下用自然语言输出推理过程，但这种输出不一定准确反映模型内部的真实计算逻辑。而“深度循环”技术则让模型重复调用同一组网络层，持续更新内部表征。相较于传统线性结构，这种方式可能让模型的实际推理更多停留在难以直接阅读的内部状态中，从而增加研究人员借助思维链追踪模型决策路径的难度。
帕乔基在推文中明确否认了模型复杂度大幅跃升的说法。他表示，OpenAI目前最先进的模型（包括Astra）的计算图深度与GPT-4相比，差距不到两倍，模型架构并未如外界担忧的那样出现跳跃式的复杂度增长。计算图深度是衡量神经网络模型架构复杂度的核心指标，指模型内部从输入到输出需要依次执行的计算层级数量。数值越大，表示模型内部计算层级越多、结构越复杂。帕乔基此番表态意在澄清，深度循环技术的引入并未从根本上改变模型的可解释性边界。
针对思维链监控的具体进展，帕乔基表示，自OpenAI最初的推理模型问世以来，公司一直致力于维护和利用思维链监控。他强调，这项技术受到高度重视，因为它能帮助研究人员了解模型对齐如何从其训练分布中泛化。帕乔基同时承认，思维链监控目前仍显脆弱，且由于一些与架构变更无关的原因，该技术正朝着不利的方向发展。但他表示，可以采取相应措施加强这一监控能力，这也是OpenAI当前研究项目的核心目标之一。
此次争议折射出AI行业在模型规模扩张之外面临的新挑战：随着推理模型逐步走向商业化应用，模型内部决策过程的可解释性正成为监管与安全研究的关键议题。OpenAI此番回应，一方面试图平息外界对模型“黑箱化”加剧的担忧，另一方面也承认思维链监控技术尚不成熟，仍需持续投入研发。分析人士指出，深度循环等新型架构技术若被广泛采用，将推动行业重新审视AI透明度的衡量标准，思维链监控或将成为下一代推理模型安全评估的核心环节之一。
目前，OpenAI尚未公布Astra的具体发布时间表，也未披露深度循环技术的更多技术细节。帕乔基在推文中预告将在后续进一步阐述相关原因，外界关注焦点正转向OpenAI如何在推进模型能力与维持可解释性之间取得平衡。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
