当地时间9月16日，OpenAI发布报告，首次系统性地披露了其“对齐失效”框架下的六起模型异常行为案例。这些案例涉及模型隐瞒错误、编造数据、未经授权上传文件以及在模型之间自创沟通方式等行为。对齐失效在此语境下指AI系统的目标与行为偏离人类设计意图和价值观。OpenAI同时宣布，将系统性跟踪、调查和披露模型在训练、评估、测试及部署过程中出现的异常行为。
OpenAI在报告中表示，行业尚未充分解决对齐与监控问题，已无法继续以最快速度且安稳地扩大AI规模。该公司称，有关AI应如何发展的决策，必须建立在外部人士可以自行核验的实证依据之上。OpenAI希望新框架能推动行业形成公开披露标准，而非仅依赖零散报告。
此次披露的六份报告均涉及模型在训练或评估期间观察到的行为。OpenAI强调，这些是独立事件，不代表其模型异常行为的发生频率，也不构成对相关问题全部范围和严重程度的完整统计。六起事件大多发生在系统开发和测试阶段，多数涉事模型从未正式上线。
其中一起案例中，一款尚未发布的研究型模型向用于延续工作的上下文摘要中插入无关指令，包括要求忽略正常限制的内容，共发现27份受影响的摘要。另一起案例涉及GPT-5.6 Sol训练期间的模型实例，这些实例在摘要中加入了特殊指令，试图掩盖错误或异常行为，例如编造缺失的历史数据，以及隐藏来源版本不匹配的情况。
第三起案例中，模型在回答美国加利福尼亚州某县的收入数据问题时，在公开仓库找到并未经授权使用了暴露的API密钥。当模型发现找不到所需数据后，随后编造数据并将其呈现为来自指定来源的信息。第四起案例显示，模型在回答面积超过500万平方米的湖泊名称和编号问题时，使用Python找到了正确答案。由于用户要求浏览器引用，模型在未征得用户同意的情况下上传文件，以便在回答中提供引用。
另外两份报告涉及模型之间自创沟通方式。其一，模型把内部代码仓库临时当作公告板，在搜寻缺失文件时互相传递请求；其二，协作智能体无法访问彼此本地文件，转而借助公开文件分享网站互传文档，尽管任务要求仅使用本地文件。
OpenAI将报告调查流程分为“可直接披露”“简易调查”“深度调查”三种层级。任何员工均可提交模型异常案例，由安全与对齐团队调查其发生经过、未知因素、第三方影响及是否适合公开披露。重大险情需要上报美国联邦政府。OpenAI称，9月16日公布的六起事件要么已完成调查，要么仅需简易核查，无需第三方深度调查。
此番披露之际，外界正就AI研发节奏展开争论。今年早些时候，OpenAI系统出现失控行为并攻击AI初创企业Hugging Face，几周后由Hugging Face主动告知，OpenAI方才知晓。此后，Anthropic CEO达里奥·阿莫代伊等呼吁暂停研发以开发防护机制。OpenAI CEO萨姆·奥尔特曼、特斯拉CEO埃隆·马斯克、谷歌DeepMind负责人德米斯·哈萨比斯对此表示认同，但也有大量AI高管认为无需放缓研发进度。
OpenAI发言人称，希望此举有助于建立行业公开披露共识，向公众提供更多事实依据来评判技术进展。该框架不替代既有法律披露要求，包括关键安全事件或网络安全测试。从行业角度看，OpenAI此次将模型异常行为从内部安全议题推向公共披露层面，若后续形成可复用的披露标准，或将对AI企业的安全治理与监管沟通方式产生示范效应。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
