据路透社报道,一名近期从OpenAI辞职的前安全部门员工戴维·鲁宾森(David Robinson)于当地时间周六在《大西洋》杂志发表署名文章,公开批评该公司在人工智能安全方面的做法。鲁宾森在文章中表示,OpenAI一味追求快速开发的高压企业文化会提高系统发生故障的风险,包括OpenAI在内的各家人工智能企业在安全方面做得“远远不够谨慎”。
鲁宾森自称曾在OpenAI任职三年半,期间参与起草了该公司的风险应对框架,并负责监督12次前沿模型发布对应的安全报告。他在题为《我辞去OpenAI的工作,只因这家公司的文化已经崩坏》的文章中写道,公司只顾着接二连三地赶进度推出新版本,却没能达到其心目中理应具备的审慎标准。他提出,先进人工智能系统所需要的防护机制,应当更接近核电与航空这类行业所采用的安全保障体系,而非当前行业普遍采用的渐进式加固策略。
鲁宾森此番言论的核心指向是OpenAI所依赖的“迭代部署”模式。该模式的核心逻辑是:先对外发布系统,待实际问题暴露后再针对性地加固安全防护。鲁宾森认为,这一模式在当前人工智能能力快速攀升的阶段已不再适用。他明确写道:“试错的时代已经结束了。”这一判断意味着,他认为人工智能系统的安全验证应当前置,而非依赖真实环境中的问题反馈来驱动改进。
鲁宾森同时发出警示:人工智能能力的发展速度已经超过研究人员对于对齐问题的认知水平。对齐这一研究领域致力于保证人工智能系统的行为符合人类的目标与价值观。他的这一判断指向一个结构性风险——当模型能力增长快于安全研究进展时,现有对齐手段可能无法有效约束系统行为。这一观点与近年来AI安全领域多位研究者的公开表态形成呼应。
针对上述批评,OpenAI的一名发言人在一份声明中表示:“我们一直在把控模型,避免它的能力超出我们能够安全管控的范围;一旦需要放缓节奏,我们就会暂停训练,或是暂缓模型的对外发布。”这一回应强调了OpenAI在模型发布节奏上的自我约束机制,但并未直接回应鲁宾森关于企业文化与安全投入比例的具体批评。
此番言论进一步激化了人工智能行业内部的一场争论,争议焦点在于各家企业研发性能日益强大的系统时,推进的脚步是否过快。此前已经发生过多起安全管控失效或实验性系统出现异常表现的事件,OpenAI及其竞争对手Anthropic也因此受到外界审视。随着大模型能力从文本生成向多模态、自主智能体等方向快速演进,安全评估与对齐研究的滞后问题正从学术讨论进入公共政策视野。
从行业影响来看,鲁宾森的公开批评将OpenAI的内部安全治理问题再次推至台前。对于企业级AI应用而言,模型安全性与可靠性是采购决策中的核心考量因素之一。当头部模型厂商的安全文化受到前员工公开质疑时,企业客户在评估供应商时或将更加关注其安全审计流程与风险披露机制。与此同时,这一事件也可能加速监管层面对前沿AI模型发布前安全评估要求的讨论。鲁宾森在文章中提出的“核电与航空级安全保障体系”这一类比,为政策制定者提供了一种可供参照的监管框架思路。
截至发稿,OpenAI未就鲁宾森文章中的具体指控作进一步回应。人工智能行业如何在能力推进与安全保障之间建立可持续的平衡机制,仍是悬而未决的核心议题。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。