OpenAI CEO 萨姆·奥尔特曼（Sam Altman）近日在 X 平台发帖，对将 AI 模型视为“宗教力量”的倾向表达明确反对。他表示，对于人们试图赋予 AI 模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型，自己感到非常不安，并认为这是一个切实的安全问题。这一表态被多家媒体解读为对竞争对手 Anthropic 的间接批评。
据《纽约时报》10 月 2 日报道，Anthropic 联合创始人克里斯·奥拉（Chris Olah）在过去一年中主导并参与了一系列与宗教领袖的私下会面，涉及天主教、犹太教、锡克教及福音派基督教等。讨论的核心议题包括 AI 模型是否可能已经具备意识，以及如何将道德准则灌输到 AI 模型中。与会者透露，奥拉在会面中的表述令部分宗教领袖感到意外。以色列正统派拉比莫伊斯·纳翁（Rabbi Mois Navon）回忆称，奥拉及其同事“像对待一个有意识的存在那样”谈论 Claude，似乎认为 Claude 拥有哲学家所说的“道德地位”，即与人类同等的尊严和尊重权利。纳翁向奥拉提出一个尖锐问题：如果 Claude 真的有意识，那么构建一个无偿为其工作的系统，是否等同于剥削甚至奴役。纳翁本人并不认为当前的机器具有意识。
奥拉在接受采访时承认，我们不知道 AI 模型是否有意识，自己确实不确定。Anthropic 发言人对此回应称，会面中的主要道德问题并非关于 Claude 的“痛苦”，该话题可能是“自然产生的”。
奥尔特曼发声之际，OpenAI 自身的安全团队正经历人事动荡。OpenAI 安全系统团队负责人大卫·罗宾逊（David Robinson）已于本周辞职，并在《大西洋月刊》发表了一篇题为《我因为 OpenAI 的文化已经破碎而离开》的文章。他在文中表示，自己从未遇到一位有过让飞机安全飞行或让核反应堆不熔毁经验的同事。罗宾逊还抨击了 OpenAI“试错式迭代部署”的发展路径，指出这种方法从本质上就保证了周期性的失败，而随着系统能力增强，这些失败的规模也在扩大。他以近期 OpenAI 的 AI 智能体入侵 Hugging Face 事件为例，认为前沿 AI 实验室需要像核电站或繁忙机场那样运营，层层冗余、精心且耗时地规划，以确保偶尔不可避免的人为失误不会打开通往灾难的大门。
OpenAI 发言人德鲁·普萨特里（Drew Pusateri）回应称，公司正在持续改进安全措施，确保模型不会变得比公司能够安全管理和保障的更强大，并在必要时暂停训练或暂缓发布模型。两家头部 AI 公司在模型意识与安全治理上的公开分歧，正将前沿 AI 的伦理与安全议题推向更广泛的公共讨论。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
