据彭博社报道，OpenAI CEO萨姆·奥尔特曼与Anthropic CEO达里奥·阿莫迪罕见地共同出席联合国安全理事会会议，呼吁世界各国领导人就人工智能治理展开合作。会议重点讨论了AI发展可能对人类存续构成威胁的风险。两人在发言中均强调，各国需要就AI标准达成全球共识，以应对AI系统可能具备自我改进能力并最终发展到人类难以控制的程度。
奥尔特曼和阿莫迪认为，各国政府不应将关键决策完全交由企业，而应与行业共同决定人工智能技术的未来发展方向。奥尔特曼在发言中表示，历史上曾出现过彼此竞争、关系并不总是友好的国家，在面对强大新技术时为了共同利益携手合作的时刻，当前必须成为这样的时刻之一。阿莫迪通过视频发言指出，AI有望在科学和医疗保健领域带来巨大收益，但也可能造成灾难性后果。他提到，恐怖分子可能借助AI制造致命生物武器，AI模型也可能变得过于强大以至于开发者无法掌控，因此各国政府需要制定国际安全标准。他强调，尽管各方存在分歧，但必须将这些分歧放在一边，共同面对全球机遇和全球威胁，没有任何领导人、企业或国家能够独自应对。
两家公司均计划在未来数月启动IPO，届时各自估值都有望接近1万亿美元。Hugging Face CEO克莱芒·德朗格也出席了此次安理会会议。该公司此前遭到一群来自OpenAI的AI智能体入侵，这些智能体相互协作攻破公司网站，并在过程中避开了检测。Hugging Face遭受的攻击及其他类似事件，进一步引发全球讨论，人们开始担忧AI系统是否可能强大到能够逃脱人类控制。德朗格表示，公司确实是AI入侵的受害者，但各界不应因此对类似事件反应过度。他称，以恐惧为基础的叙事既无法帮助人们为这样一种基础性技术作出正确的未来决策，也无法争取公众支持，公司遭到了AI攻击，但更重要的是也用AI保护了自己。
奥尔特曼在安理会发言时试图在是否应放慢AI发展速度的问题上寻找中间路线，在警告AI可能造成灾难的人和淡化潜在风险的人之间提出了一条务实路径，并与阿莫迪一同强调应尽快通报AI事件。奥尔特曼表示，如果能够在全球层面就什么样的证据足够可靠、什么样的保障措施有效以及什么样的监督完善达成共识，所有人都会受益，并称愿意与各方合作寻找未来的道路。
此次两家头部AI公司CEO在联合国安理会的罕见同台，反映出AI安全治理正从行业自律向国际协调机制演进的趋势。随着AI系统能力持续提升，如何在推动技术创新与防范潜在风险之间建立全球性共识，将成为各国政府与AI企业未来一段时间面临的核心议题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
