当地时间9月23日，OpenAI CEO萨姆·奥尔特曼在联合国安理会就AI议题发表讲话，呼吁国际社会加强合作，建立针对前沿AI系统的能力评估、风险评估、安全防护和人类监督标准。奥尔特曼表示，随着AI能力快速提升，相关技术的潜在收益与风险正变得更加直接且显现。
奥尔特曼将AI发展的可能路径概括为两种图景：一种是充满创造力与发现的文艺复兴，另一种是引发动荡与混乱的工业革命。他认为，最佳版本的AI应当让人们在复杂世界中拥有更多能动性，而非让人成为机器中的齿轮。他强调，许多事情AI不能也不应被自动化。
在风险层面，奥尔特曼重点提及两个方向。其一是失去对未来的控制：AI进展过快，人类无法跟上，也无法在需要时进行干预。他特别指出递归自我改进的风险，即AI参与AI开发的过程，如果开发流程进一步自动化，技术进步速度可能快速提升，需要对相关发展保持高度谨慎。他表示，无论将灾难风险估计为10％、1％、12％还是0.1％，这些水平都不可接受，行业不应因AI利益太大就接受过多技术风险，也不应因企业竞争而仓促决策。其二是权力集中：不应让最强的AI模型和相关权力集中在少数人手中，避免某个人、公司或国家用AI模型将自己的世界观强加给所有人。
奥尔特曼表示，OpenAI试图在盲目乐观与末日论之间走中间道路，并遵循三条原则：随着AI能力提升，人类应继续处于AI决策的核心；科学进步和经济增长带来的收益应服务于人民；技术必须赋能个人，使更多人能够利用技术实现自身目标。他强调，OpenAI可能是技术建设者之一，但不是故事主角，其角色是赋能全球人类。
在技术进展方面，奥尔特曼提到AI在数学研究领域的突破。他表示，OpenAI模型从三年前只能处理小学算术，发展到两年前达到高中数学竞赛金牌水平，如今已达到国际数学竞赛水平。几周前，OpenAI的一个内部模型解出了千禧年大奖难题之一的纳维-斯托克斯方程。他称，解决数学问题不是为了数学本身，而是赋能人们发现新知识，并用于改善医疗、提高生活水平和扩展全球潜力。
在国际治理层面，奥尔特曼强调，AI最重要的决定不能仅由旧金山的实验室做出，必须通过民主进程，由对人民负责的政府塑造。他呼吁建立国家和国际前沿AI标准互补机制，这些标准应衡量能力、评估风险、确定保障措施是否充分，并在系统更自主时保留有意义的人类监督。他还提出需要共同标准让各国比较证据、验证合规，以及准确快速的事件报告、分类和报告协议，并建立政府、关键基础设施运营商和技术专家之间的安全渠道，共享新漏洞和新威胁。
奥尔特曼表示，这些标准不应锁定现有企业或偏向某种商业模式，必须支持开放和封闭模型开发者、新进入者和成熟实验室。各政府可决定如何纳入法律体系，但若全球能就良好证据、良好保障和良好监督达成一致，所有人都会更好。他在演讲最后表示，当前世界正处于十字路口：一条路通向权力集中、决策不透明；另一条路通向AI为人民服务，由人民通过民主制度帮助决定其发展。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
