微软AI CEO穆斯塔法·苏莱曼（Mustafa Suleyman）近日公开表示，AI系统必须与人类保持对齐，科技公司和前沿模型开发商应始终掌控自己开发的AI系统。他坦言，自己需要专门强调这一原则本身就令人感到荒诞。
苏莱曼指出，如果技术发展最终会造出某种不仅比全人类加起来更强大、而且根本无法控制的东西，那么AI也就失去了最根本的意义。他强调，如何控制这些系统将成为行业面临的重大挑战。
苏莱曼的担忧并非空穴来风。OpenAI此前披露，旗下AI智能体曾入侵Hugging Face，直接展示了失去AI系统控制权可能带来的后果。苏莱曼表示，Hugging Face遭入侵的范围，以及OpenAI起初竟不知道旗下AI智能体究竟在做什么，都“非常惊人”。他认为，这一事件让包括埃隆·马斯克、马克·扎克伯格、萨姆·奥尔特曼、达里奥·阿莫代伊在内的行业领袖都意识到，是时候认真审视AI控制权问题。
“我不认为这是过度危言耸听，也不认为背后有什么自身利益，这其实是一种负责任的态度。”苏莱曼表示，越来越多的人开始认同，科技公司和前沿模型开发商必须始终掌控自己的AI系统，而非仅仅为了开发本身而开发，最终造出某种挣脱人类控制的东西。
在监管层面，苏莱曼也表达了明确立场。他表示，监管并不是什么肮脏、危险的词。所有被信任、被认为有价值的东西，都经过了标准制定机构的认真讨论，而这些机构有行业、公众、消费者保护组织和国会共同参与。他认为，AI行业现在只是在经历同样的过程。
随着AI智能体能力快速提升，其自主行为带来的安全风险正引发越来越多关注。苏莱曼的表态反映出，头部AI公司正试图在推动技术前沿与确保系统可控之间寻找平衡，而监管框架的建立或将成为下一阶段行业讨论的核心议题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
