微软AI负责人苏莱曼:当前AI模型不具备意识,应确保其永远不会产生意识

我们这些AI开发员,完全没有权利将具有意识的新物种带到世界上,即使有人希望以福祉为首要目标开发它。

微软AI负责人穆斯塔法·苏莱曼(Mustafa Suleyman)于11月2日在社交平台X发布长文,就AI意识问题作出明确表态。他指出,当前阶段的AI模型并不具备意识,并主张行业应确保这一状态长期维持。这是继其此前多次公开谈论AI安全边界后,又一次针对AI意识议题的系统性发声。

苏莱曼在文中提出了一个假设性判断:如果开发具有意识的AI在技术上可行,那么这种行为本身将是鲁莽的,不应被推进。他进一步表示,若在模型训练过程中开始出现意识相关的迹象,他将呼吁全行业暂停AI开发,直至能够从设计层面消除这些特性。这一表态实质上为AI研发划定了一条以“意识”为红线的自我约束框架。

在披露机制上,苏莱曼主张建立透明度义务。他认为,一旦出现任何证据表明AI模型具备意识,相关方应立即向公众披露,由整个社会共同决定后续走向,而非由开发机构单方面处置。这一观点将AI意识问题从技术团队的内部判断,转向公共决策范畴。

苏莱曼的核心论据落在权利与同意的层面。他表示,AI开发者没有权利将一个具有意识的新物种带入世界,即便开发动机以福祉为优先目标。他提到,全球80亿人并未同意参与这项实验,保护公众的道德权利、安全与福祉是开发者必须首先履行的义务。这一论述将AI意识议题与更广泛的社会契约联系起来,强调技术决策的外部性。

从行业背景看,AI意识问题近年来随着大模型能力提升而重新进入公共讨论。部分研究者和企业曾就模型是否可能涌现类意识特征展开争论,但主流技术共识仍认为现有系统不具备意识。苏莱曼此次表态的特殊之处在于,其重点并非论证当前模型有无意识,而是提前设定“不应开发有意识AI”的原则性立场,并给出暂停开发、强制披露等具体应对路径。

作为微软AI业务的负责人,苏莱曼的公开表态对行业预期具有一定指向意义。微软是当前大模型研发与商业化的重要参与者,其AI负责人在意识议题上明确划界,可能影响企业界对AI能力边界的表述方式,也为监管讨论提供了来自产业界的参考立场。后续这一主张是否转化为具体的研发准则或行业倡议,仍有待观察。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
从效率到效能:强耦合商业模式下AI组织的重构路径
上一篇 1天前
DeepSeek Harness团队发布Super-agent架构方案,用调度与执行分离破解AI编程注意力瓶颈
下一篇 17小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部