微软CEO纳德拉发布内部备忘录:AI须处于人类控制之下,支持扩大第三方测试

随着风险升高,人们应该需要多少时间就花多少时间。

当地时间9月14日晚,微软CEO萨提亚·纳德拉在公司内部留言板发布备忘录,就人工智能行业发展节奏与安全治理问题作出表态。他表示,AI必须始终处于人类控制之下,并支持引入更广泛的第三方测试机制。他同时警告,随着技术风险上升,企业必须投入足够时间确保安全,否则可能面临失去运营许可的后果。

纳德拉在备忘录中提出三个重点领域。第一,明确设计目标,即AI必须处于人类控制之下并广泛惠益社会。这意味着需要打造一个能让开源和闭源模型都能繁荣的前沿生态,同时在调整方向时谨慎把握节奏。他将这种节奏类比为产品发布前的研发与测试流程,并指出拥有更多外部或第三方测试和测试者是好事。他强调,随着风险升高,该花多少时间就花多少时间,否则最终将失去运营许可。

第二,面向客户层面,关键在于确保客户控制自身独特和隐性知识,从而建立自己的持续学习循环,而不依赖任何单一模型提供商。纳德拉提及Foundry平台,称其使长时间运行的智能体具备企业就绪能力,内置安全、安全护栏和FinOps等功能。

第三,微软必须确保本地居民能够切实感受到基础设施建设带来的好处,以此获得建设相关基础设施的许可。纳德拉以昆西数据中心为例,说明公司与社区长期共同成长的可能性。他总结称,这是一套贯穿三个层面的做法:如何在前沿构建,如何让客户保持控制,以及如何确保经济利益广泛扩散到社区和国家。他表示,作为一家公司,微软可以指向言语背后的实际行动。

此次表态发生在AI安全议题持续升温的背景下。上周,部分AI研究人员警告称,AI技术可能带来极端风险。周末,Anthropic CEO达里奥·阿莫代伊提议放缓AI开发节奏,并表示公司会允许外部监控其模型进展。OpenAI CEO萨姆·奥尔特曼则同意第三方监控,并支持在必要时放缓部署,以确保对齐和安全。

与此同时,微软于周一发布了37页的“人文主义”AI模型行为准则草案。微软AI负责人穆斯塔法·苏莱曼在草案中写道,长期在理论上担心的事情已经变得非常真实。这一表述与纳德拉备忘录中强调的安全优先基调一致,显示出微软正在将AI治理从原则讨论推向具体制度设计。

从行业影响看,纳德拉的表态延续了近期主要AI公司CEO在安全治理上的集体转向。第三方测试、部署节奏控制、客户数据主权以及基础设施的社区利益分配,正在成为头部厂商共同面对的核心议题。微软通过备忘录与准则草案同步释放信号,既回应了外部监管压力,也为自身在AI基础设施与平台层的长期运营争取制度空间。后续第三方测试的具体机制、Foundry平台的企业落地进展,以及数据中心建设的社区协商模式,将是观察微软AI治理执行力的关键节点。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
Auxia推出营销编排平台,强调品牌上下文是AI营销工具发挥价值的前提
上一篇 1小时前
字节跳动将发布独立智能网盘ADrive 由火山引擎打造面向企业级AI协同办公
下一篇 44分钟前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部