在纽约举行的联合国大会期间，人工智能安全与全球监管框架成为各国领导人和企业高管讨论的核心议题。当地时间9月23日，微软总裁布拉德·史密斯在接受彭博社采访时表示，支持引入独立评估方对AI系统进行安全评估，并主张为先进AI系统设置多重关闭开关，确保系统始终处于人类控制之下。
史密斯指出，如果AI安全仅由一两家机构负责，行业很难取得实质性进展。他强调，模型公司固然至关重要，但像微软这样提供软件层、负责控制AI智能体并监控智能体行为的公司同样不可替代。这一表态将AI安全的责任主体从单纯的模型开发者扩展至整个技术栈的参与方，包括云服务提供商和平台层企业。
在具体的治理机制上，史密斯透露微软与亲密合作伙伴OpenAI设有一个双方共同派员组成的安全委员会。微软通过该委员会参与双方的AI安全讨论，并协助判断模型何时达到可以发布的安全水平。这一机制表明，头部AI企业在模型部署前已建立内部联合评估流程，但史密斯显然认为企业内部评估并不足够。
史密斯明确支持为先进AI系统设置关闭开关，并主张在多个层面部署安全机制。他表示，安全机制真正需要部署在多个层面，有时政府也应当掌握开关，既然可以在三个或四个地方设置开关，就没有理由只把开关放在一个地方。这一表态呼应了当前AI治理领域关于“人类控制权”的讨论，即在AI能力快速提升的背景下，如何确保关键决策节点始终保留人类干预的可能性。
微软此次表态的背景是，全球范围内对AI安全的监管正在加速推进。联合国大会期间，多国领导人和科技企业高管就AI监管框架展开磋商。与此同时，欧盟《人工智能法案》已进入实施阶段，美国国内也在讨论针对前沿模型的监管规则。史密斯呼吁引入独立评估方，实际上是在倡导一种多方参与的治理结构，而非由单一机构或企业主导安全判断。
值得注意的是，史密斯在采访中还承认微软需要调整其气候目标。按照微软此前的承诺，到2030年从大气中清除的碳将超过自身排放量。然而这一目标的时间表似乎越来越难以实现，部分原因是微软采用能够迅速投运的天然气发电厂为AI数据中心供电。史密斯表示，气候仍是本世纪最重要的问题之一，但现在需要重新审视能否按照六年前设想的方式实现这些目标，并认为必须作出一些调整。
这一表态揭示了AI算力扩张与气候承诺之间的现实张力。随着大模型训练和推理需求激增，数据中心能耗持续攀升，科技企业不得不在清洁能源供应与快速部署之间寻求平衡。微软的案例表明，AI基础设施的快速扩张正在对企业的可持续发展目标构成压力，而这一矛盾在短期内难以通过技术手段完全化解。
从行业影响来看，史密斯关于独立评估和多重关闭开关的提议，可能推动AI安全治理从企业自律向多利益相关方共治演进。如果独立评估机制得以建立，模型发布前的安全审查将不再仅依赖企业内部判断，而是引入外部专业机构参与。这对于提升AI系统的透明度和可信度具有积极意义，但同时也对评估标准、责任划分和跨境协调提出了更高要求。
微软作为全球最大的软件公司之一，同时是OpenAI最重要的投资方和云服务提供商，其在AI安全治理上的立场具有风向标意义。史密斯此次表态既是对监管压力的回应，也是在为行业设定议程。随着AI能力持续演进，如何在创新与安全之间建立可持续的治理框架，仍是企业、监管机构和国际社会需要共同面对的核心课题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
