Anthropic致信加州州长纽森,建议赋予法院申请AI模型发布禁令的权力

Anthropic在信中建议,政府应有权向法院申请禁令,阻止对公众构成严重风险的AI模型发布,这一立场与其此前提出的监管建议保持一致。

据路透社报道,Anthropic于本月15日致信美国加利福尼亚州州长加文·纽森,建议政府应有权向法院申请禁令,阻止对公众构成“严重风险”的AI模型发布。该建议与Anthropic此前提出的监管立场保持一致,也为加州正在推进的AI安全规则制定提供了来自模型开发商一侧的具体方案。

这封信的背景是加州层面的AI安全立法筹备工作。今年9月,纽森召集AI专家小组,研究制定AI安全要求的建议,Anthropic随后提交了上述意见。同期,OpenAI也于10月20日向纽森提出了一系列建议。多家头部模型厂商在同一时间窗口向州政府提交监管意见,表明加州在AI安全规则上的探索正在进入实质性的意见征询阶段。

在具体机制上,Anthropic主张以司法审查作为发布限制的前置程序,即由政府向法院申请禁令,而非由行政机构单方面决定模型能否发布。这一设计与其此前公开的监管建议方向一致,核心在于为高风险模型的发布设置可被司法检验的闸门。

值得注意的是,Anthropic自身也曾受到政府限制。今年6月,美国政府以国家安全为由,要求Anthropic立即限制外国用户访问具备网络安全能力的Mythos 5和Fable 5模型,随后美国商务部又宣布撤销该命令。这一事件在一定程度上解释了该公司为何在监管建议中强调程序约束与针对性措施。

在信函中,Anthropic还对“紧急关闭开关”类监管思路提出保留意见。公司指出,如果AI模型的行为失去控制,要求开发者设置能够关闭整个模型的开关,反而可能让政府官员产生“虚假的安全感”。相比之下,Anthropic更倾向于采取针对性措施,例如关闭出现问题的AI智能体、暂停特定客户的模型使用权限等,认为这些办法在实际效果上更为有效。

这一立场与美国国会层面的立法动向形成对照。今年9月,美国两党参议员曾讨论一项法案,计划授权政府禁止发布部分被认定存在安全隐患的AI模型,同时允许企业向联邦法院提出异议。不久后国会进入选举前休会期,议员未继续推进该提案。此外,美国众议院议员于7月提出《AI紧急关闭法案》,计划赋予政府官员下令关闭AI模型的权力,适用对象为危及人类生命或经济的模型。

从行业影响看,围绕AI模型发布权的争论正在从原则性讨论转向具体制度设计,分歧集中在北京时间行政授权与司法审查之间、整体关停与针对性限制之间。Anthropic此次提交的建议,实际上将争议焦点引向“谁来判定风险、通过什么程序判定”这一操作层面。

与此同时,Anthropic正筹备赴美上市。若上市成功,有望成为近年来最具影响力的IPO之一,并可能改变基准指数的构成、投资者资金流向以及美股市场的整体投资叙事。在这一节点上,其对AI监管框架的公开表态,也将被市场视为评估其合规策略与政策风险的重要参考。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
谷歌将AI搜索广告扩展至全球市场,核心广告业务增速放缓
上一篇 3小时前
微软推送 Win11 26H1 可选更新 KB5127653,Copilot 键支持重映射
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部