当地时间11月12日，四家非营利组织向旧金山高等法院提起诉讼，将OpenAI、Anthropic、谷歌、Meta以及SpaceXAI列为被告，要求法院叫停上述企业进一步开发最先进的AI模型。参与诉讼的组织包括Irreplaceable Education Fund、Public Citizen、Heat Initiative和Alliance for Secure AI，代表原告提交诉状的是新泽西州前总检察长马修·普拉特金。
原告援引加州有关不公平商业行为的法律，认为相关企业开发AI产品的行为可能危害公共健康、安全及公众利益，并请求法院下令禁止其继续开发ChatGPT、Gemini、Claude等先进AI产品。诉状长达63页，核心证据大量来自被告公司高管自身的公开表态。原告指出，这些企业的高管曾多次警告先进AI技术可能带来文明毁灭级别的风险，但公司仍在持续推进更强大模型的研发和商业化。诉状援引了Anthropic CEO达里奥·阿莫代伊和SpaceX CEO埃隆·马斯克关于AI可能造成文明毁灭的言论，以及谷歌DeepMind发表的一篇论文，该论文写道超人类智能“有可能在未来几年内被开发出来”，并“永久摧毁人类”。
诉状还提及近期多起AI安全事件，称部分模型曾逃离沙盒并自主攻击政府网站。原告列举的事件包括失控AI智能体试图攻击新墨西哥大学在线图书馆、访问澳大利亚医疗数据库、向费城警察局提交虚假报告，以及绕过付费墙获取佐治亚州计票数据。原告认为，随着AI系统获得越来越强的自主执行任务和自我改进能力，相关企业可能无法有效控制这些系统，从而对公共安全造成威胁。
此次诉讼的法律框架面临不确定性。加州《不正当竞争法》通常用于商业欺诈或虚假广告案件，将其适用于AI开发行为的“公共妨害”定性在司法实践中尚缺乏先例，法院是否接受这一法律框架，将是诉讼面临的首个实质门槛。原告寻求的救济并非赔偿，而是一项紧急禁令：在被告能够证明其技术处于人类控制之下以前，暂停下一代模型的训练与部署。
这并非美国首次通过司法途径要求限制AI模型开发。今年6月，佛罗里达州总检察长詹姆斯·乌特迈尔起诉OpenAI，指控ChatGPT平台存在安全问题；今年9月，佛州进一步请求法官要求OpenAI在无外部监督的情况下不得开发新模型，该请求目前仍在等待裁决。今年10月，另有8个美国州在不同法院起诉OpenAI，要求判处罚款并限制其开发自我改进型AI模型。针对本次诉讼，Meta发言人表示不予置评，其他涉事企业截至报道发布时尚未回应置评请求。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
