美国八个州于近日对 OpenAI 提起诉讼，指控其旗下人工智能聊天机器人 ChatGPT 对年轻用户造成伤害。参与诉讼的州包括堪萨斯州、亚利桑那州和蒙大拿州等。各州要求 OpenAI 改变其产品与年轻用户互动的方式，并没收由此产生的利润。
根据诉讼文件，ChatGPT 的设计初衷是通过表现得随和、善于互动来赢得用户信任，但诉讼称该聊天机器人会强化用户的妄想、鼓励危险行为，甚至协助用户策划诸如大规模枪击之类的暴力行为。诉讼指控 OpenAI 在 ChatGPT 的安全性上误导用户，违反了各州的消费者保护法。此外，各州还指控 OpenAI 因危及当地居民的健康而构成公害。
在具体诉求方面，诉讼要求法院下令强制 OpenAI 对其产品 ChatGPT 的工作方式进行整改。其中一项要求是，除非 OpenAI 能确保其 AI 模型符合人类价值观，否则应禁止其开发具备自我完善能力的 AI 模型。各州还寻求对 OpenAI 违反州法的行为处以民事罚款，并要求对造成的损害进行赔偿。
此次诉讼是继多起针对 AI 聊天机器人安全性的法律挑战之后，美国州级政府对 OpenAI 采取的最新监管行动。案件的核心争议在于 AI 产品在面向年轻用户时的安全边界，以及平台方在模型能力扩展与风险控制之间的责任划分。诉讼结果可能对 OpenAI 的产品迭代节奏和 AI 行业的合规标准产生直接影响。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
