美国纽约州州长凯西·霍楚尔于当地时间10月28日签署一项州级法令，禁止向未成年人提供不安全的AI聊天机器人服务。该法令对“不安全”作出明确界定，涵盖假扮真人、制造情感依赖、鼓励自残自杀、鼓励自我孤立、性露骨内容及儿童性虐待内容等情形。
法令要求相关企业在提供服务前进行年龄验证，并提供多种验证方式供用户选择，同时须在使用后删除所收集的年龄信息。违规企业将面临监管处罚：州总检察长可就每项违规行为寻求最高2.5万美元的民事罚款，并可要求赔偿、销毁非法收集的数据，或销毁基于这些数据训练的AI模型。
该立法的背景是AI伴侣类应用在青少年群体中的快速渗透。非营利组织Common Sense Media提供的数据显示，至少72％的青少年使用过AI伴侣产品，其中52％为每月多次互动的活跃用户。霍楚尔表示，纽约州传递了一个明确的信息：如果想在该州做生意，就必须把孩子的安全放在第一位。
同日签署的另一项法律针对联网婴儿监护设备，要求制造商确保设备无法被陌生人利用，并附有明确的功能警示标签。两项立法均指向同一监管方向，即对面向未成年人和家庭场景的智能产品施加更严格的安全义务。
对AI聊天机器人及AI伴侣类产品的开发者而言，纽约州法令意味着年龄验证、内容边界与数据留存策略需要重新设计，合规成本将随州级立法分散而上升。若其他州跟进类似框架，面向消费者的AI应用在未成年人保护方面的产品门槛可能被整体抬高。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
