据彭博社9月25日报道，纽约市议员正推动一揽子加强人工智能监管的法案，其中一项措施拟通过经济奖励鼓励举报人揭露AI公司的危险做法。根据该提案，举报人报告AI公司违规行为后，可从最终向当事公司收取的罚款或罚金中获得一定份额的奖金。
这批法案由纽约市议会议长朱莉·梅宁在10月5日AI风险及潜在保障措施听证会前公布。届时纽约市议会全部51名成员都将参加听证会。梅宁已要求Anthropic、OpenAI、谷歌、SpaceX的AI部门以及Meta的CEO出席，并表示市议会必要时可行使传票权。
除举报人奖励机制外，该一揽子法案还包含多项监管要求。其中一项措施规定，在特定情况下，因AI系统受到伤害的人可以起诉系统开发者。其他提案要求AI系统在纽约市进行营销、销售或部署前通过第三方验证，同时必须配备由人控制的“紧急关闭开关”。另一项提案则要求聊天机器人提供商遵守数据隐私、安全和透明度规定，并允许纽约市依据这些要求进行执法。
梅宁表示，纽约市正迅速成为全球科技和人工智能之都，希望鼓励这种发展，但这也意味着需要承担更大的责任，建立适当的保障措施，保护纽约市民免受意外后果影响。
此次立法推进的背景是AI模型快速发展引发的担忧不断加剧。Anthropic前研究员雅各布·考克森本月辞职，并警告AI“可能会在本世纪20年代结束前害死我们所有人”。纽约市此举反映出地方政府层面正在加快对AI行业的监管探索，若法案通过，可能为其他城市提供监管范本，同时也会对在纽约运营的AI企业提出更高的合规要求。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
