美国佛罗里达州李县一名30岁女子因涉嫌在与Anthropic旗下聊天机器人Claude的对话中写下针对当地警长办公室的暴力威胁而被捕。据当地警方通报，邦尼塔斯普林斯居民卡莉·米歇尔·赫勒（Carli Michelle Heller）于9月26日在对话中称要对李县警长办公室实施枪击。相关内容随即触发Anthropic的安全风控机制，被Claude上报至人工审核团队，随后由人工团队确认并联系当地执法部门。
据当地媒体WINK News报道，李县警长卡迈恩·马尔切诺（Carmine Marceno）透露，赫勒在接受调查时称她把AI当作“日记”使用。调查人员表示，Anthropic通过安全机制监测关键词和潜在威胁内容，相关信息视严重程度被升级至人工审核，确认后联系执法部门。接报后，当地警员前往其住所将该女子无冲突拘留，案件随后由李县警长办公室一名情报警探接手。赫勒目前面临一项书面暴力威胁指控，尚未被法院定罪。
佛罗里达州法规第836.10条规定，任何人通过可以被他人查看的书面或电子记录，威胁杀人、实施身体伤害、进行大规模枪击或实施恐怖行为，均可能构成二级重罪。现行法条明确相关规定适用于电子记录，向他人发送、发布或传播包含上述威胁的记录可能构成犯罪。至于本案中Claude对话是否满足具体法律构成，以及检方能否在司法程序中证明犯罪事实，仍需由法院裁定。
马尔切诺表示，AI可能改变了威胁的产生方式，但保护李县居民的承诺不变，当有人利用AI实施或协助实施威胁时，警方必须认真对待。该案件同时引发关于聊天机器人隐私边界的讨论。Anthropic公开的政府信息请求政策显示，公司通常只有在收到有效法律程序后才会向政府披露用户信息，但如果公司认为存在可能导致迫在眉睫的身体伤害或死亡的紧急情况，且及时提供相关信息可能避免危险，则存在紧急披露例外。Anthropic在2026年7月更新的透明度页面显示，公司安全团队负责设计和实施用于执行使用政策的检测与监控机制，并处理执法机构和政府提出的包括紧急披露在内的数据请求。
Anthropic协议条款还提到，与AI对话并不受类似律师与委托人之间的保密特权保护，但Anthropic尚未详细说明此次对话的审核细节。除本案外，加拿大不列颠哥伦比亚省近期在美国旧金山联邦法院起诉OpenAI及其CEO萨姆·奥尔特曼，指称OpenAI此前已标记2月塔姆勒岭校园枪击案枪手与ChatGPT的暴力相关对话，却未向警方通报。佛罗里达州6月也已起诉OpenAI和奥尔特曼，指称ChatGPT造成了现实伤害。上述均为诉方指控，法院尚未认定相关责任。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
