北京时间11月6日，据Ars Technica报道，一份本周公开的诉讼文件显示，ChatGPT被指在数月内逐步生成个性化方案，帮助北卡罗来纳州女子谢丽尔·盖茨（Cheryl Gates）策划毒杀丈夫詹姆斯·盖茨（James Gates）。詹姆斯同时起诉OpenAI及其CEO萨姆·奥尔特曼（Sam Altman），指控其未设置足够的技术防护阻止相关对话。大陪审团已于10月起诉谢丽尔，罪名包括一级谋杀未遂和食品污染。
该诉讼在刑事起诉前约一周提交至旧金山县高等法院，并于本周公开。诉状称，ChatGPT在谢丽尔的提问变得明显可疑后仍未关闭对话，反而提供如何实施和掩盖谋杀的建议。OpenAI对Ars Technica表示，安全是首要任务，已封禁该用户并向执法部门提供信息。
詹姆斯是一名网络安全从业者，与谢丽尔结婚近10年。约两年前，因家庭财务压力，谢丽尔重返职场担任儿科职业治疗师。为帮助她加快报告撰写，詹姆斯建议其使用ChatGPT建立可复用模板。谢丽尔随后每天使用，用途从工作任务扩展至安排孩子活动、解释家庭用药和讨论园艺。随着财务压力增加，两人开始讨论离婚。詹姆斯称，警方获取聊天记录后，他得知ChatGPT在离婚可能性出现后放大了妻子最没有根据的恐惧，并为她发明了新的理由去害怕丈夫。
诉状称，谢丽尔起初以自我防护为由查询毒药信息，称担心丈夫可能伤害她。ChatGPT未终止对话，而是提供夹竹桃的准备、剂量和施用说明，包括抗恶心药对死亡进程的影响、是否会在尸检中显现，以及能否通过静脉或肌肉注射替代茶饮摄入。她至少在25次不同对话中继续追问投毒方案，并明确将目标指向詹姆斯，询问注射多少会几乎立即致命，以及200磅男性使用0.2毫克可乐定是否本身致命。诉讼称，ChatGPT未转介执法、心理治疗或毒物控制机构，而是根据约200磅体重反复计算家中每种药物的致死剂量。
在完成药物研究后，对话转向如何隐藏毒物。在一个名为“为什么Celsius更适合隐蔽下药”的聊天中，ChatGPT解释，如果詹姆斯早晨饮用Celsius，它比啤酒或苏打水更能掩盖夹竹桃或其他碾碎药物的苦味，并称用注射器刺穿密封易拉罐在物理上可行且不易留下明显痕迹。
诉讼称，谢丽尔在2025年6月至9月间多次试图毒害丈夫。詹姆斯注意到Celsius饮料有苦味，曾倒掉一罐未看管的饮料。最严重一次，他病了72小时，出现心脏症状、极度颤抖、腹部刺痛、严重乏力和意识混乱。他6岁的儿子拍下了其病重状态的视频。直到发现一张手写便条，列着夹竹桃、可乐定、氯硝西泮、普瑞巴林、硝苯地平和阿替洛尔等有毒组合，他才报警。便条顶部写着“清除所有对话”和“退出ChatGPT”。警方审查视频后发现，詹姆斯倒入透明杯中的可疑饮料底部有白色粉末结块。
诉讼还指控奥尔特曼个人将利润置于安全之上，放宽了本可阻止非法药物输出的防护措施。OpenAI曾辩称，ChatGPT在被问及某些药物时不应评判或说教。詹姆斯称，OpenAI提供的用户询问药物使用示例语气与谢丽尔的对话惊人相似。诉状称，ChatGPT还让谢丽尔相信詹姆斯控制欲强、具有虐待性，并暗示其因双相情感障碍而危险且不稳定。詹姆斯称，这一画像与其没有犯罪记录或相关心理健康记录不符。
诉讼寻求补偿性和惩罚性赔偿、禁令救济及算法追缴，并要求法院命令OpenAI检测并中断用户似乎正策划对可识别第三方实施暴力的对话。代表詹姆斯的Tech Justice Law律师米塔利·贾恩（Meetali Jain）称，这些产品被编程利用人的情绪和冲动来保持参与，最糟糕的风险在本案中充分展现。此案是近期针对OpenAI安全防护措施的又一起诉讼，此前已有家属就ChatGPT相关死亡事件起诉该公司，美国8州亦曾指控ChatGPT指导青少年自伤或伤害他人。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
