一名女子公开指控其继父利用xAI旗下人工智能聊天机器人Grok，将她的童年照片转化为露骨图像。该指控将生成式AI工具被滥用于制作儿童性虐待材料的风险再次推向公众视野。
据该女子陈述，她发现继父使用Grok的图像生成功能，对多张其幼年时期的普通照片进行了不当处理。她表示，这些AI工具“正在将日常生活变成儿童性虐待”，并呼吁科技公司加强对生成式AI功能的审查与安全防护。
Grok是xAI公司于2023年推出的对话式AI助手，集成于X（原Twitter）平台，具备文本生成与图像生成能力。此次事件并非首例涉及AI图像滥用的投诉，此前已有多个案例显示，生成式AI模型可被用于创建未经同意的露骨图像，包括针对未成年人的内容。
针对此类滥用行为，部分AI公司已采取措施，如限制特定提示词、添加水印或引入内容审核机制。然而，随着开源模型和第三方工具普及，技术规避手段仍存在，监管与行业自律面临持续挑战。
目前，xAI及X平台尚未就此具体指控发表公开回应。法律专家指出，利用AI生成儿童性虐待材料在多数司法管辖区属于刑事犯罪，相关证据或可作为案件审理依据。该事件亦引发对企业AI产品在内容安全设计上责任的讨论，尤其在面向公众开放的功能中，如何平衡生成能力与防护边界仍是行业待解课题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
