新加坡一名男子因使用谷歌Gemini生成虚假鳄鱼出没水库的图片并在网络上传播，被当地警方起诉。若传播虚假信息及妨碍司法公正两项罪名成立，该男子最高将面临10年监禁及1万新加坡元罚款。
据报道，该男子名为Ye Lin。当地时间8月20日下午3点左右，他使用谷歌Gemini应用程序生成了一张鳄鱼出现在新加坡Pandan水库的图片，随后将图片发送给同事Min Min Oo。该图片随即在互联网上广泛传播。新加坡国家水务机构PUB接到报案称有人在Pandan水库发现鳄鱼后，联系国家公园局在水库内展开搜寻，并要求民众避免在水库附近进行水上活动。
8月21日，PUB确认该图片并非真实拍摄，随即向警方报案。同日，Ye Lin打开手机删除了Gemini应用程序中的鳄鱼图片及相关操作记录。当局据此对其提出两项指控：传播虚假信息，以及事后故意删除证据、妨碍司法公正。
新加坡警方表示，对任何传播虚假信息的人士采取零容忍态度。Ye Lin将于11月10日再次出庭应诉。
此案是生成式AI工具被用于制造公共虚假信息的最新案例。随着大模型图像生成能力持续提升，AI生成内容与真实信息之间的边界日益模糊，如何界定和追责AI虚假信息的制作者与传播者，正在成为各国监管机构面临的共同课题。谷歌Gemini等主流AI工具目前均已在生成图片中嵌入数字水印，但用户通过截图、二次转发等方式规避标识的情况仍难以有效管控。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
