Anthropic推出AI文本水印后去水印工具涌现,法律与伦理争议持续

我认为这是对一个真实问题采取了错误的解决方案。

Anthropic上周宣布部分Claude模型生成的文本将带有“不可感知的水印”,这一举措旨在提高AI内容透明度并履行欧盟《人工智能法案》的相关承诺。然而,该功能上线后迅速催生了一批专门用于移除AI水印的第三方工具,围绕技术可行性与法律边界的讨论也随之升温。

据Business Insider报道,Anthropic的水印通过Claude的选词方式形成统计模式,即使用户复制粘贴文本,水印也会保留。这一特性引发部分用户担忧:即使仅利用Claude进行校对、翻译或总结,相关标记也可能跟随最终内容传播。此前已有用户表示因此取消了Claude订阅。在美国,Google Trends数据显示“AI watermark remover”的搜索热度环比上涨60%。

巴黎科技创业者、AI电商工具Memo创始人Guillaume Meyer在Anthropic宣布计划几天后发布了开源项目“Watermarks Remover”。该工具通过删除隐藏字符和元数据,并在保持原文含义的同时重新改写文本,以破坏可能携带水印的统计性选词模式。Meyer透露第一版工具约耗时5小时开发完成,目前该项目在GitHub上已获得超过1.4万个Star。但他同时承认,该工具并不能保证彻底移除水印。Meyer表示:“我完全支持内容归属标注,但我反对这种水印技术,这两者之间存在非常重要的区别。”他认为水印技术“把作者身份当成了一件非黑即白的事情”,即使用户仅利用AI进行轻度编辑,也可能留下水印。

Anthropic在博客文章中回应称,其水印并非用于确定内容的作者身份。与此同时,面向创业者提供AI教育服务的Sabrina Ramonov在X平台上发布了免费的浏览器端“Watermark Remover”工具,宣称可从文本、PDF、Word文档、网页、图片及数据文件中清除隐藏的AI标记。常驻东京的软件开发者Ansh Aneja则表示,他在Anthropic宣布功能当天就开发了针对Claude的水印移除工具,并随后发布了本地开源版本MarkScrub,该工具在一天内从0名用户增长至8500名用户。Business Insider无法独立核实这一数字。

苏黎世联邦理工学院安全、可靠与智能系统实验室研究员Thibaud Gloaguen指出,这些工具再次体现了水印技术长期存在的局限性。他表示:“总会有办法移除水印。”用户可以对整篇文本重新措辞,从而破坏原有的水印模式。

在法律层面,AI水印移除工具目前处于灰色地带。欧盟要求AI公司为生成内容添加持久性标记,但并未明确规定第三方是否可以主动移除。欧盟委员会发言人称,相关指导方针要求AI服务提供商的内容标记系统能够抵御常见修改方式及对抗性操作。斯特拉斯克莱德大学高级讲师Dmitri Roussinov表示,《人工智能法案》并未明确禁止第三方尝试移除AI水印,但如果移除工具本身利用AI重新生成文本,其提供商可能也需要为重新生成的内容添加标记。马斯特里赫特大学助理教授Konrad Kollnig指出,欧盟法律和Anthropic服务条款目前似乎都没有禁止开发或分享这类工具,但若用户利用工具将AI生成内容伪装成人类创作,则可能违反Anthropic的使用政策。

随着Anthropic计划在下一代模型发布时同步推出文本检测API,这一问题可能更加突出。水印将适用于8月2日及之后发布的新模型,Anthropic也计划将这一功能逐步应用到旧款模型。Kollnig表示:“所有这些水印技术都有一个共同的大问题:一旦水印检测工具公开,任何人都可以利用检测器检查AI生成的内容,包括文本和视频,并进一步开发用于移除水印的工具。”

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
苹果家庭中枢设备代码泄露 将搭载小组件库与Siri AI功能
上一篇 2小时前
苹果tvOS 27代码显示Apple TV 4K将整合Siri AI组件
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部