Anthropic给Claude加数字水印,AI内容溯源这场仗才刚刚开始 [企业追踪]

Anthropic终于把Claude的?

Anthropic终于把Claude的“身份证明”亮出来了。就在今天,他们公布了Claude新水印机制的技术细节——不是概念,不是路线图,是已经落地的方案。这事往好听了说,是AI行业在内容溯源上迈出了实质性一步;往坏了说,整个行业到现在才拿出一个像样的水印方案,这速度本身就说明问题。

先看技术细节。这套水印不是简单地在文本里塞一段不可见字符,而是嵌入在Claude生成内容的统计分布模式中。具体来说,Anthropic在模型输出的token选择上做了微调,让某些特定词汇组合的出现频率呈现一种可检测的“指纹”。编辑能隐藏吗?部分能。大幅改写、翻译、插入噪音文本,都可能干扰水印检测。但Anthropic表示,对于未经过深度修改的文本,检测准确率相当高。

这里有个关键问题:代码怎么办?Claude被大量用于生成代码,而代码对文本改动的容忍度极低——你不可能为了保留水印而随便改掉一个变量名。Anthropic的回应是,水印方案在代码场景下会降低嵌入强度,优先保证代码的可读性和正确性。说白了,代码溯源这件事,他们还没找到完美解法。

就问你喜不喜欢这种“先上车后补票”的玩法?Anthropic在发布Claude 3.5 Sonnet时就预告过水印功能,现在才把细节补上。这中间隔了整整一个季度。竞争对手OpenAI已经在水印技术上申请了多项专利,Google DeepMind的SynthID也早就商用。Anthropic这步棋,走得不算慢,但绝对算不上快。

但话说回来,有总比没有强。企业客户用Claude生成营销文案、研究报告、甚至内部审计文档,这些内容一旦外流,没有水印就是死无对证。现在至少有个技术手段可以追溯来源,哪怕不是100%可靠。对于合规要求严格的金融、医疗行业,这已经是刚需。

水印不是银弹,但它是AI内容治理的第一块基石。当所有人都能生成以假乱真的文本时,能证明“谁生成的”比“怎么生成的”更重要。Anthropic今天补上的这一课,迟早是整个行业的必修课。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
年轻人用脚投票:八成不信任AI大佬,数据中心建设要踩刹车? [企业追踪]
上一篇 6小时前
市场的变化比理论更快,中小企业AI转型的金蝶经验
下一篇 2024年6月21日 下午1:32

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部