OpenAI在ChatGPT和Codex中嵌入水印技术textGrain,率先面向欧盟用户

OpenAI称其水印技术不逊色甚至优于其它水印方案如Google DeepMind的SynthID,嵌入水印的文本生成性能与未嵌入水印时的性能相当。

OpenAI正在ChatGPT和Codex中嵌入机器可读的水印技术textGrain,该水印最初将主要面向欧盟地区用户。此举旨在遵守欧盟新出台的《人工智能法案》(AI Act),该法案对AI生成内容的标识提出了明确要求。

据OpenAI介绍,textGrain水印技术在效果上不逊色甚至优于其他水印方案,例如Google DeepMind的SynthID。OpenAI竞争对手Anthropic已于8月宣布了基于SynthID的水印技术。OpenAI同时表示,嵌入水印后的文本生成性能与未嵌入水印时相当,不会因水印的加入而影响模型输出质量。

水印技术通过在AI生成的文本中嵌入机器可读的标识信息,使内容可被检测工具识别,从而区分人工撰写与AI生成内容。随着欧盟AI Act对生成式AI透明度要求的落地,主要AI厂商正加速在自家产品中集成合规能力。OpenAI选择在ChatGPT和Codex两款产品中率先部署textGrain,覆盖对话生成和代码生成两大高频场景。

从行业影响看,水印技术的规模化落地将推动AI内容治理从自愿标识走向合规标配。对于企业用户而言,水印的加入意味着AI生成内容的可追溯性增强,但同时也对下游内容审核和数据处理流程提出了新的适配要求。OpenAI未披露textGrain的具体技术实现细节及后续向欧盟以外地区推广的时间表。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
Cloudflare开源决策模型Clef,面向AI智能体任务选择场景
上一篇 11小时前
北醒李远:上半年交付25万台机器人激光雷达,机器人业务收入占比超一半
下一篇 11小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部