OpenAI正在ChatGPT和Codex中嵌入机器可读的水印技术textGrain,该水印最初将主要面向欧盟地区用户。此举旨在遵守欧盟新出台的《人工智能法案》(AI Act),该法案对AI生成内容的标识提出了明确要求。
据OpenAI介绍,textGrain水印技术在效果上不逊色甚至优于其他水印方案,例如Google DeepMind的SynthID。OpenAI竞争对手Anthropic已于8月宣布了基于SynthID的水印技术。OpenAI同时表示,嵌入水印后的文本生成性能与未嵌入水印时相当,不会因水印的加入而影响模型输出质量。
水印技术通过在AI生成的文本中嵌入机器可读的标识信息,使内容可被检测工具识别,从而区分人工撰写与AI生成内容。随着欧盟AI Act对生成式AI透明度要求的落地,主要AI厂商正加速在自家产品中集成合规能力。OpenAI选择在ChatGPT和Codex两款产品中率先部署textGrain,覆盖对话生成和代码生成两大高频场景。
从行业影响看,水印技术的规模化落地将推动AI内容治理从自愿标识走向合规标配。对于企业用户而言,水印的加入意味着AI生成内容的可追溯性增强,但同时也对下游内容审核和数据处理流程提出了新的适配要求。OpenAI未披露textGrain的具体技术实现细节及后续向欧盟以外地区推广的时间表。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。