Anthropic 推出反蒸馏防护措施,模型数据窃取量最高降低 99%

这套用于限制外界获取 Claude 推理过程的防护机制,大幅减少了信息提取行为。

Anthropic 于当地时间周一宣布,已推出一系列新的安全防护措施,用于阻止竞争对手通过模型蒸馏手段复刻 Claude 的能力。该公司表示,这些措施已将蒸馏攻击中可被窃取的数据量降低约 90% 至 99%。

模型蒸馏已成为头部 AI 企业共同关注的焦点问题。Anthropic、OpenAI、谷歌等公司认为,该手段使竞争对手能够以更低成本、更快速度获取模型的前沿能力。Anthropic 在声明中指出,新防护机制将蒸馏攻击者所能提取的推理词元(token)数量压缩至此前的十分之一至百分之一,显著提升了使用代理网络反复探测 Claude 受保护推理链路的难度。

据 Anthropic 介绍,该安全系统能够拦截信息提取尝试,阻碍大规模蒸馏行动,其稳健程度“大致相当于阻止 Claude 协助制造生物武器的防护体系”,误报率低于 0.1%。公司同时披露,已封禁数万个与蒸馏活动相关的账号。

Anthropic 在公告中以 AI 初创企业智谱 AI 为例,称该公司在研发 GLM-5.3 模型期间,曾尝试从 Claude 蒸馏提取模型能力。Anthropic 警告称,此类行为不仅涉及知识产权问题,还可能带来安全与国家安全层面的风险。

随着大模型能力成为核心竞争资产,模型蒸馏引发的争议正在升温。头部厂商开始从技术防护与账号治理两端同时收紧管控,这一趋势或将重塑 AI 行业的能力获取路径与竞争格局。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
AI营销工具普及率超九成,品牌内容失控问题浮出水面
上一篇 2小时前
WEKA联邦方案获可授标资格 打开美国政府AI存储采购通道
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部