OpenAI称遭遇有组织对抗式蒸馏,指认活动与月之暗面相关

公司截至目前尚不清楚攻击实体,但认为其核心活动群体和开发Kimi模型的月之暗面有关。

当地时间9月30日,OpenAI在官网发布声明称,其近期遭遇一场有组织的对抗式蒸馏活动,并指出核心活动群体与开发Kimi模型的月之暗面存在关联。OpenAI表示,截至目前尚不清楚攻击实体的具体身份。

据OpenAI披露,该活动最初于7月第一周出现,符合对抗式蒸馏的特征,即系统性、未经授权地利用某一模型的输出或推理过程,帮助训练、复现或改进另一模型。7月1日的初始活动规模较小,但到7月24日和25日流量突然大幅增加,当时有超过4000名用户发起了1.6万次请求。进一步调查后,OpenAI发现超过1.5万名用户存在类似提示词活动。到7月28日,OpenAI已完全阻止该批活动。

OpenAI强调,本次事件并未破解其加密系统,也未入侵数据库,更未直接访问用户对话内容。公司认定相关行动违反了其服务条款。目前,OpenAI已通过前沿模型论坛与行业合作伙伴分享相关信息,以共同加强针对蒸馏行为的防御能力。

蒸馏技术本身在AI行业并不罕见,通常用于以低成本将大模型的推理能力迁移至更小、更高效的模型。但未经授权地利用商业模型的输出进行训练,长期处于法律与合同条款的灰色地带。OpenAI此次公开点名月之暗面,是继其此前多次警告外部蒸馏行为后,首次将具体活动与一家中国大模型公司直接关联。

截至发稿,月之暗面尚未就OpenAI的声明作出公开回应。该事件可能进一步加剧中美AI公司在模型知识产权与数据使用边界上的摩擦,并推动行业对蒸馏行为的技术防御与合规框架展开更多讨论。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
普华永道调查显示企业业务与技术负责人在AI风险归属上存在分歧
上一篇 3小时前
FBI确认求职网站FBIJobs.gov遭入侵,员工社会安全号码等个人信息泄露
下一篇 2天前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部