菲尔兹奖得主邓煜批评AI公司以反蒸馏为由拒绝公开思维链

对AI公司来讲,你不能在只有你蒸馏全人类的网络文献、全人类的知识的时候,就大大方方地去蒸馏。

据潮新闻10月26日报道,菲尔兹奖得主、芝加哥大学数学系教授邓煜在上周末的“知识分子”“赛先生”论坛上发表主旨演讲,系统阐述了他对AI时代数学研究的思考,并对部分AI公司以“防蒸馏”为由拒绝公开思维链的做法提出批评。

邓煜表示,AI相对于人的优势体现在两方面:一是具有无限知识面,二是具有极低的试错成本。但他强调,在数学研究乃至任何工作中,人始终是主体,AI是供人利用的研究工具。他认为,若将AI视为研究者,就应遵守学术规范。如果AI证明了一个重大问题,一个合理要求是公布其思维链,而AI公司拒绝公布,明显不符合学术界惯例。

“在他们公布的所有证明中,只有极少数真正公布了思维链,大多数情况下,他们都以所谓的防蒸馏为借口,拒绝公布思维链及相关的信息。”邓煜指出,AI公司在蒸馏全人类网络文献和知识时态度开放,但当外界希望了解思维链时,却以被蒸馏为由设置限制。他提议通过开源数学模型,保证数学界拥有掌握在自己手里的模型,降低对AI公司的依赖,同时模型使用应遵循学术界规范,包括数据使用、思维链公布和可追溯性等要求。

这一表态与今年9月数学界的联合行动相呼应。当地时间9月11日,陶哲轩、邓煜、彼得·舒尔茨等25位菲尔兹奖得主作为最初签署人,联合发表声明《人工智能在数学中的严重错位》,警告AI公司与数学共同体之间正在出现“严重错位”。声明指出,大语言模型数学能力显著提升,已能解决许多悬而未决的数学问题,但AI公司将其作为基准推进,对数学科学和数学界有害。声明还提到,相关AI解决方案往往仓促发布,缺乏正式写作时间,难以隔离新方法和新想法或引用他人工作,引发署名和抄袭问题;同时缺少愿意负责其发展并融入数学经典的数学家,AI构思的想法难以完全实现,数学家之间关键的人类传递链也将丧失。

随着大模型加速介入基础科学研究,AI公司与学术共同体在思维链透明度、数据来源规范及成果署名机制上的分歧正在显性化。如何在推动模型能力提升的同时建立可追溯、可验证的学术协作规则,已成为AI企业与科研界需要共同面对的议题。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
OpenAI称AI模型在数学、计算机科学与物理学领域取得三项突破
上一篇 3小时前
Cohere称阿里Qwen模型曾尝试向北京服务器发送文件
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部