25位菲尔茨奖得主联名发公开信,批评AI公司以数学解题为基准测试的技术竞赛

AI 公司的目标与数学界的本质目标之间存在着严重错位。

包括陶哲轩、新晋得主邓煜在内的25位菲尔茨奖得主近日联合发表公开信《A Severe Misalignment of AI in Mathematics》,对当前AI公司在数学领域的发展路径提出系统性批评。公开信指出,过去几个月大语言模型的数学能力出现飞跃式提升,甚至已达到能够解决数学领域重大悬而未决问题的水平,但各大AI公司仅将解决数学问题作为基准测试来推动技术竞赛,这一做法对数学这门科学以及整个数学界构成了伤害。

公开信的核心论点在于,AI公司的目标与数学界的本质目标之间存在严重错位。信中写道,最近几个月AI在解决重大数学难题上取得的突破甚至冲出数学界,登上大众媒体头条,然而解决问题仅仅是达成概念理解与深刻洞察这一核心目标的工具和替代指标。在AI浪潮中忽略这一点,无异于异化了工具,使其走向核心目标的对立面。

这封公开信将当前局面描述为AI影响科学与创意行业乃至整个社会的对齐危机的一个缩影。25位签署者认为,以越来越快的节奏批量生产真或假的断言,非但无法为新思想注入生命力,反而可能毁掉孕育创新的沃土。AI的解答往往发布得过于仓促,甚至没有留出足够时间去编写一份严谨且规范的论文,无法提炼其中蕴含的新方法与新思想,也无法合理引用前人的相关工作。

公开信特别指出,正如在所有创意行业中发生的一样,这种仓促发布引发了严重的归属权认定与学术剽窃问题。此外,如果没有心怀热忱的数学家负责对AI产出的结果进行后续开发并融入数学规范体系,AI所孕育的思想就永远无法真正获得生命,数学家之间至关重要的人际传递纽带也将断裂。

签署者之一陶哲轩是菲尔茨奖得主中最为公众所熟知的数学家之一,长期关注AI与数学研究的交叉领域。邓煜则是新晋菲尔茨奖得主。25位菲尔茨奖得主的联名签署意味着数学界最高荣誉群体对当前AI发展路径的一次集体表态。菲尔茨奖被视为数学领域的最高奖项之一,每四年颁发一次,授予年龄不超过40岁的数学家。

这封公开信的发布背景是,近几个月来多家AI公司相继宣布其大模型在数学推理能力上取得突破,部分成果被用于展示模型在复杂逻辑推理任务上的通用能力。数学问题因其可验证性和明确的正确标准,已成为AI公司评估模型推理能力的重要基准测试场景。然而数学界部分研究者担忧,这种以基准测试为导向的研发模式可能偏离数学研究的本质目标。

公开信并未点名具体AI公司,但其批评指向明确。信中提到的对齐危机概念,近年来在AI安全与伦理讨论中被广泛使用,通常指AI系统的目标与人类价值观或特定领域核心目标之间的偏离。此次25位菲尔茨奖得主将这一概念引入数学领域,提出AI公司在数学能力上的技术竞赛可能与数学界追求深刻理解与概念突破的核心目标背道而驰。

从行业影响来看,这封公开信可能进一步加剧关于AI在基础科学研究中角色定位的讨论。一方面,AI在数学问题求解上的能力提升为研究者提供了新的工具;另一方面,如何确保AI产出的成果经过严格的学术规范检验、如何合理认定归属权、如何维持学术共同体的人际传承,已成为数学界乃至更广泛科学界需要面对的现实问题。公开信结尾强调,AI所孕育的思想若缺乏数学家的后续开发与融入规范体系,将永远无法真正获得生命。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
邬贺铨:2030年中国算力有望占全球30%,Token日均消费已达140万亿
上一篇 1天前
优必选柳州万台级工业人形机器人超级智慧工厂投产,Walker S2实现自主换电与7×24小时作业
下一篇 1天前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部