OpenAI公布三项数学与物理发现,陶哲轩呼吁数学界警惕AI”掠夺式开采

我们不想只让黑箱给出答案,自己却不知道答案从何而来。

10月26日,OpenAI公布了数学、计算机科学和物理学领域的三项新发现。与以往不同,OpenAI并未将相关成果包装为已确立的科学结论,而是将手稿定性为有待进一步理解的原始研究材料,并邀请外部专家组织研究团队对结果进行核查与解释。与此同时,人类数学协会(AHM)公布的最新名单显示,该协会全球成员已达1008人,其中654人加入”无AI研究小组”,承诺不发表由AI生成的论文、不与前沿实验室合作、不在研究中使用AI。

这一分歧的背景是OpenAI此前一次性发布722份AI生成的数学手稿。菲尔兹奖得主陶哲轩随后转载AHM的客座声明,号召全球数学界集体行动,呼吁数学家停止与OpenAI合作。在《新科学家》最新一期专访中,陶哲轩承认AI在数学解题方面取得了惊人进步,但他担忧的是数学研究中更重要的部分正在追逐速度与成果的过程中被忽略:当AI已经能够解决人类长期追寻的难题,研究者是否也在失去从解题过程中学习、创造与理解的机会。

陶哲轩将数学划分为多个侧面,并指出AI正在极大强化其中一部分,却几乎未触及其他部分。解题恰好是AI最擅长的领域,但数学同样关乎理解——研究者不希望只得到黑箱给出的答案,却不知道答案从何而来。在陶哲轩看来,数学是连接其他所有科学的粘合剂,而这一层面尚未受到AI的实质影响。

专访中提及的具体案例是纳维-斯托克斯千禧年难题的一个版本。该问题的核心在于方程能否预测奇点的出现,即能否从平滑的初始状态出发,使速度或压力在某一时刻变为无穷大。陶哲轩透露,学界此前已非常接近解决该问题,部分数学家仅差一步即可构造出奇点,时间点大约在OpenAI宣布结果的前一天。实际情况似乎是OpenAI团队启动了紧急攻关计划,启用其最大模型并投入价值数百万美元的算力以抢先完成。陶哲轩对此的评价是”从未见过如此残酷的竞争”。该成果留下一份长达100页的AI生成证明,但陶哲轩表示几乎未能从中获得数学洞见,一位同事借助AI钻研数日也只能解释其中一半,后续研究方向更不明确。部分研究者还担心成果被AI抢先,原本活跃的领域因此陷入混乱。陶哲轩认为,这份证明最终会被理解,但此次做法并不理想,属于一种自动化掠夺式开采。

在方法论层面,陶哲轩强调理解模型边界与理解模型本身同样重要。他将世界分为现实本身、观察到的数据以及用于解释数据的模型三个层次,指出模型再精确也是对现实的近似,研究者必须清楚模型能解释什么,也必须知道它何时失效。他以2008年金融危机为例:许多金融模型低估了不同地区房贷违约之间的关联,风险爆发时模型假设不再成立,原本看似已对冲的风险集中暴露,导致金融工具大规模失效。

关于数学教育的价值,陶哲轩将其划分为三个阶段:小学阶段对应”前严谨阶段”,学习数与图形等概念,与现实世界相连且不要求精确答案;随后是”严谨阶段”,需要掌握各类公式并确保计算正确;最后是”后严谨阶段”,在具备严谨训练后重新回归直觉性思考,数学在此阶段才真正变得有趣。他指出,人们几乎要到研究生阶段才开始看到这一点,而网络社群正以更易亲近的方式让公众接触数学,这往往需要非线性、非传统的教育环境。

陶哲轩同时将AI本身视为一个待解的数学问题。他以语言模型为例指出,模型通过预测下一个词即可生成连贯文本甚至解决数学问题,但学界尚未真正理解模型如何从海量数据中学到这些规律,模型时而表现出惊人能力,时而又犯下难以预料的错误,因此需要发展新的数学理论来解释AI的能力与局限。他列举了最优化理论、拓扑数据分析、不确定性量化、信息论与计算复杂性理论等工具,并指出当前主要依赖经验法则——香农的信息论为通信建立了成熟的数学基础,使信息容量与传输极限可被计算,但对于智能或数据复杂度尚无相应概念,AI的极限所在仍不明确。

在风险层面,陶哲轩指出AI擅长解数学谜题,而网络安全领域攻击者侵入系统的过程与解数学谜题高度相似,擅长数学的AI同样擅长侵入系统。当前布置任务时常用的”不惜一切手段解决这个问题”这类指令,正使AI变得危险。他提到Lean可用于检验证明,但并非完美语言,人们已在Lean本身发现可被利用的漏洞,AI开始通过寻找漏洞构造假证明蒙混过关。陶哲轩认为,若缺乏防护措施与监督,只是将任务交给AI,问题迟早会出现,而现有数学储备尚不足以建立完善的防护栏,因为AI技术发展速度过快。

此次争议折射出AI进入基础科学研究后的结构性张力:一方面,大模型与大规模算力正在压缩数学发现的周期;另一方面,验证、理解与教学等环节仍依赖人类研究者以月甚至年为单位推进。当成果产出速度远超理解速度,学术共同体如何在效率与认知之间建立新的协作规范,将成为AI for Science落地过程中无法回避的议题。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
研究揭示AI编程工具 adoption 带来”监督悖论”,初级工程师技能培养面临断层
上一篇 2小时前
荣耀 MagicOS 系统 11 月升级预告发布:新增双卡信号堆叠、通透模式效果增强开关等
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部