北京时间11月4日，菲尔兹奖得主、数学家陶哲轩（Terence Tao）在近期一场公开演讲中对人类日益依赖人工智能的趋势发出警告。他指出，随着人们逐渐将思考和解决问题的过程交由AI完成，人类正在失去对问题本身及其解决方案的理解，这一趋势可能很快在现实世界中产生严重后果。
相关言论出自陶哲轩10月16日在加州大学洛杉矶分校举办的Science x AI Summit上的演讲。科学与人工智能研究基金会（SAIR）近日在YouTube发布了题为《Math 2.0》的完整演讲视频，相关片段随后在海外社交平台X上引发关注。陶哲轩在演讲中表示，人类正在把思考委托给AI，由AI替人类解决问题，但与此同时也在失去一种保障，即无法确信AI给出的解决方案是否真正符合人类的需求。他称自己非常担心这一趋势很快会在现实世界中显现后果，并强调这是他数学领域之外的一项担忧。
陶哲轩指出，人工智能在数学领域取得的进展正在改变人类解决问题的传统方式。过去，数学家为攻克复杂问题需要长期研究、理解相关理论，并在这一过程中积累新的知识；如今AI能够快速给出答案，人类却未必能够理解答案背后的推理过程。他认为，这种变化在纯数学领域的风险相对可控，因为数学证明通常可以通过形式化工具进行验证，但当同样的方法被用于现实世界时，情况会复杂得多。
陶哲轩特别提到电网、航空交通管制、药物研发和芯片设计等领域。他担心，未来人们可能直接将复杂问题交给AI处理，却缺乏对底层模型和现实约束条件的充分理解。在这种情况下，AI给出的方案可能在数学模型中完全成立，却并不符合现实世界的真正需求。AI甚至可能找到模型中的漏洞或边界条件，在满足表面指标的同时偏离人类原本希望实现的目标。
陶哲轩强调，问题并不在于AI技术本身，而在于人类如何使用AI。他主张推动数学研究进入所谓的”Math 2.0″时代，让AI不仅帮助人类解决问题，更能增强人类对问题的理解，帮助研究人员识别模型的局限性和潜在风险。这一主张与其此前的公开表态一脉相承。10月22日，陶哲轩在《自然》杂志发表文章，呼吁数学界重新审视AI时代的研究目标。他指出，随着AI生成数学证明的速度超过人类理解和消化这些成果的能力，数学研究正在面临新的挑战。
陶哲轩认为，AI工具完全有可能增强人类的理解能力，但这需要研究方式和激励机制发生相应改变。AI时代真正需要保留的，不只是获得正确答案的能力，更是人类理解、检验和判断答案的能力。对于企业服务与AI应用领域而言，这一警告指向一个现实问题：当AI智能体越来越多地承担复杂决策与流程执行任务时，如何保留人类对模型边界和现实约束的理解与校验能力，将成为AI落地过程中不可回避的治理议题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
