陶哲轩、邓煜等25位菲尔兹奖得主联合发出AI警告！

AI开始能够解决越来越难的数学问题之后，一批世界顶尖数学家却发出了警告：如果AI越来越快地给出答案，数学可能失去一些比答案更重要的东西。

当地时间9月11日，陶哲轩、邓煜、彼得·舒尔茨（Peter Scholze）等25位菲尔兹奖得主作为最初签署人，联合发表声明《人工智能在数学中的严重错位》（A Severe Misalignment of AI in Mathematics），警告AI公司与数学共同体之间正在出现“严重错位”。

陶哲轩当天在个人博客“What’s new”发布了声明全文。他介绍，这份声明源于25位菲尔兹奖得主过去一周的讨论。由于认为当前问题具有紧迫性，他们没有等待更长时间进行更广泛的协商，而是决定尽快公开发表声明。

这份声明没有否认AI在数学上的进步，首先承认了一个正在发生的变化：过去几个月，大语言模型的数学能力出现显著提升，已经能够解决多个数学领域的重要未决问题。

但问题也由此出现。25位数学家认为，AI公司正在把解决数学问题作为衡量模型能力的基准，而数学共同体真正追求的，并不是尽可能快地得到一道题的答案。

“AI公司的目标与数学共同体的目标存在严重错位。”声明称，AI公司推动模型解决数学问题以作为能力基准的做法，可能损害数学研究以及数学共同体。

在这些数学家看来，一个著名数学问题之所以重要，并不只是因为最后能够得到“对”或者“错”的结论。

长期以来，重要的未解问题更像数学世界中的“地标”和“灯塔”。一个问题被解决，通常意味着研究者发现了新的洞见、方法或者概念。随后，这些成果还需要经过数学家之间的报告、讨论和不断简化，最终才可能变成研究生甚至本科生能够理解的教材内容。一些数学思想甚至要经过几十年乃至几百年，才会成为被更广泛使用的工具。

公开信强调，“解决问题只是实现概念理解和洞察这一首要目标的工具和代理指标”。

这也是25位数学家最担忧AI竞赛的地方。当AI公司不断以“解决了多少此前未解的问题”衡量模型进展时，原本用于衡量数学理解程度的指标，可能反过来成为被机器快速优化的目标。

声明警告，以越来越快的速度批量生产“真/假”结论，可能不是在孕育新的思想，反而可能摧毁孕育思想的沃土。

速度带来的另一个问题是，数学成果本身需要时间被理解。

声明称，一些AI产生的解答被匆忙宣布，没有留下足够时间完成规范的论文写作、提炼其中真正的新方法和新思想，以及引用其他研究者此前的相关工作。这也由此带来了严重的成果归属和抄袭问题。

即便AI能够产生正确而新颖的数学思想，25位数学家认为，人类数学家的工作也没有因此结束。如果没有数学家继续发展这些思想，并将其整合进数学知识体系，AI产生的思想也无法真正“活起来”，数学家之间至关重要的知识传承链条也可能随之丢失。

比“AI能不能做数学”更深一层的担忧，是数学家如何被培养出来。

公开信称，数学这个职业最宝贵的资源是学生和思想。数学家给学生布置问题，并不只是希望他们得到答案，更重要的目的之一，是让他们在解决问题的过程中发展研究所需要的能力。数学思想同样需要通过报告、私人讨论和严谨写作不断传播，并与此前的研究建立联系，而这些过程都需要时间和人与人之间的互动。

当AI能够越来越快地直接产出最终结果时，问题因此发生了变化：如果答案可以直接获得，人类是否还会经历那些形成理解、提出新问题和产生新思想所需要的训练过程？

25位数学家因此把这场争论进一步扩展到了数学之外。

“我们正在目睹一种对智力劳动的普遍威胁。”声明称，在许多领域，过去多年的专业训练不仅是为了生产最终答案或产品，也是为了发展理解能力，以及提出新问题和新思想的能力。但建立在人类此前积累的大量知识之上，AI系统正在越来越有能力直接产生这些工作的结果，由此造成了目标之间的错位。

不过，这份声明并没有主张拒绝AI。

25位数学家明确表示，AI具有加强和加速真正数学研究与理解的潜力，数学这一职业也需要适应由此带来的变化。真正尚未确定的是，这种变化最终会推动数学发展，还是产生破坏性影响，而结果在很大程度上取决于掌握这项技术的人如何作出选择。

这也让数学界正在讨论的问题，从“AI能否解决人类数学家解决不了的问题”，逐渐转向另一个更基础的问题：当机器越来越擅长给出答案，人类究竟希望从数学研究中得到什么？

25位菲尔兹奖得主在声明最后呼吁，数学共同体、开发AI技术的公司以及整个社会都需要尽快面对这一问题。声明还提醒，当AI改变工作的完成方式时，不能因此忘记这些工作最初究竟希望实现什么。