25 位菲尔兹奖得主联名公开信，人工智能在数学领域存在严重的目标错位A Severe Misalignment of AI in Mathematics

过去几个月里，大型语言模型（LLM）的数学能力突飞猛进，如今已经强大到能够解决数学诸多领域中长期悬而未决的重要问题。然而，人工智能公司将解决数学问题作为衡量模型能力的基准，这种做法正在损害数学这门科学，也损害数学共同体。人工智能公司的目标与数学界的目标之间存在严重的错位。我们认为，这只是更广泛的“目标对齐”问题的一部分，而类似的问题也正在影响其他科学和创意领域的专业人士乃至整个社会。

数学研究关注的是对形状、数字以及自然现象基本结构的理解。经过一代又一代人的积累，数学已经形成了庞大而复杂的思想、方法、抽象概念以及其他工具体系，用于理解整个数学世界。反过来，现代科技和现代科学也都建立在这些数学工具之上。

一些著名的数学难题往往充当这个知识版图上的地标和灯塔，人们可以借此衡量自己对数学世界的理解是否有所进步。解决其中一个问题，通常意味着出现了新的洞见和有趣的方法；随后，数学家群体会通过漫长而艰苦的演讲、讨论和简化过程，对这些新发现展开研究。到了这一过程的最后，理想情况下，这些成果会被整理成教科书式的论述，任何研究生、甚至本科生都可以据此学习。有些数学思想还会继续踏上自己的旅程，在数十年甚至数百年之后，最终成为整个社会都能够理解和使用的工具。

在很多方面，数学共同体就像是人类社会的一个缩影。它由采用各种不同方法的个人组成，但这些人又被共同的核心价值观联系在一起。对于我们这个职业而言，最宝贵的资源是学生和思想，而我们会非常谨慎地培育它们。我们希望它们能够充分发挥潜力，最终在数学世界里独立成长，拥有属于自己的生命。对于学生，我们经常布置问题，其核心目的并不是得到一个答案，而是培养他们的技能，使他们能够在未来的研究以及其他领域取得进步。对于我们的思想，我们通过演讲、私人讨论和严谨的书面论述来传播，把它们与前人的思想联系起来。这些过程无一例外都需要时间，而且建立在人与人之间的互动之上。

近几个月来，人工智能解决重大数学问题的能力屡屡取得成功，甚至已经成为数学圈之外的新闻头条。然而，解决问题本身只是实现概念理解和获得洞见的一种工具和代理指标。倘若在人工智能时代忘记了这一点，我们就可能让工具反过来伤害最初的目标。事实上，以越来越快的速度大规模生产“真/假”命题，可能摧毁孕育新思想的肥沃土壤，而不是为新思想注入生命。

这些解决方案往往在仓促之中被公布，没有留下足够的时间来进行适当的论述、提炼新的方法和思想，也没有时间引用其他人的相关前期工作。正如所有创意行业都会遇到的问题一样，这也引发了严重的成果归属和抄袭问题。此外，如果没有愿意投入时间的数学家来负责这些思想的发展，并将其融入数学知识体系之中，那么由人工智能构思出的思想就永远无法真正“活起来”，数学家之间至关重要的人类知识传承链也将因此断裂。

我们正在目睹一种对智力劳动的普遍性威胁：人工智能的使用结果正在与最初使用它的目的发生错位。在许多领域和活动中，多年的训练传统上不仅是为了最终得出一个答案或制作出一件产品，也是为了培养理解能力，以及提出新问题和新思想的能力。然而，人工智能系统建立在海量人类既有成果之上，如今越来越有能力直接产出过去需要经过这种训练才能获得的成果，于是这些目标开始彼此脱节。数学界目前面临的问题，与其他科学和创意领域正在面对的问题十分相似，也预示着全人类可能面临的挑战：当人工智能改变工作的方式时，我们该如何确保自己不会忘记，这些工作最初究竟是为了实现什么？

人工智能有潜力帮助我们提升并加速真正的数学研究和理解。数学这一职业也必须在多个方面适应这些变化。然而，这些变化最终会使数学领域受益，还是产生破坏性影响，很大程度上将取决于掌控这项新技术的人类作出的决定。

这些问题必须得到紧迫处理——数学界需要面对，开发这些技术的公司需要面对，更广泛的社会也必须面对，因为类似的问题很可能会以各种不同的形式出现在其他智力劳动领域。