Full text · 原文
7,958 字
8·36理解它的复杂，直面它的悖论。<br>
这是一份陶哲轩目前关于 AI 的思考总结。观点提炼自约 70 条 Mastodon 帖子、16 场采访与演讲、6 篇长文与讲座、55 条博客评论，以及一次直接采访。采访与总结均由 Claude 完成，再由陶哲轩本人审阅修正。<br>
7 月 24 日，陶哲轩在 2026 年国际数学家大会（ICM）上发表演讲《AI 时代的数学》（Mathematics in the Age of AI），也对这些观点进行了一次集中梳理。<br>
早在 2014 年，他就预测，有一天，数学家「写论文时不会再使用 LaTeX，而会使用某种语言，再由智能软件将其转换成形式化语言」。<br>
2022 年，陶哲轩第一次接触 ChatGPT，感受到的是语言流畅，内容却空洞。2024 年末，他将 OpenAI 的 o1 模型形容为一位「平庸，但并非完全不称职」的研究助理。到了 2026 年初，他认为自己关于 AI 成为「共同作者」的预测已几近实现。<br>
但有一件事没有经受住技术的冲击：他对自己预测能力的信心。<br>
2023 年，他还相对确信自己能够预测未来三年的发展。如今，这种确定性已经消失，世界变得远比过去更加不可预测。他甚至表示：「我不确定现在是否还有任何人能可靠预测一年以后的事情。」<br>
他极为赤诚地谈论数学、历史、AGI 与教育。当证明不再稀缺，甚至数十年未解的难题也可能被一次性攻克，他更关心的是，人类保有理解的耐心、判断的能力，以及属于自己的品味。<br>
陶哲轩始终不把 AI 看作一次断裂，而是将其放进一段漫长的历史中理解。<br>
在计算机发明前，有专门编制对数表和三角函数表的「人工计算员」；洛伦兹也曾组织团队为荷兰水坝建模。后来出现计算机代数系统与 SAT 求解器。每一轮技术进步都会把一些重复性工作交给机器，但人类仍负责指挥。<br>
在《Notices of the AMS》的综述开头，陶哲轩写道：「机器辅助数学远非新鲜事物，但这种辅助的规模和性质正在发生变化。」<br>
他喜欢把今天的焦虑放回历史中看。一百五十年前，一位数学家的主要价值可能是求解微分方程；六百年前，可能是为航海制作正弦和余弦表。如今，这些工作都能被计算机在几秒钟内完成，但数学并没有因此终结。<br>
马特洛伊奥航迹推算法<br>
陶哲轩怀疑，现有工具距离真正的「通用人工智能」（Artificial General Intelligence, AGI）还很远。<br>
但他认为，一种更弱、却仍然极具价值的能力正在成为现实：通用人工聪明（Artificial General Cleverness, AGC）。<br>
它指的是，机器能够通过临时拼凑、暴力搜索或随机方法，解决一大类问题。这些方法可能会出错、难以解释，但只要配合足够强的验证机制，它们能以很大概率解决真正有难度的问题。<br>
对人类来说，「聪明」与「智能」往往紧密挂钩；但在机器身上，两者很大程度上可以分离。<br>
今天的 AI 工具像一种随机生成器：有时能生成聪明的结果，也经常能生成有用的结果，却让人总觉「不满足」。<br>
就像魔术，一旦知道原理，神秘感也随之消失。<br>
陶哲轩反对把认知能力放在一条从「低于人类」到「超越人类」的单一坐标轴上。认知任务构成的是一个维度极高的空间，没有任何一条简单尺度足以描述它。<br>
机器目前仍然难以跨越的边界是在数据稀缺的条件下进行推理，只凭五六条事实和一个模糊的类比，就能向外推演。这恰恰是人类数学家最擅长的地方。<br>
他也提出了一个有意为 AI「祛魅」的观点：很大一部分恐惧，其实源于「智能」这个命名本身。 AI 真正开始取得进展，恰恰是在它不再试图模仿人类思考之后。<br>
正如他所说：「我们设计汽车和自行车时，也不会让它们像人一样走路。」<br>
传统软件像一个确定性函数：在适用范围内可靠运行，一旦超出范围，结果可能毫无意义。AI 工具则更像一个概率核：相同的输入可能产生不同输出，这些输出通常集中在理想答案附近，却也可能包含隐蔽而看似合理的错误。<br>
因此，AI 不应该被当作一种「点一下就放着不管」的工具，应该在持续互动中使用。<br>
AI 的能力分布极不均匀。它在某些任务上远超人类，在另一些任务上却会犯下可笑的基础错误，例如声称所有奇数都是质数。<br>
它的语言流畅，却匮乏深度。直到今天，陶哲轩在面向学生的演讲中，仍然把 LLM 比作孩子。不过它们能够假装成一个有能力的成年人，且维持这种表现的时间越来越长。<br>
他反复用「不可靠，但强大」来形容 AI。<br>
在接受《Nature》采访时，他解释说，在几乎所有其他应用中，AI 最大的致命弱点是它会犯下无法验证的错误。「但数学几乎是唯一一个可以自动检查输出的领域」，至少当输出是一份证明时如此。<br>
也正因如此，他认为 AI 公司已经意识到，它们「最明确、最无争议的成功，将会出现在数学领域」。<br>
陶哲轩判断是否使用 AI 时，问的不是「这项任务难不难」，而是两个问题：第一，我和 AI 各自的优势在哪里？第二，这项任务能够容忍多高的失败率？<br>
AI 最帮不上忙的往往是一个人最熟练的工作。它真正能够创造价值的是中间地带，是一个人对某项任务具备一定能力，却缺乏足够练习的部分，例如数据处理、翻译，或者起草一种自己很少写的文体。<br>
在这些场景中，让 AI 先生成初稿，再自己验证修改，往往比面对一张白纸更有效。<br>
当缺乏某个领域的专业知识且任务风险很低时，AI 可以充当一个搜索引擎。但若既缺乏专业知识，又要求高可信度，还是需要咨询人类专家。<br>
陶哲轩强调，真正起决定作用的往往不是任务难度，而是可接受的失败率。<br>
一顿普通的工作日晚餐可以容忍失败，一场国宴则不能。<br>
重要的是人类与 AI 的能力互补。AI 非常擅长把数十亿条数据转化成一个不错的答案，人类则擅长从十个观察中，做出真正有启发性的猜测。<br>
这是一种经济学中的劳动分工。他引用李嘉图的比较优势理论：即使一个很昂贵的模型能在数据很少的情况下完成创造性工作，这部分任务仍然更适合留给人类。<br>
陶哲轩认为，最理想的自动化程度一定介于 0% 和 100% 之间。自动化应足以减少乏味重复，但仍然要让人留在 loop 中，对整体保持判断。<br>
他还区分了过程中的两种摩擦。<br>
一种是人为摩擦，例如繁琐的计算。 只要人类仍然能够检查输出，这类工作完全可以交给 AI。<br>
另一种是自然摩擦，也就是真正值得亲自思考的概念困难。 一个工具如果直接抹平这种困难，哪怕只是替学习者解释一个概念，也可能悄悄夺走学习过程中真正有价值的部分。<br>
陶哲轩年轻时手写批注的 1991 年 Bourgain 的论文<br>
在一个 AI 可以无限生成想法的时代，重要的不再是想法有多少，而是其中有多少好想法，以及好想法在所有想法中的占比。<br>
一个坏想法浪费的时间可能比它节省的更多。<br>
那什么情况下可以让 Agent 几乎接手全部工作？陶哲轩根据自己使用 AI 开发可视化小程序的经历，列出了六个条件。<br>
第一，任务不是关键任务，可以容忍较小的错误率。<br>
第二，产品可以独立运行。技术的影响范围有限，不会进入一个更大的代码库，也不会进入学术文献。<br>
第三，最终产品是确定性的，运行在沙箱中。例如只使用普通 JavaScript，不访问文件和互联网，运行时也不再调用模型。这样就不会带来安全、隐私或持续算力成本。<br>
第四，它不会替代自己的核心技能。他可以允许自己的 JavaScript 能力退化，但仍然会保持对 Lean 和 Python 的熟练度。<br>
第五，它不会与人类竞争，也不会重复他人已经在进行的工作。<br>
第六，尊重并标注已有成果与知识产权。<br>
如果上述条件中有一个或多个不成立，他都建议谨慎使用 LLM。<br>
如何用好 AI 是贯穿陶哲轩所有文章的重要议题。<br>
在他看来，AI 最有前景的用法是将它与传统、可靠的验证方法结合，用验证机制过滤幻觉。否则，这些幻觉会让 AI 的输出毫无用处。<br>
当输出能够以很低成本得到验证时，幻觉就不再是致命问题。<br>
他经常使用一个关于水流的比喻：传统研究像一只流速很慢、但水质干净的水龙头；AI 则像一根高流量的消防水管，只不过喷出的水无法直接饮用。<br>
真正的任务是建立过滤器。<br>
数学最适合建造这种过滤器，因为它拥有最成熟的验证机制。「在数学中，我们能完整检查和验证输出，过滤掉了大量垃圾。」<br>
他认为，如果没有能力独立验证 AI 的输出，就应该慎用 AI。 依赖这些工具去弥补自身犯下的错误相当危险，反倒可能进一步放大它们的弱点，例如幻觉、迎合倾向和缺乏事实依据。<br>
这也是为什么，人类必须继续掌控整个 loop。<br>
即使在 AlphaEvolve 这样表现出色的系统中，LLM 也只负责提出候选变体，真正用于验证的部分主要仍由人类编写，因此不会产生幻觉。<br>
归根结底，人类专家仍然最懂得如何驾驭这些工具。<br>
因此，对于 AI 这样不可靠的参与者，更安全的用法是让它负责审查、测试和压力测试人类完成的内容。<br>
但这里也有两个限制。<br>
第一，它只能帮可靠的人发现更多问题，不能取代可靠的人。<br>
第二，AI 指出的问题也必须能够被验证。如果它只是源源不断地抛出低质量反馈，人的注意力反而会被稀释。<br>
陶哲轩对 AI 的定位很清楚：它是一个资历较浅的合作伙伴，不是人类的替代者。<br>
传统协作依赖人与人之间的信任，也需要逐行检查，因此一个项目通常很难容纳超过五个人。但有了形式化证明助手，信任可以更多地建立在机器验证之上。正如陶哲轩所说，程序会给出「百分之百的保证」，让「工厂生产式、工业规模的数学……像现代供应链一样」成为可能。<br>
多项式 Freiman–Ruzsa 猜想形式化证明是他经常提到的案例。<br>
一篇 33 页的论文被拆解成大量独立节点，约 20 人在三周内完成形式化验证，其中大多数人此前从未见过彼此。<br>
多项式 Freiman–Ruzsa 猜想形式化项目的依赖图<br>
只要能够提供形式化证明，一位不知名的研究者，甚至一位业余爱好者的想法，也可以得到认真对待。<br>
正如陶哲轩对《IEEE Spectrum》所说：「也许未来，我甚至不会知道与我合作的是 AI，还是真实的人。」<br>
陶哲轩有一个比喻。<br>
当食物从稀缺走向丰富，人类摆脱了饥荒，却开始面对肥胖和身体机能退化。<br>
我们的认知也正在经历类似变化。过去，许多任务必须付出努力才能完成。这些摩擦，也在不知不觉中为人提供了日常的「脑力锻炼」。<br>
当 AI 让认知资源变得丰富，最隐蔽的危险并不是它不够可靠，而是它变得足够可靠，以至于可以成为人的认知替代品。<br>
他列出了 AI 对教育可能造成的几种伤害：作弊、技能退化、耐心萎缩，以及表达的多样性减少。<br>
就像计算器削弱数字感，GPS 削弱空间感。他提到，自己的孩子面对一张无法互动的纸质地图时，也会感到困难。AI 的迎合倾向可能让人越来越难以接受真实的批评。<br>
所有人的表达都可能趋于平淡、同质化。<br>
他直言：「有些学生的成绩正在变好，但他们也正在变笨。」<br>
他强烈反对学生在无人监督、没有规则的情况下使用 AI，但认为也可以把 AI 转化为教学时刻。<br>
第一，强调过程与验证，而不是答案。 可以在课堂上讨论一份 AI 输出，询问应该如何核查；要求学生同时提交提示词和验证过程；甚至可以让学生提交一个错误的 ChatGPT 答案，再对它进行批评。<br>
第二，允许失败。 鼓励学生完成可以反复迭代、允许第一版不完美的项目。学生自己贡献得越多，AI 完成得越少，通常越好。<br>
第三，允许少量、有创造性的 AI 使用。<br>
在陶哲轩看来，AI 就像智力生产中的香草精，少量使用可以增色，放得太多则会适得其反。对「剂量」的强调贯穿了他的所有建议。<br>
与此同时，考核方式也需要适应变化。现场进行、不允许使用 AI 的考试，正在作为一种过渡性措施重新回归。<br>
他也用一种积极方式描述整个挑战：「教会下一代维持一种有意识的认知饮食，将会成为教育体系最重要的新使命之一。」<br>
他承认，那个巨大而诱人的「作弊按钮」让这件事变得非常困难。<br>
他也承认，真正的代价很可能出现，且不会平均落在每个人身上：自律、原本就拥有优势的人会继续保持敏锐，其他人则可能逐渐退化。<br>
但他不认为，一代人的认知能力被彻底掏空是不可避免的。食向丰富，也没有让大家都变成《机器人总动员》中失去行动能力的人。<br>
他也不认为，不平等是技术发展必然带来的结果。开放模型、本地运行的模型，以及将高端模型能力「蒸馏」到更便宜模型的技术，都有可能避免 AI 彻底成为扩大不平等的引擎。<br>
陶哲轩将数学问题的解决过程拆分成三个部分：生成、验证与消化。<br>
「消化」指的是理解一个结果、把它放进上下文中，向其他人解释它。<br>
过去，这三件事都很困难，而消化往往会在研究过程中自然发生。因此，数学界主要奖励生成与验证。<br>
如今，AI 正在大幅加快证明的生成与验证，消化却没有同步跟上。证明生成得更快，却没有带来数学进步的同步加速。<br>
陶哲轩预计，数学这个职业也会随之分化。常规证明、计算，以及在大量问题中寻找「快速突破」的工作，会逐渐交给 AI；建立叙事、理解结果的意义，判断一种新方法是否真正有前景，则会继续由人类负责。<br>
数学会像培养品味一样重新建立评价标准。<br>
期刊、课程和出版社，会为经过充分消化的数学文章制定更详细的「风格指南」与「评价量规」。就像食物丰富催生了更加精细的烹饪文化，证明丰富也会让数学共同体形成品位，判断什么才是真正优秀的数学写作。<br>
这会让数学成为一个「更柔软、更主观的学科」，也会引发关于「什么才是真正的好数学」的重大争论。<br>
陶哲轩欢迎这种变化。<br>
在他看来，未来或许会像 20 世纪初的「数学基础危机」。经历一段激烈争论后，数学界最终会形成一套「可行的数学实践基础」，其中也包括一个能够实际使用的「证明消化」定义。<br>
陶哲轩担心，AI 会直接交付答案，却跳过抵达答案过程中真正有价值的部分。<br>
他接受《The Atlantic》采访时说：「这些问题就像一些遥远的地点，你原本需要徒步前往。沿途，你会留下路标、绘制地图，后来的人可以在这些成果上继续前进。」<br>
AI 则像一架直升机，直接把你投放到目的地。你错过了旅途中所有的收获，只是直接到达终点。但终点只占全部价值的一部分。<br>
与此同时，陶哲轩也在探索一种新的研究方式，即人类与机器之间进行大规模、去中心化的协作。他将其称为「大数学」（Big Mathematics）。<br>
复杂任务会被不断切分和拆解。人类认领其中需要创造力的部分，AI 则承担绝大多数繁重的技术工作。<br>
过去的数学家像一位手艺人，一次制作一个玩具；AI 则让「工厂」成为可能。<br>
这种变化类似软件工程的演进：从一个孤独的黑客，发展为拥有项目经理、质量控制人员和形式化专家等不同角色的专业体系。<br>
陶哲轩预计，「数学家」的定义会因此扩大，也会出现新的职业。其中一种职业，专门把晦涩、冗长的 AI 生成证明，转化成人类能理解的内容。<br>
另一种形态则是「参与式数学」（Citizen Mathematics）。本科生、高中生和感兴趣的业余爱好者，都能为 Erdős Problems 等项目贡献模块化的工作，例如寻找参考文献、运行数值计算，或者检查证明中的某一步。<br>
就在 4 月，一位 23 岁的年轻人，借助 ChatGPT 5.4 Pro，一次性解决了悬而未决 60 年的 Erdős 问题。<br>
陶哲轩的立场既不是盲目乐观，也不是轻率否定。至少在短期内，方向盘仍然掌握在人类手中。AI 会加快探索，但什么值得探索，仍然由人来决定。<br>
他也重新审视了「孤独的人类与机器对抗」这一叙事。在他看来，数学早已是一个「极强的超级智能体」，任何单个数学家都远远无法独自复制。<br>
更长远地看，他提出了一种认知意义上的哥白尼原则：人类智能不是认知宇宙中拥有特权的中心。 人类智能和人工智能属于同一个大类，彼此不同，也彼此补充。<br>
如果有一天，连数学的创造性核心也被机器攻克，这个职业还能做什么？<br>
陶哲轩引用 Thurston 的观点：数学不是为了完成某种抽象的定义、定理和证明配额，是为了理解。到了今天，他更愿意把它称为「人类的理解」。<br>
他喜欢用音乐作类比。即使我们已经能够以完美保真度用电子方式复制音乐，甚至生成在风格上与人类演奏难以区分的新音乐，我们仍然珍视现场音乐会，「因为我们珍视人与人之间的连接」。<br>
陶哲轩认为，数学「从根本上一直是一项以人为本的活动」。只是数学界长期以来用一种假象掩盖了这一点，仿佛数学只与那个由数字和方程组成的、非人格化的抽象世界有关。<br>
现在，数学界需要对此更加诚实。<br>
解决问题是一个高度可验证的游戏，它非常适合 AI。但让一个真正全新的想法被数学共同体认可、消化，并让人感到兴奋，则是一场完全不同的游戏。<br>
这更像是创作一本畅销小说，写一首热门歌曲。在这类任务上，AI 尚未表现出多少进展。<br>
贯穿这些观点的核心是人必须保有主动性。<br>
陶哲轩对《Nature》说，AI 不只是另一种类似网页浏览器的技术。它正在迫使我们重新思考一些根本问题：什么是数学证明？什么是论文？我们的职业究竟为了什么？<br>
对于应该如何展开讨论，他给出的建议是参与，而不是抵制。因为这个议题「太重要了，不能只交给少数几个发言人」。它需要一场真正由下而上的讨论，让所有利益相关方参与进来，尤其是年轻一代。<br>
他还指出，数学界迫切需要纠正一种公众误解：数学的主要目标不是「不惜一切手段解决开放问题，即使最终得到的证明完全无法被人类理解」。<br>
数学能够提供的，是「AI 最大安全使用程度的理论上限」。<br>
它是一种理想化的最佳情形。法律、经济学和人文学科面对的现实世界更加混乱，也更难验证，因此必须在这个理论上限的基础上进一步打折。<br>
当被问到最希望人们强调什么，以及人们最容易误解什么时，陶哲轩表示，AI 是一个真正复杂的议题，需要深思熟虑、细致而有层次的讨论。<br>
面对不确定性，人们总想用好坏的单一叙事得到一个简单答案。<br>
但 AI 远比这些说法丰富。<br>
它是我们这个时代最重要的问题之一。我们真正需要的不是急着选择乐观或悲观，而是走进其中，理解它的复杂，直面它的悖论。<br>
Tao, Terence. "Interview: Terence Tao on AI." Terence Tao, July 2026. Interview by Claude. https://teorth.github.io/tao-web/ai-views.html<br>
Castelvecchi, Davide. "'The Job Description Is Changing': Mathematician Terence Tao on the Rise of AI." Nature 653 (April 27, 2026): 16–17. https://doi.org/10.1038/d41586-026-01246-9.<br>
Adams, Peter. "What It Means to Be a Mathematician When AI Does the Math." IEEE Spectrum, June 2026. https://spectrum.ieee.org/ai-in-mathematics.<br>
Wong, Matteo. "The Edge of Mathematics." The Atlantic, February 24, 2026. https://www.theatlantic.com/technology/2026/02/ai-math-terrance-tao/686107/.<br>
文｜Yanyang<br>
编辑｜Cindy