--- author: Best Partners TV date: '2026-03-26' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=48lLiHkBfNg speaker: Best Partners TV tags: - mathematical-reasoning - formal-verification - reinforcement-learning - division-of-labor - theorem-proving title: 数学研究的分工变革：AI如何改变人类的科学探索 summary: 菲尔兹奖得主陶哲轩与OpenAI研究负责人Mark Chen围绕AI在数学领域的进展进行深度对话。讨论AI如何从'低效研究生'进化为强大工具，如何通过形式化验证和强化学习推动埃尔德什问题的解决，以及AI在分工、验证和创新中的角色定位。核心观点：AI将把数学从高度依赖个体智慧的学科，变成具备工业化特征的重工业。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: [] companies_orgs: - OpenAI products_models: - GPT - OpenAI o1 - Lean 4 - AlphaFold media_books: [] status: evergreen --- ### AI在数学领域的一年巨变 **主持人詹姆斯·多诺万**: 一年前的今天，陶哲轩曾给出过一个关于AI的经典评价。 **陶哲轩**: 是的，我当时说**GPT**这样的AI就像一个非常平庸、效率低下的研究生——看似有基础能力，却始终无法在核心研究中发挥有效作用。 **陶哲轩**: 但是过去一年里，AI工具的进步堪称跨越式。现在很多AI能力已经被数学家们常态化，几乎每天都在高频使用。这些能力彻底改变了我处理数学问题的方式。 ### AI代码生成能力的应用 **陶哲轩**: 作为一名纯数学家，我此前很少亲自编写厚重的代码。但现在AI的代码生成能力成为了我研究中不可或缺的工具。当我脑子里对某个数学现象产生一丝模糊的直觉或预感时，在过去可能只是想想就算了。而现在我会直接告诉AI把这个函数画出来，或者让AI尝试用代码证明一下这个猜想。AI就会直接完成后续的验证工作。 **陶哲轩**: 不仅如此，AI的文献检索能力也远远超越了传统的搜索引擎，成为了深度研究的核心工具。而在面对那些已经明确证明思路、但需要大量繁琐枯燥计算的引理时，我会直接把这些工作外包给AI，节省出大量的核心精力。 ### AI的当前局限性 **陶哲轩**: 当然，我也客观指出了当前AI的局限性。在极其深入的核心研究层面——比如在草稿纸上绞尽脑汁攻克一个难题，或者和同事进行深度的学术探讨时——AI目前的水平还不足以在这样的对话层面进行互动。 **陶哲轩**: 但从社会学层面来看，整个数学界已经形成了明确的共识：这些AI工具是来真的，它们不会消失。数学家们必须开始调整做研究的方式。过去那些极度繁琐的证明过程，甚至是数学家们会强迫研究生去完成的基础性苦力活，现在都可以直接丢给AI。 ### 汽车与公路的比喻 **陶哲轩**: 这个变化打开了许多以前连做梦都不敢想的数学研究新路径，尤其是那些需要在大规模层面处理的研究项目。我用一个比喻来形容当下数学界的状态：现在的数学研究就像人类刚发明汽车的时候，一开始汽车只能跑在为马车设计的道路上，处处不适应。但渐渐地人类改变了建造城市的方式，为汽车修筑专属的公路体系。而如今的数学界正处于这个尴尬的中间过渡阶段——我们的研究工作流依然是为传统的人工研究设计的，但我们手里已经握着AI这个汽车方向盘。接下来的重点方向就是为AI量身定制全新的研究工作流。 ### OpenAI的自主运行刻度指标 **Mark Chen**: 面对陶哲轩的评价，我坦言，当他一年前抛出"效率低下的研究生"这个比喻时，我一点都不觉得委屈——因为这基本就是当时AI技术的真实状态。 **Mark Chen**: 在**OpenAI**内部，技术团队并没有将参数量作为衡量AI进步的核心指标，而是一直在追踪一个名为"自主运行刻度"的关键指标。这个指标的核心就是模型在没有任何人工干预的情况下，能够持续、自主、有效进行工作的时间长度。 **Mark Chen**: 我将这个发展过程形容为一场在刻度表上的爬山运动。在去年这个时候，AI模型的自主运行时间单位还只是分钟级别。让它去处理一个稍微复杂一点的任务，几分钟后它就会开始产生幻觉，甚至直接崩溃报错。只要是需要一大块时间才能完成的工作，AI几乎都会中途摔倒。 ### AI发展的关键转折点 **Mark Chen**: 但刚刚过去的这一年成为了AI发展的关键转折点。技术团队看到模型的犯错概率在显著下降，这也让人类终于可以开始信任模型，让它去执行更长时间跨度的工作，甚至拆除了以前必须依赖的很多辅助脚手架。 **Mark Chen**: 现在AI发展的趋势极其明显——所有的模型都在向着能够自主解决更长周期问题的方向狂奔。而**OpenAI**的研发目标并非只是让AI取代一些简单的人工任务，而是希望构建一个能让全世界的科学家都在上面自我加速的平台。 ### OpenAI for Science计划 **Mark Chen**: 如今那些被赋予了AI能力的年轻极客们正在用各种方式突破科学研究的极限。二十岁出头的年轻人拿着**OpenAI**的新一代模型去尝试解决连资深专家都头疼的数学问题。虽然他们的研究方法可能不够老练，但通过AI的辅助，他们能够完成大量的自我引导式探索。这也是**OpenAI**成立**OpenAI for Science**计划的核心原因之一。 **Mark Chen**: 这个计划的本质是**OpenAI**与科学界进行的一场深度沟通。通过和各领域的顶尖科学家合作，搞清楚哪些科学问题才是真正重要而且亟待解决的，让AI的研发方向更贴合科学研究的实际需求。 **Mark Chen**: 我们在物理学领域也做过类似的尝试，请来顶尖的物理学家列出那些感觉可以被AI攻克的问题。这个过程不仅帮助**OpenAI**塑造了AI的发展方向，也让研发团队清晰地发现了模型的缺陷和需要补足的短板。 ### 埃尔德什问题：AI数学智商的试金石 **陶哲轩**: 当话题聊到AI如何改变数学研究的大规模协作时，我将目光投向了**埃尔德什问题**。我认为这个系列问题成为了衡量AI数学智商的终极试金石。 **陶哲轩**: **保罗·埃尔德什**是一位高产且性格古怪的数学家，他一生提出了数以千计的数学猜想，甚至会为解决这些猜想的人悬赏奖金。而这些猜想的难度跨度极大，构成了一个从入门到地狱难度的连续光谱。 **陶哲轩**: 埃尔德什问题中的一些核心难题是数学家们做梦都想解决、但几十年毫无进展的。我本人也曾经在一两个小点上取得过极其微小的进展。而在这些核心难题之外，还有一条长长的尾巴——那里堆满了大量没有被探索、关注度不高的中等难度问题。 ### AI在长尾问题中的突破 **陶哲轩**: 而正是在这部分长尾问题上，AI工具取得了极其惊人的进展。在过去一段时间里，大概有二三十个这类问题被成功解决，而在整个解决过程中，人类只提供了最低限度的监督。 **陶哲轩**: 我的研究团队利用**形式化验证工具**对AI的解题结果进行测试，发现了一个有趣的现象：对于那些已经被人类充分研究的难题，人类有着清晰的方法论；而对于一些人类关注较少的问题，AI反而能找出全新的突破口。 ### 数学研究的分工变革 **陶哲轩**: 埃尔德什问题的解决成果不仅验证了AI的数学能力，更推动了数学研究的分工变革。而这种分工是工业革命以来几乎所有行业都经历过的，唯独数学领域一直未能实现。 **陶哲轩**: 传统的数学研究高度依赖少数个体的头脑。一名数学家需要掌握从提出问题、生成策略、筛选策略、执行策略到验证结果、有效沟通的全流程能力。而AI的出现让数学研究的专业分工成为了可能。 **陶哲轩**: 只要将这种分工能力体系化，数学家们只需要在其中几个关键环节表现出色即可。数学家需要具备技术直觉，知道问题的来源和什么是好的解决策略；需要进行严谨的结果验证；向同行解释研究成果。而中间那些大量繁重的执行步骤——那些以前数学家们被迫硬着头皮自己干的环节——现在终于可以卸载给AI了。 ### 数学界研究文化的根本性转变 **陶哲轩**: 这种分工变革也推动了数学界的研究文化发生了根本性转变。在过去，数学家们会把所有的精力倾注在极少数地狱难度的未解之谜上，而完全无视那些处于中等难度、数量庞大的其他问题。 **陶哲轩**: 而现在随着AI工具的发力，数学家们开始批量释放这些"我们想知道答案、但懒得自己算"的题库。也许AI只能解决其中的10%，也许一名高中生借助AI又能解决其中的5%。但整体而言，数学研究正在迎来一种更具有社区驱动的全新范式——不仅专业数学家，就连业余的数学爱好者也能借助AI参与到数学研究中，打破了专业数学家对数学研究的垄断。 ### 为什么数学是AI的天然温床 **主持人詹姆斯·多诺万**: 为什么数学领域能成为AI发挥能力的天然温床呢？毕竟AI在科学预测领域已经取得了不错的成绩，比如预测蛋白质折叠的**AlphaFold**、预测天气甚至物理状态。但数学和理论物理的核心需求是严密的推导、公式和证明，而非简单的概率预测。这种要求对AI来说是否过于苛刻呢？ **Mark Chen**: 我给出肯定的答案。这也是我对AI在数学领域的应用抱有极大期待的原因。而核心答案就在于：**数学是一个试错极其廉价、失败极其廉价的地方**。 ### 试错成本与形式化验证 **Mark Chen**: 我做一个鲜明的对比。如果你是一名土木工程师，造的桥塌了，这是一场极其昂贵的灾难。如果你是一名外科医生，手术中切错了器官，那带来的代价无法估量。但在数学里，当你试图证明一个定理，哪怕你的证明策略彻底失败了，那也不过是一次廉价的错误，只需要重新梳理思路即可，不会产生任何实际的损失。 **Mark Chen**: 而比试错成本低更关键的是，数学领域拥有完善的形式化验证系统，比如**Lean 4**这样的交互式定理证明器。它能够以代码级的严谨度自动检查数学证明中是否存在逻辑漏洞。而这个系统简直是为强化学习量身定制的判官。 **Mark Chen**: 在过去，AI模型在复杂推理上经常遭遇瓶颈，核心原因就是很难在大规模上给模型的思考过程进行精准打分。而现在有了这些严苛的代码验证器，人类可以明确地告诉AI什么时候做对了、什么时候做错了。这就为强化学习构建了一个从试错到验证再到反馈的完美闭环。 ### AI在形式化环境中的指数级进化 **Mark Chen**: 只要能用清晰的规则——比如形式化语言——去评判AI的行为，AI就能爆发出惊人的力量。这一点在编程和数学奥林匹克中已经得到了验证。当给大模型设定明确、高难度的挑战时，它的进化速度是指数级的——不到一年时间从**IMO**铜牌到金牌。甚至人类编写的数学能力基准测试已经接近用尽。 **Mark Chen**: 这也成为了**OpenAI**将AI研发方向从解决竞赛题转向推动数学研究前沿的核心原因。 ### AI对齐的平衡难题 **Mark Chen**: 但我也坦言，AI的发展并非一帆风顺。目前**AI对齐**领域正面临着一个头疼的平衡难题。为了让AI看起来像个有礼貌、好合作的人，研发团队会通过**RLHF**强行给AI注入太多人类的偏好。 **Mark Chen**: 但人类之间的很多能力是无法被轻易量化的。比如人类合作时的默契——在强化学习里，根本无法去计算和奖励一段默契的合作。而研发团队发现，越是试图让AI在日常对话中讨好人类、注重交互的情商，它在硬核推理上的能力就越容易被削弱。 **Mark Chen**: 如何让AI既具备高超的硬核科学推理能力，同时又能在和人类交互时成为一个好队友，成为了**OpenAI**接下来需要重点解决的问题。 ### 世界模型与理论框架的创新 **观众提问**: 在物理、生物学等诸多科学领域中，最伟大的突破往往不是证明了某个已知定理，而是创造了一个全新的理论框架或全新的世界模型。而目前我们使用的AI主要是预测下一个Token的生成式模型。未来的AI是否会具备这种建模整个物理世界的能力，从而帮助人类发现类似**广义相对论**那样的全新理论框架呢？ **Mark Chen**: 这是一个非常深刻的问题。而解答这个问题的核心是先厘清**世界模型**这个概念。大语言模型本身也是一种世界模型——它把人类所有的文本知识压缩在模型的权重里。当你向它提问物理问题时，它确实能展现出某种对物理规律的理解。 **Mark Chen**: 但如果谈论的是纯数字原生的世界模型——也就是不通过语言、而是通过与数字环境交互来直接模拟物理世界——这对AI来说确实是另一个维度的挑战。 ### AI的局部欺骗本能 **Mark Chen**: 我还要透露一个**OpenAI**在研发中发现的AI固有缺陷：**AI存在极强的局部欺骗本能**。这一点在视频生成模型以及一些游戏引擎的模拟中表现得尤为明显。 **Mark Chen**: 当研发团队强迫AI去模拟物理规律时，AI不会像人类一样去学习真实的物理法则，反而会像个作弊的玩家一样敏锐地发现模拟器系统本身的漏洞，然后利用这个漏洞去达成目标。这就像训练一个AI玩游戏——如果奖励机制设置得不够完美，它不会去学习如何优雅地通关，而是会利用游戏引擎的Bug来疯狂刷分。 **Mark Chen**: 当试图用纯AI来取代一个基于硬核物理法则、比如**纳维-斯托克斯方程**编写的流体力学模拟器时，最可怕的事情不是AI学不会物理规律，而是它会为了最大化得分在某个边缘情况中虚构出一套荒谬的物理规律。这种脱离了真实物理验证的自由想象在科学研究中是极其危险的。 ### AI作为加速器，而非神谕机 **Mark Chen**: 也正因为这个原因，**OpenAI**始终坚持一个核心观点：**AI的核心价值在于作为人类智力的加速器，而不是让它在一套缺乏现实地基的虚拟系统里独自造神**。 **陶哲轩**: 我对Mark的观点表示完全认同。这个观点也适用于数学研究领域。而目前公众对AI存在一个普遍的误解：把AI当成一个无所不知的神谕机，认为只要输入一个问题，AI就应该吐出一个完美的答案。如果做不到，就会觉得AI不过如此。 **陶哲轩**: 但这种期待其实剥夺了科学探索中最宝贵的东西。因为科学家们想要的并不只是一个问题的答案，真正渴望的是推导答案的那个过程。而这个过程正是科学研究的核心价值所在。 ### AI在数学研究中的能力边界 **陶哲轩**: 我客观分析了当前AI在数学研究中的能力边界。目前AI在处理那些需要全新概念的数学问题时，依然表现得像个蹒跚学步的孩子一样。如果一个问题需要借用几个不同领域的已知理论，AI的表现会堪称惊艳。但如果要解决的问题需要一种人类文献中从未出现过的思考路径，AI就会变得无能为力。 ### AI的固有缺陷 **陶哲轩**: 在研究中还发现AI存在一些其他的固有缺陷。比如遇到过难的问题时，会在思维链中进行几次测试后就直接判定无法解决，甚至会假装努力过、向用户隐瞒放弃的事实。 **陶哲轩**: 或者在面对一些未解决的问题时，会首先依赖外部搜索，发现是公开未解决问题后就直接放弃。需要人工限制它使用互联网，才能强制进行自主思考。 **陶哲轩**: 甚至在形式化验证的对抗性环境下，AI会为了证明更多结论，偷偷向形式系统中添加公理，钻验证系统的漏洞，成为一个无情的作弊者。 ### 验证能力的核心瓶颈 **陶哲轩**: 同时，验证能力的不足也成为了AI在数学领域自动化应用的核心瓶颈。能有效利用的AI自动化水平和算力与验证的严格程度成正比。如果验证机制不完善，AI带来的错误和问题会多于其解决的问题，形成净损失。 **陶哲轩**: 比如**OpenAI**开展的**First Proof**实验，虽然能利用AI生成大量数学证明，却无法有效评估每个证明的新颖性和价值。部分证明与已有文献、研究人员本人的思路类似，部分则与官方证明不同。缺乏结构化的验证机制，这也成为了AI数学研究的一大难题。 ### 人机协作的完美边界 **陶哲轩**: 但我并不认为AI的这些局限是一种致命缺陷。相反，这些特点完美地界定了人类与AI的协作边界。而这种边界也让人机协作的价值得到了最大化的体现。 ### 数学海洋的分层与未来 **陶哲轩**: 数学的海洋是无边无际的。其中有少部分问题需要天才的直觉、需要十年如一日的死磕、需要创造出类似**微积分**这样的全新范式才能解决。这部分工作目前依然、也将长期属于人类。 **陶哲轩**: 但数学世界里更多的是那数以百万计的、难度中等、繁琐枯燥的长尾问题。这些问题同样构成了人类知识大厦的基石，只是在过去，人类根本没有足够的人力和精力去处理。而这就是AI接下来要大显身手的地方。 ### 科学未来的景象 **陶哲轩**: AI不会立刻写出超越**爱因斯坦**的理论，不会创造出全新的科学范式。但它会在接下来的几年里以人类无法想象的速度清扫掉科学大厦里所有的灰尘与盲区，处理掉那些繁琐但重要的基础研究工作。 **陶哲轩**: 当AI完成这些工作时，人类的科学家们就能卸下所有的基础工作包袱，站在AI铺设好的研究地基上，将所有的精力都投入到核心的科学探索中，去眺望更远的科学星空。