信任是最终护城河

大飞: 大家好，这里是最佳拍档，我是大飞。最近聊AGI取代工作的话题很多，大家好像都在找所谓的“安全职业”，似乎只要技术足够强，没有什么岗位是不能被自动化的。但最近3Blue1Brown的主理人格兰特·桑德森（Grant Sanderson）在一期播客里，给出了一个很有意思的判断：技术会淘汰，但信任不会。他从自己最熟悉的数学领域切入，聊透了AI的能力边界，也聊清了在后AI时代，人类真正不可替代的价值到底在哪。这期对话很长，信息量密度也很高，所以我把核心的观点梳理出来，和大家一起分享一下。

缺失心智理论的AI

大飞: 我们先从一个很有意思的心理学实验说起。打过肉毒杆菌的人，面部肌肉会被暂时冻结，而这些人在识别他人面部表情的时候，同理心和情绪理解能力会明显下降。背后的原因很简单，人类感知情绪靠的是潜意识里对他人面部肌肉的微模仿，你自己的肌肉跟着动一下，才能共情到对方的感受。格兰特就用这个例子解释为什么AI写的东西总带着一股挥之不去的机器味，因为AI没有肉身，没有这套生理上的模仿机制，它本质上不具备真正的心智理论（Theory of Mind），也理解不了自己写下的情感。它能背下所有人类的词汇，组合出语法完美的句子，但在触动情感的层面，本质上还是一场悬空的词汇游戏。

数学能力的尖刺性

大飞: 这个判断其实贯穿了格兰特对AI所有的思考，尤其是在他最熟悉的数学领域。很多人觉得数学是大模型进步最快的领域，但真实的情况其实是极度偏科的。靠着暴力搜索，现在的大模型19秒就能做对国际数学奥林匹克竞赛（IMO）里的几何题，但是碰到更像拼图、更需要极强游戏心态的组合数学，它依然会疯狂卡壳。这里其实有个不太光鲜的秘密，IMO的几何题本质上是有暴力破解路径的，对学生来说是这样，对AI来说更是如此。2024年的时候AI本来就有机会拿IMO金牌，当年的卷子组合题占比少，如果多两道几何题，结果可能就不一样了。但只要组合题多一点，它立刻就会陷入挣扎。 很多人会说，组合题才更考验创造力，但格兰特的判断比这个更深一层：AI的能力前沿从来不是平整的，而是尖刺状的。数学刚好就长在其中一根最尖的刺上，而这种尖刺性本身还有分形结构，就算在数学内部，不同分支的进展速度也天差地别。

黎曼猜想的三种证明

大飞: 顺着这个话题，主持人问了一个很经典的问题：如果哪天AI解出了千禧年大奖难题，比如黎曼猜想（Riemann hypothesis），是不是就等于AGI了呢？是不是所有白领工作都能被自动化了呢？格兰特的回答很有意思，他把黎曼猜想的解法分成了三种可能： 第一种是靠跨领域的连接。就像当年数学家蒙哥马利和物理学家戴森在普林斯顿高等研究院的偶遇，一个研究数论的人写下的公式，被物理学家一眼认出这是随机厄米矩阵（random Hermitian matrices）特征值研究里的结论，两个看似完全无关的领域就这么被连在了一起，进而推动了黎曼猜想的研究。如果未来的解法是这种类型，那其实非常符合现在大模型的能力边界，它精通各个领域的知识，理论上能看出这种跨领域的相似性，不需要靠人类午餐时的偶然相遇，但这种能力和做好白领工作需要的能力其实完全不是一回事。 第二种是像费马大定理那样，需要搭建全新的理论体系。当年费马大定理的证明靠的是椭圆曲线（elliptic curves）和模形式（modular forms）两座理论高山的连接，你得先把这两座山建起来，才能找到最终的答案。如果黎曼猜想的解法需要提出全新的概念、搭建全新的理论框架，那这种“创造新思想”的能力就和现在大模型展现出的智能性质完全不同了。这里可以参考abc猜想（abc conjecture）的那个知名案例，有数学家提出了一整套名为“宇宙际几何”的全新理论来证明它，整套体系陌生得像“外星数学”一样，同行花了很多年都没能完全读懂。如果AI产出的是这种级别的新理论，那就算它是对的，人类光是理解这套新框架就要耗费巨量精力，更麻烦的是，如果最后证明它是错的，那投入的时间成本就全部打了水漂。如果AI真的具备这种搭建全新理论的能力，那它的影响力一定会渗透到所有经济领域，不会只停留在数学里。 第三种可能就是纯靠算力堆砌，给出一个上千页的暴力证明，逻辑上完全正确，但没有任何美感，人类根本看不懂。格兰特觉得，就算AI真拿出这么一个证明，对人类来说也没什么意义，因为科学的最终目的是理解，而不是堆砌逻辑。无可挑剔的逻辑链条只能叫“证明”，只有被高度压缩、能带来直觉的概念才叫“解释”。

提出定义重于证明

大飞: 数学史上其实一直有这种情况，定理早就被证明了，但是人类要花很久才能真正理解它为什么成立。有数学家提出过“未解决的讲解问题”这个概念，指的是结论是对的，但我们并没有真正搞懂它背后的逻辑。而3Blue1Brown做的事，本质上就是在解决这些讲解问题，把已经被证明的知识提炼成普通人能建立直觉的内容。如果AI的证明漫长又枯燥，人类没法从中获得对数学、对宇宙的洞察，那它除了能当一个新闻标题，没有太多认知上的价值。 说到这里就延伸出了一个更深的问题：数学研究的下一个真正的基准到底是什么？现在大家都把解题、证伪猜想当成目标，比如之前AI推翻单位距离猜想就能上头条，因为目标清晰，对错分明。但真正顶级的数学研究，从来不是解题这么简单。有句话说得很好：“好的数学家证明定理，伟大的数学家提出猜想，而最伟大的数学家提出定义”。有篇叫《定理经济的坍塌》的博客里也提过类似的观点：历史上证明定理拿走了绝大多数荣誉，但它本质上寄生在“提出定义”这件更根本的工作之上。过去提出定义的人往往也会完成证明，所以荣誉分配没有问题，但如果AI把证明这件事彻底自动化了，那真正有价值的工作就会彻底向前端转移——提出有意思的问题，创造出新的数学对象，甚至建立一整个新的领域，这才是数学研究更核心的能力。但这件事最大的问题是它没法做成标准化的基准，你可以清晰地判断一个猜想有没有被证伪，但你没法量化一个猜想“好不好”，一个定义“有没有价值”。

伽罗瓦与群论

大飞: 格兰特举了伽罗瓦和群论（group theory）的例子，这个例子刚好能说明，真正的概念突破，它的价值验证周期可能长达一百年。我们都知道，五次方程没有根式解，最早证明这件事的是阿贝尔，但真正让这个研究沉淀出深远价值的是伽罗瓦的伽罗瓦理论（Galois theory）。早在阿贝尔之前，拉格朗日就埋下了种子，他意识到能不能解多项式和代数表达式的对称性密切相关，但他只是提出了方向，没有得到最终的结果。阿贝尔完成了证明，但是他英年早逝，更多精力放在了椭圆函数上。而伽罗瓦真正摸到了抽象的本质，他把研究的对象从“找公式”转向了“研究根的对称性”，提出了群的概念。但是在当时没人认可他的研究，他少年成名，论文屡次被拒，后来决斗去世，临死前托人把笔记送给当时的大数学家，也没有立刻产生影响。过了二十年，才有人注意到他的笔记；又过了二十年，群论才被整理成我们现在熟悉的样子。而群论真正展现出巨大的价值，还要等到二十世纪物理学家用它来研究粒子对称性，甚至预言了夸克的存在，在密码学、计算机科学里，群论也成了基础工具。从拉格朗日提出方向，到群论成为全学科的基础工具，横跨了两百多年，你没法在当时就给伽罗瓦的研究打个分，说它“合格”或者“有价值”，它的价值是在漫长的时间里慢慢显现的。而现在训练AI用的可验证奖励的强化学习（RLVR），本质上需要立刻就能判断对错的目标，像提出定义和创造新领域这种事，没有即时的验证标准，自然也就很难用现在的范式训练出来。

自回归的底层局限

大飞: 格兰特自己在做一个“压缩就是智能”的系列，他觉得也许可以从概念的精炼程度入手，比如用柯尔莫哥洛夫复杂度（Kolmogorov complexity）来衡量一个证明的优雅程度，但这件事做起来非常难。话题又回到了AI的能力特性上，主持人提了一个很有意思的观察：很多重大的科学突破，本质上都是跨领域的连接，比如广义相对论就是把黎曼几何和狭义相对论连在了一起，而AI的一个核心优势就是它不会受人类的学科孤岛限制，理论上可以成为一个“超级连接器”。数学里的朗兰兹纲领（Langlands program）本质上就是在找不同数学分支之间的连接，很多数学家的工作就是在画这张连接的地图。如果AI能批量填补这些空白，尤其是那些只有同时精通多个领域的专家才能发现的连接，那会是对数学研究的巨大放大。 但这件事也有底层的阻碍，格兰特觉得，现在的自回归生成方式其实天然不擅长做这件事。他打了个比方：如果把你锁在一个盒子里，你和世界交互的唯一方式就是收到一张小纸条，然后预测下一个词是什么，预测完你的记忆就被清空，再收到下一张纸条，最后别人拿着结果告诉你这是你写的文章，你一定会觉得这写得太糟了，根本不是你会写出来的东西。所以，反复做“预测下一步”这件事，和一个作者真正构思、组织、写出一篇文章，差异是非常大的。自回归的生成方式会被上下文牢牢束缚住，而真正有价值的跨领域连接，从定义上说就是小概率事件，不是最可能出现的下一个词。当然，AI也有人类没有的优势，比如它可以并行化，可以系统地刷新思考路径。人类研究一个问题很容易陷在固定的思路里走不出来，但AI可以同时开很多条路径，一个去证明，一个去证伪，一个从这个方向切入，一个从那个方向尝试，甚至可以故意给不同的代理不同的上下文来提高思路的多样性。之前有一道IMO的难题，很多顶尖学生都没做出来，包括陶哲轩，因为大家都陷在了“竞赛题该有竞赛解法”的上下文里，反而如果把这道题拿给一个路人当脑筋急转弯，可能更容易做出来。所以说，逃离上下文这件事，人类很难，但AI可以靠系统设计做到。

可验证与反复迭代

大飞: 说到这里就聊到了另一个问题：为什么AI在数学和编程上进步这么快，在其他领域就慢很多呢？很多人第一反应是因为数学和代码可验证，但主持人提出了一个更关键的因素：可反复刷。你可以在容器里跑几百上千次代码迭代，所有环境都是确定的，你可以反复试错，快速归因。数学也是一样，你可以不断地让AI解题、验证对错，不需要和真实世界交互。但现实里的事情就不一样了，你没法对电商平台的结账流程跑一千次测试，人家会封你的号，你也没法反复回放创业的过程，因为现实每天都在变。 至于大家常说的Lean等形式化工具，格兰特觉得它当下对AI数学进展的作用其实被高估了。现在很多AI的数学证明，比如单位距离猜想的反例，都是用自然语言写的，根本没用到Lean。但Lean的真正潜力在更远的地方，它可以支持无人值守的长期探索，你可以让AI不停地去扩展数学库，十年不用管，回来它肯定已经产出了很多东西，虽然大部分可能没用，但这种完全自动化的探索是只有数学领域才有的独特条件。

写作的心智建模

大飞: 聊完了硬核的数学，话题转向了更贴近大家的写作和教育。很多人觉得AI写作差，但又发现让AI解释一个概念往往比读原文还清楚。格兰特觉得这其实是两件事：AI擅长的是提炼和解释已有的内容，但真正的写作，核心是洞见本身从哪来，是决定“什么东西值得写”，是构建一个完整的叙事动机，这些事AI还做不到。而且写作这件事，本质上是和读者的心智对话，你每写一句话都要预判读者现在的认知状态，知道他哪里会困惑，哪里会感兴趣，调整自己的表达节奏。这需要很强的心智化能力，而AI恰恰缺的就是这个。就像有人做过实验，想让AI写高质量的间隔重复记忆卡片，试了很多方法效果都不好，因为写好一张卡片需要预测三个月后读者的心智状态，知道他会怎么回忆这个知识点，这种对他人心智的建模能力是现在的AI很难做到的。

好的教育重在启发

大飞: 说到心智建模，就自然聊到了教育。主持人问格兰特有没有什么高效的用AI学习的方法，格兰特的答案很有意思。他说早在AI出现之前，学习里最重要的洞见就是“谁比什么更重要”。选大学的课不要太在意主题，要看老师是不是你能共鸣的好老师；选书也是一样，作者是谁可能比题材是不是你感兴趣的更重要。因为好的讲解者会围绕主题构建动机，会知道怎么引导你理解，甚至会故意先说一点略有偏差的话，再慢慢纠正，帮你建立直觉。而维基百科式的内容，每一句话都正确，但就是很难让人学进去。现在的AI解释就很像维基百科，它很强大，能省掉你很多搜集信息的时间，但是最好的用法不是追着它问细节，而是让它给你推荐好的人类创作者、好的学习资源，让AI当导航，然后去读真正的人写的内容，学习体验会好得多。而且AI还有个很明显的问题，那就是它太会顺着你说话了，你提出一个问题，哪怕你的理解方向根本就是错的，它也会顺着你的话往下说，不会告诉你：“你真正该问的不是这个，你理解这个主题的思路本身就有问题。”真正的好老师会接住你跑偏的思路，再把你引回正确的方向，这件事AI现在还做不到。

最稳定的活人教师

大飞: 聊到这里就落到了很多人最关心的问题：AI这么强，学数学还有前途吗？做相关的职业还有未来吗？格兰特的建议很实在，他说不管有没有AI，你都应该想清楚一件事：钱从哪来，你提供的价值是什么，以及这两者之间是怎么连接的。很多学生想做数学只是因为自己一直擅长做题，习惯了“跳过下一个圈”获得奖励，但从来没想过自己到底在给社会提供什么价值。而在AI时代，数学家的角色确实会发生变化，如果定理证明都被AI自动化了，那人类数学家的工作会更多转向提出好的定义、判断研究的方向，更像一个艺术博物馆的策展人，在无限的思想空间里告诉大家哪些东西值得关注。 更重要的是，教学和科普这件事会长期是人类的主场。格兰特甚至说，教学是后AGI时代最稳定的职业之一。因为教育本质上是一种人际社交现象，不只是单向的信息传输，更是基于信任和情感互动的教练过程。就算AI能把课讲得完美无缺，家长依然愿意为活人老师付高薪。只要人类还生活在社会关系里，活人教师提供的情感联结、督导陪伴、信任背书就是无法被替代的。科普创作者也是一样，观众信任你对内容的策展，愿意跟着你的视角去了解世界，这种基于信任的社会性功能是AI拿不走的。

渐进式的技术突破

大飞: 最后他们聊到了一个很现实的问题：AI让数学研究加速十倍百倍，到底能给现实世界带来多大的改变？格兰特的判断很克制，他觉得不会有什么断崖式的超级突破，更多是渐进式的改进。比如偏微分方程方向的进展能帮航空企业优化模拟流程，省掉大量测试成本；一些纯数学的洞见能慢慢渗透进工程、材料领域，提升仿真和设计的效率。数学对现实的影响从来都是慢慢渗漏的，今天看起来完全没用的纯理论，可能几十年后会在某个领域变成核心工具，但它不会突然就带来天翻地覆的经济革命，更多是扎扎实实的、一点点的进步。 其实整期对话听下来，格兰特的核心结论很清晰：他认为AI在特定能力上会越来越强，甚至远超人类，但那些和“人”本身绑定的东西，比如信任、情感联结、对他人心智的理解，以及对方向的判断与策展，会成为人类最稳固的护城河。技术迭代的速度很快，很多技能会被淘汰，但人和人之间建立的信任，不会。关于这个话题，我也很好奇大家的想法，在你自己的行业里，你觉得最不容易被AI替代的价值是什么呢？欢迎在评论区留下你的看法。感谢收看，我们下期再见。