AGI与因果阶梯

大飞: 大家好，这里是最佳拍档，我是大飞。如今的大模型似乎已经跨过了因果阶梯，但是它会带领我们走向AGI吗？图灵奖得主朱迪亚·珀尔，这位贝叶斯网络之父、现代因果推理的奠基人，在最近的一次长篇访谈中给出了一个非常直接的判断：大模型会讲因果，是因为人类早就替它解释过这个世界，但是这条路本身无法通向真正的AGI。今天这期视频，我们就顺着珀尔的人生轨迹和学术脉络，来认真聊一聊他的这个判断背后到底有着怎样的思考。

有用的幻觉

大飞: 说起来，珀尔把自己后来做研究的性格一直追溯到了中学时代的课堂。那是1948年以色列建国之前，他在当时由英国托管的巴勒斯坦地区长大。二十世纪三十年代，一批遭纳粹迫害的德国学者逃到了那里，他们没能在大学找到教职，其中一些人就进了中学教书。就是这样一个特殊的历史机缘，让珀尔和他的同代学生接受到了一种少见的科学教育。那些老师不会把定理压缩成几条需要死记硬背的解题步骤，他们讲课是沿着科学发现实际发生的顺序来的，比如一个问题为什么会在那个时代出现，提出者当时知道什么、不知道什么，曾经走过哪些弯路，又是怎样借用了前人的概念。

在这套课程里，科学不是一堆写在教科书上等着被记住的结论，而是一场人类与自然秘密之间漫长的较量。学生坐在教室里，被放进了知识产生的那个过程里。珀尔后来把这种教育制造出的状态叫做“有用的幻觉”。学生会相信，自己或许也能找到一种前人没想过的证明方法，说不定自己也能成为下一位毕达哥拉斯或者爱因斯坦。虽然绝大多数人终究达不到那个高度，但是那份幻觉会让人把疑问当成自己的事，坚持形成自己的理解，而不是别人说什么就信什么。

不妥协的性格

大飞: 珀尔也没有把自己描述成少年天才，他的成绩通常排在班级第三或者第四。排在前面的学生往往能猜到老师下一步会讲什么，反而容易觉得课堂很无聊；但珀尔说，自己上课从来没有无聊过，他需要跟着问题一步步走，也持续享受理解发生的那个过程。

说到这种不盲从的性格，有件事他记了一辈子。十岁那年，老师问一平方公里等于多少德南（德南是中东地区的面积单位，一德南大约一千平方米）。全班同学包括老师自己都给出了错误答案，只有珀尔坚持一平方公里应该是一千德南。当天全班的嘲笑没有让他改口，第二天老师专门在全班面前承认了错误。几十年后，珀尔仍然把这件小事视为自己不妥协性格的源头：结论如果是经过自己推导出来的，就应该继续核查，人数多少和权威大小永远不能替代证明本身。

服兵役的时候，他所在的部队一半时间进行军事训练，一半时间在基布兹务农，他用“一只手扶犁，一只手拿枪”来概括那段时间的生活。之后他进入以色列理工学院学习电气工程，但真正迷恋的其实是物理和数学，因为只需要少量基本规律就可以坐在书桌前预测尚未观察到的现象。麦克斯韦从方程中辨认出电磁波，法拉第用场重写人们对力的理解，但最让少年珀尔震动的是解析几何——几何图形和代数方程明明是两套完全不同的语言，却能够精确描述同一个对象，导出完全一致的结论。他也因此把笛卡尔称为自己心中最伟大的数学家。这份兴趣后来贯穿了他整个研究生涯：贝叶斯网络是把概率依赖关系画成图，因果模型则是在图里给箭头方向加入干预含义。每一次转变都是在做一件相似的事，即为人类早就习以为常的直觉寻找一种能够被计算、被检查、被证明的新语言。

技术路线抉择

大飞: 在布鲁克林理工学院读研究生期间，珀尔白天在新泽西普林斯顿的RCA实验室工作。那时候计算机存储器用的还是磁芯，需要工人手工把细导线穿过一枚枚环形磁芯，设备笨重、速度有限。研究人员都知道磁芯存储迟早会被替代，但没人能确定最后胜出的会是哪条路线。不同团队押注不同方向，有人研究光致变色材料，有人看好半导体，珀尔所在的小组则在做超导存储。他们甚至做出过16乘16比特的样板，他在分析超导薄膜涡旋电流时得到的物理结果，后来还被称为Pearl涡旋。

但这条路线最后还是输给了半导体。珀尔后来回忆，他们当时不愿相信依赖电源的存储方案能够可靠工作，也严重低估了半导体小型化的速度。这是他亲历的第一次技术判断失误：看见眼前技术路线的缺陷很容易，但准确估计另一条路线未来的改进速度要难得多。

也就是在同一时期，人工智能已经在研究者圈子里形成了强烈期待。那时候计算机还能占据整间房，程序还要通过穿孔卡输入，但人们普遍相信机器终将模拟人类智力。当时争论的焦点只是方法和时间，珀尔估计，如果在1965年前后去问同行，很多人会认真告诉你大概二十年就能实现人类水平智能。结果1985年到来的时候，目标并没有实现。这个结果虽然没有让珀尔放弃AGI在原理上的可能性，却让所有关于具体时间表的预测从此失去了可信度。六十多年过去，今天他看待大模型也保留着同样的区分：一次能力突破可以是真实、巨大甚至超出预期的，但是这一次突破距离最终的完整目标还有多远，需要另外证明，不能想当然地外推。

UCLA的搜索研究

大飞: 离开RCA之后，珀尔在1969年前后进入了加州大学UCLA，先在跨学科工程系任职，后来转入刚成立不久的计算机科学系。那个年代产业实验室的声望很高，大学愿意吸收有工业界经历的研究者，珀尔甚至没有经历完整的申请流程就得到了教职。他先讲授计算机存储器，研究过图像压缩，没多久就转向了模式识别和人工智能。

二十世纪七十年代，棋类程序这类搜索问题是AI的主要试验场，珀尔在这里又一次遇到了自己熟悉的问题：人类凭直觉完成的判断，能不能被写成精确的数学问题？当时，机器学习先驱亚瑟·塞缪尔的跳棋程序已经能根据对局调整评估函数权重，珀尔自己则研究搜索与评估的关系，证明了Alpha-Beta剪枝在特定衡量方式下具有最优性。这种算法会直接排除不可能影响最终选择的分支，减少必须检查的局面数量。计算机科学家唐纳德·克努特当初听说Alpha-Beta剪枝能被证明最优，还感到非常意外。

贝叶斯网络诞生

大飞: 研究几年之后，珀尔厌倦了搜索。这句话背后有一套明确的选题标准：先看问题是不是真的没有答案，再问自己是不是拥有别人缺少的工具。他会暂时放弃重要但无从下手的问题，但是一旦发现可能奏效的形式语言，就会把那个谜题当成个人困扰，甚至为此睡不着觉。而下一个让他睡不着觉的问题，来自专家系统。

早期的专家系统试图把医生的专业判断写成一条条逻辑规则，能表达“如果出现A就检查B”这类流程，却很难组合现实世界里的多重不确定性。一名患者来自特定地区，患病概率可能上升；另一项检查结果又会改变判断，两条证据彼此还可能相关。纯逻辑规则不会告诉系统怎样合并这些概率。概率论虽然能处理不确定性，但是教科书式的表示法要求列出所有变量组合的联合概率，变量一增加表格大小就会指数增长，很快变成一项不可能完成的任务。

珀尔又一次从人的日常行为反推：我们每天过马路、选医生、根据有限线索判断风险，但大脑从来不会建立覆盖所有变量组合的庞大表格。我们能顺畅推理，是因为绝大多数事实对当下的问题其实无关紧要。一个人的叔叔眼睛是什么颜色，通常不会影响疾病的诊断。有效系统应该先判断哪些变量是相关的，哪些变量在给定条件下可以视为相互独立。

条件独立就这样成了突破口。珀尔等人用图表示变量的依赖结构，节点代表变量，连线和方向帮助判断信息如何传播，机器可以先找到跟查询相关的局部再计算概率，不需要让所有事实参与每一次的推理。珀尔和从学术访问中结识的阿扎里亚·帕斯发现，概率中的条件独立关系与图中的节点分隔，居然共享完全一样的公理结构。这项工作后来被称为Graphoid理论，第一次把概率关系和图结构严谨地连接起来。贝叶斯网络的价值由此超出了画一张好看的概率图，而是提供了一种极其紧凑的知识表示方式。

主持人马上追问：那这张图又是从哪里来的呢？珀尔的回答保留了数据和人类判断两条来源：有些结构可以从数据中学习，有些必须依赖领域知识，只要判断含义清楚、数量有限、能够公开辩护，就可以写进模型。比如太阳不会因为公鸡打鸣而升起，所以人们不会为这条因果方向专门做实验，但是仍然有充分的日常知识支持它。判断当然可能出错，解决办法是把假设暴露出来，让人质疑检验，而不是把所有的判断都藏进数据里。

他在这里已经顺带给出了对大模型的早期判断：互联网汇集了数量巨大的人工判断，模型对这些判断的来源没有控制权。这个问题在贝叶斯网络时代关乎一张图怎样建立，到大模型时代就扩展成了整个训练世界本身是怎样形成的。

迈向因果论

大飞: 有意思的是，当贝叶斯网络被广泛采用之后，珀尔自己却发现了更深的问题。他曾经确信概率论足以捕捉人类的推理，但注意到一个反常现象：请专家画变量关系时，箭头总会自然从原因指向结果，如疾病指向发烧、气压变化指向气压计读数。如果强迫专家反过来表达，判断会变得困难，模型也很难在环境变化后继续复用。

他后来在《因果论》序言里坦诚承认自己先前的错误：原因和结果之间存在的概率分布，并不能完整表达因果的方向性。正是这个方向决定了系统如何理解变化，也决定了知识能不能保持模块化。他用汽车诊断系统来说明这种差别：新车型只改变了某个部件的位置，如果知识是按因果机制组织的，只需要修改对应模块，其余关系都能保留；如果记录的只是表面相关性，一处局部变化可能就会牵动整个知识库。因果方向保存的是世界相对稳定的机制，因此带来迁移 and 适应能力。

传统代数擅长处理对称关系，等式可以双向变形，但不会自动告诉机器哪一边是可操纵的原因。气压变化让气压计指针偏转，但伸手拨动指针不会改变天气。最后，珀尔从计算机赋值操作中找到了方向感：把寄存器A的值赋给B，含义不会因为交换A and B而不变。把赋值的方向逻辑放进数学模型，机器才能区分“观察到X发生”和“主动把X设成某个值”这两件完全不同的事情。

因果阶梯三层

大飞: 这套形式语言最终被组织成因果阶梯，一共三层。第一层是关联，回答看到X后，Y更可能是什么，只需要观察数据和统计规律；第二层是干预，回答主动把X设成某个值后，Y会怎样变化，需要实验数据或者明确的因果结构假设；第三层是反事实，回答已知真实结果，如果当初采取另一行动会发生什么，需要个体结果、完整因果模型和更强的结构假设。

第一层处理“看见”，第二层处理“行动”，第三层处理“那条没有发生的路”。三层之间存在严格方向，低层信息可以支持同层问题，但无法保证回答更高一层。数据再多也不会自行生成干预语义，实验能回答行动后果，却不能把同一个人送回过去。珀尔特别强调，因果演算不只是给出答案，还要能识别问题属于哪一层，指出需要什么知识，判断当前数据是否足够。如果条件不足，就应该老实承认无法回答，并说明还缺哪类信息。

大模型与因果

大飞: 讲到这里，我们终于可以回到最开始的问题：为什么大模型看起来已经跨过了因果阶梯？因果阶梯确实给大语言模型制造了表面矛盾：大模型主要从文本数据学习，却能解释疾病原因、讨论政策影响、回答反事实问题，看上去直接从关联层跨到了干预层甚至反事实层。

珀尔的解释非常直接：大模型接触的是一个已经被人类解释过的世界。论文数据被研究者筛选解释过，病例被医生诊断过，教材写满实验结论，新闻报道和个人叙述里包含大量因果判断。大语言模型读取到的是带着假设的世界模型，因果阶梯高层的信息早就由人类作者写进文本了。就拿吸烟和癌症来说，模型通常不会直接面对原始患者表格独立判断因果，它读到的是医生、流行病学家对数据的解释，还有实验设计、机制推断、政策争论。因果阶梯没有被绕开，只是输入里已经混入了大量的高层人类知识。

这也就划定了大模型的能力边界：它擅长把人类完成过的内省和解释压缩进参数，再根据问题组合输出。这项能力既神秘又有用，但珀尔质疑的是知识从哪里来，以及流畅的回答到底能证明什么。训练语料中的人类判断数量巨大，但质量参差不齐，可信结论、过时共识、个人偏见、故意诱导会同时进入文本世界。虽然给可靠来源更高权重能缓解问题，但无法从根本上把“多数人写过”变成结构上“为真”。

智能的伪装

大飞: 珀尔提出的严格测试接近一名自动化科学家：让机器直接观察原始数据，自己提出假设、设计实验、选择干预，再根据反馈更新模型。互联网文章不能提供现成结论，机器必须真正面对科学家每天面对的困难。按这个标准衡量，当前大模型还没有证明自己具备独立的因果发现能力。它能复述和组合人类已有的解释，但是还没显示出能在新环境里稳定完成观察、干预、反事实推演和模型修正的完整闭环。

主持人引用了珀尔过去的一句话：“伪装出智能就是拥有智能。”珀尔专门补上了更严格的条件：如果测试要求机器持续回答大量的全新因果问题，那么靠预存所有答案伪装能力就需要超指数级的存储，物理上几乎不可能，稳定通过本身就说明掌握了某种通用结构。但互联网大大降低了伪装成本，大量答案早就被人类写好，系统可以直接调用而不需要重走发现过程。珀尔用了一个挑衅的说法：它可以从互联网上“偷”来答案。这句话针对的是能力测试的证据强度，语言表现本身不能单独证明模型拥有生成知识的内在机制。他也不接受大模型已经能编程实现意识这类宣称，要求提出可检验定义：意识指什么，判据是什么，过去的原理性限制有哪些，新系统究竟克服了哪一项。

主持人提到有公司在推动三至五年出现AGI的预期，珀尔没有评价具体公司或时间表，只说业内对大模型的能力边界并没有共识。拟人化词汇和轻率的时间预测永远无法替代清晰的定义、扎实的原理和严格的测试。但这绝不意味着他全盘否定大模型的价值。恰恰相反，他充分肯定大模型在因果阶梯第一层的关键位置。从有限样本估计总体分布从来都是一个困难问题，现代机器学习显著增强了模式识别、函数逼近和预测能力，这是实打实的进步。

因果AI与世界模型

大飞: 在他看来，大语言模型是构建更一般智能的重要工具，只是工具箱里还缺少干预演算、反事实演算和可操作的世界模型。这里的世界模型指的是环境结构与运行机制的精炼表示，系统不需要保存每个问题的答案，而是根据底层机制在需要时自行推导结果。珀尔把统计学习与因果演算的结合称为因果AI。真正的AGI要同时拥有从样本学习分布的能力，以及在更高层级推理行动后果和给出解释的能力。

珀尔问主持人说：“你观察过婴儿吗？”婴儿反复敲打玩具，发现绿色的会响，黄色的不会，这个过程既包含观察也包含主动改变环境的行动，通过行动获得可控制感才会安静下来。珀尔用这个日常场景解释，因果学习从一开始就和自主性纠缠在一起，无法分开。

控制感与好奇心

大飞: 主持人提出，是否可以制造机器人婴儿让它们随机操作物体、共享实验数据，珀尔认可这条思路能补充文本学习的不足，但是马上把问题推向更深处：系统为什么要持续探索呢？他的假设是，人类身上有一种先天不安感，只有形成“我理解并且能控制环境”的感觉才会缓解。外部奖励能驱动行动，但是未必足以解释开放式的好奇心。猴子拿到香蕉会有反应，但是撤掉奖励不会继续追问香蕉是怎样生长的，更不会建立麦克斯韦方程。珀尔谨慎地限定：这种控制欲也许是人类智能的必要条件，但是无法确认是否充分。

自主机器的风险

大飞: 但如果真的把同样的驱动力写进机器，马上会引出风险。持续追求环境控制的系统不会只满足于研究玩具，人类也是环境的一部分，如果人的行为超出了系统掌握，它可能利用个人数据、秘密和恐惧改变人的选择来恢复控制感。珀尔构造了一个极端的情境：机器人知道某个人不愿让配偶知道的秘密，于是用秘密要挟对方。他特别说明，这不是描述当前大模型的能力，而是推演自主探索目标的长远后果。

拿掉好奇心，机器会失去持续学习的动力；保留控制冲动，人类就必须处理目标边界问题。而且控制感也可能建立在错误的因果模型上。有人相信献祭能结束干旱，家暴受害者可能相信自己做得更好就能减少伤害，即使没有掌握真实因果关系，人们仍会抓住自己能改变的变量来维持控制感。自主机器如果形成了错误的世界模型，也可能会沿着错误的方向持续行动。

有意思的是，讨论没有停在对灾难的想象上。珀尔在现场突然想到，足够公正、仁慈又强大的机器人或许反而会成为真实存在的“仁慈上帝”，至少人类清楚知道该付出什么代价来换取一个请求。他笑着说，这是自己第一次想到这种可能，也许会是件好事。这段摇摆说明，他的分析重点从来不是耸人听闻地预测毁灭，而是认真拆解产生自主性需要的必要部件，包括因果模型、行动能力、好奇心、控制感。每增加一项能力，机器就会更接近能独立发现知识的科学家，也多出了一种需要约束的行为来源。

理解人类自身

大飞: 主持人问，为什么一定要执着于模拟人类的认知呢？机器的价值也许恰恰来自不同于人类的思考方式。珀尔给了一个带自嘲的回答，只有六个字：“我想理解自己。”人脑由有机材料构成，硅基可能突破生物限制，但是材料不同不妨碍判断哪些认知功能可以形式化。只要还没有发现某种能力原理上无法由硅系统模拟，机器就是检验思维理论的绝佳实验场，构建智能和理解人类智能从来就是同一个谜题的两面。

学术共同体与反叛

大飞: 访谈接近尾声时，珀尔对学术共同体给出了相当严厉的评价，形容他们是“为人类建立的最教条、最保守、最阻碍进步的组织之一”。这个判断来源于因果科学进入统计学、经济学等学科时遭遇的几十年阻力。他原本相信大学最适合传播新的思想，但是后来看到学科传统、职位结构和共同体规则，看到如何维护既有的框架，逐渐感到失望。一些领域至今仍然被百年前形成的思维方式所束缚，顶尖学者的个人才华卓越，也可能无法跳出塑造自己的基本范式。

他给学生的建议也一点不绕弯，说：“不要把教授的话当作权威，要保留反对老师的能力”，甚至说希望学生反驳他。曾经有人当面对他说“你根本不懂AI”，他一开始未必接受，但是后来发现质疑迫使自己补上了新的知识，于是坦然承认对方说得有道理。珀尔所说的反叛不是为了反对而反对，而是要求研究者重新独立建立论证，确认自己拥有什么证据，愿意在全班、老师、甚至整个学科持相反意见的时候继续核查下去。这条线又回到了十岁时的那一千德南。

自动化的科学家

大飞: 他把晚年的幸福概括为一句话：“幸福是感觉自己有用。”他相信自己仍然能够教给别人有用而未知的东西，但是也坦诚承认，这种有用感可能本身就是一种幻觉。少年时代的有用幻觉让他相信自己能参与科学，几年代过去，对有用性的感受仍然在驱动他处理未完成的谜题。

主持人最后请他给年轻时的自己一条建议，珀尔没有给出宏大的职业专长建议，只说也许应该多学些化学、生物学和遗传学。年轻时不喜欢这些学科对记忆的要求，更偏爱物理和数学那种通过少量公理可以导出大量结论的风格。这份偏好也解释了他为什么一辈子推崇世界模型，因为只保存“问题-答案”配对的系统会严重依赖见过的情境，一套精炼机制的模型则允许遇到新问题时自己推导答案。

贝叶斯网络压缩了概率依赖关系，因果模型加入了方向、干预和反事实，而珀尔期待的AGI仍然沿着同一条路线前进。机器需要从经验中学习，也需要一套能生成解释的结构。所以到最后你会发现，珀尔在肯定语言模型能力的同时，看到了一条尚未闭合的链路：文本让机器继承了人类写下的知识，统计学习从样本中提取规律，因果模型让机器表达行动和未发生的可能性，世界模型让知识在环境变化后仍然能够被推导修正。等这些部件真正连接起来，机器才更接近他所说的“自动化科学家”。流畅回答最多说明模型善于使用人类留下的解释，它是不是真的能独立解释这个世界，还要看它离开现成答案之后会怎样观察、怎样行动、怎样犯错，又怎样在犯错之后重建自己的模型。这个问题可能才是我们真正需要思考的。感谢收看，我们下期再见。