--- author: Best Partners TV date: '2026-09-09' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=TUSdlrFVcEg speaker: Best Partners TV tags: - uncertainty-estimation - bayesian-inference - continual-learning - adversarial-robustness - epistemic-uncertainty title: 重构机器理性：让AI学会不确定性与贝叶斯推断 summary: 对话剑桥大学教授、谷歌DeepMind前沿AI研究负责人祖宾·加赫拉马尼（Zoubin Ghahramani），深度剖析当前大语言模型过度自信与缺少自我怀疑的底层根源。探讨如何通过贝叶斯概率框架、不确定性表示、语义熵及持续学习，克服模型幻觉与长尾困境，构建真正具备理性与边界感的高可靠智能系统。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: - Zoubin Ghahramani companies_orgs: - Google DeepMind products_models: - GenCast - AlphaFold media_books: [] status: evergreen --- ### 智能的本质困境：决策、有限感知与自我怀疑的缺失 当你向当下的任何一个**人工智能**系统提问时，它几乎总是以一种斩钉截铁、不容置疑的权威口吻给出答案——哪怕这个答案在事实上错得离谱。这几乎构成了当前所有**大语言模型**（Large Language Model: 基于海量文本预测下一词的深度概率模型）的通病：它们极其擅长输出流畅的陈述，却唯独缺少一种最基础的理性特质，那就是**自我怀疑**（Self-Doubt: 智能系统对自身认知局限与输出置信度的审视能力）。 然而，早在这一轮大模型浪潮爆发的数十年前，就有一位学者深耕了三十年时间，试图让机器真正学会感知自身的局限。他就是**祖宾·加赫拉马尼**（Zoubin Ghahramani: 剑桥大学教授、机器学习与贝叶斯统计领域先驱），现任**谷歌DeepMind**（Google DeepMind: 谷歌旗下前沿人工智能研究机构）前沿AI研究负责人。加赫拉马尼教授在DeepMind的深度对话中指出，让机器学会感知和表达“不确定性”，或许正是持续推进AI向通用人工智能演进中那块最为关键的缺失拼图。 要彻底理解这一命题，必须回到一个最根本的源头问题：**智能为什么从根本上离不开不确定性？** 在加赫拉马尼教授的理论框架中，任何智能系统——无论其形态是微观世界的单细胞细菌、自然界的复杂动物、拥有高等智慧的人类，还是运行着复杂代码的自主机器人——其最核心的功能与使命都是**决策**（Decision Making: 在多种可能行动中评估收益与风险并作出选择的过程）。决策在物理与生物世界中无处不在。然而，任何主体要在真实物理世界中做出合理决策，面临的第一个根本困境就是：**感知永远是有限的**。我们永远无法完全掌握世界在当下的真实完整状态，更无法精准预知未来的所有变化，因此所有的生存与行动判断都必须在充满未知与扰动的环境中进行。 从底层逻辑来看，要构建一个真正意义上的智能系统，仅仅赋予它从海量数据中拟合规律的能力是远远不够的。一个完备的智能架构必须内建三种核心能力： 1. **表示不确定性**：系统必须拥有数学上自洽的形式化语言，能够将外部世界的模糊性与自身知识的欠缺显式地表达出来。 2. **更新不确定性**：当新的感官信号、先验知识或实验数据输入时，系统能够动态校准并修正既有的信念分布。 3. **利用不确定性进行决策**：依据校准后的概率分布权衡风险，在不完全信息下做出期望效用最大或风险最小的操作。 这种逻辑与人类在现实复杂场景下的直觉经验高度契合。以**自动驾驶系统**为例：一辆在城市路网中行驶的自动驾驶汽车，即便此前已经经过了数千万公里的海量数据训练，见识过无数常规与非常规路况，但在真实的开放世界中，总会遭遇极其罕见的**长尾分布**（Long-Tail Distribution: 出现概率极低但潜在影响巨大的边缘异常场景）。比如，这辆车可能从未在剧烈的冰雹天气中进行过大规模极限训练，更从未在暴风雪与冰雹交加的视野中，见过一匹受惊的马突然横穿马路跳到车头前方。 在这种极端罕见的陌生情境下，我们真正期望智能系统具备的，绝非盲目地在毫秒级时间内强行输出一个“前方物体是自行车（置信度99%）”的武断结论，而是一种**对自身不确定性的自我意识**（Self-Awareness of Uncertainty: 系统对自身未见分布及知识盲区的元认知感知）。系统应当能够敏锐地感知到：当前所处的天气条件与视觉模式是极其不寻常的、是自身训练分布之外的未知样本。一旦自动驾驶系统感知到了这种强烈的认知不确定性，其最理性、最安全的决策行为就是立即减速并采取防御姿态，因为系统在内部明确知晓自己“不够确信”，无法准确判定前方那个模糊晃动的轮廓究竟是一匹受惊的马还是一辆倒地的自行车。 --- ### 不确定性的数学映射：偶然随机性与认知盲区的分流 在现实世界中，不确定性的表现形态极其多样，但从数学与物理学的视角来看，其最迷人之处在于：**我们可以把现实中所有不同形式的不确定性，严谨地映射到概率论的框架之上**，进而利用概率论完备的公理体系去操作、量化并动态更新这些不确定状态。 然而，在构建智能算法时，一个至关重要且必须严格厘清的问题是：**机器是否能够有效区分不同类型的不确定性？** 这种区分在实际工程和决策系统中具有决定性意义，因为不同属性的不确定性直接指向完全不同的行动路径与系统反馈： * **偶然不确定性**（Aleatoric Uncertainty: 源于物理系统固有随机性或观测噪声的不可消除的不确定性）：这种不确定性本质上类似于掷骰子或抛硬币，属于系统内部环境自带的固有随机过程。举例来说，当自动驾驶汽车面对路边一个正在行走的行人时，由于人类微观意图的随机抖动，系统可能在客观上无法绝对精准地预测该行人在下一秒究竟会向左跨步还是向右微转。这种由环境固有随机性导致的不确定性，即使引入再多的历史先验，也无法在物理层面上被彻底压缩为零。 * **认知不确定性**（Epistemic Uncertainty: 源于系统缺乏足够知识、数据或经验而导致的主观不确定性）：这种情况反映的是智能系统自身内部“信念”的不足与欠缺。例如，系统面对一个从未接触过的罕见传感器信号模式时，系统内部缺乏足够的参数支撑。与偶然不确定性不同，认知不确定性在原理上是**可以通过获取新数据而被消除或降低的**。此时，系统最理性的应对策略不是无序猜测，而是主动采取探索行动以收集更多信息。 这直接触及了现代**信息论**（Information Theory: 研究信息传输、量化与压缩规律的数学理论）对“信息”的核心定义。在计算机科学与数学体系中，**一个比特的信息**（One Bit of Information）在本质上就是能够将系统的认知不确定性精确减半的度量。因此，**收集信息的过程，本质上就是系统不断消除和压缩自身认知不确定性的过程**。 这些围绕不确定性展开的数学思考，与人类自身的认知科学机理存在着极具启发性的同构关系。加赫拉马尼教授在大学期间主修计算机科学与认知科学，长期致力于连接人类智能与机器智能的内在机制。在**认知科学**（Cognitive Science: 研究心智与智能本质的交叉学科）领域，学者们长期以来正是借助不确定性与概率推理的理论框架，来解析人类大脑在感知和决策过程中的微观运作机制。 人类感知物理世界的过程，从来不是被动地接收视网膜上的光子信号，而是在持续不断地处理和推断不确定信息。例如，当你站在一个人面前看着他的面孔时，你的视网膜在物理上根本接收不到他后脑勺的反射光线，但你的大脑却能基于三维几何先验与人类解剖学经验，极其自然地推断出其后脑勺的大致轮廓与空间位置。 加赫拉马尼教授在此分享了一个极其生动的具象案例：假设你正在哥斯达黎加的热带雨林中徒步，周围茂密的灌木丛中突然传来一阵急促的树叶沙沙声。在这一瞬间，大脑的听觉信号存在极大的模糊性——那可能只是一阵林间微风，也可能是一只危险的美洲豹。人类的感官系统在漫长的生物进化过程中，早已演化出了一套精密机制：在接收当前感官输入的同时，会深度融合大脑底层的**先验信念**（Prior Belief: 在获取新证据之前系统对某种状态存在概率的初始评估）。 因为你清楚地知道自己正身处美洲豹栖息的哥斯达黎加雨林，美洲豹出现的先验概率显著高于零；但如果你是在伦敦市中心繁华的特拉法加广场听到相同的灌木声，你的先验知识会告诉你那里几乎绝不可能出现野生美洲豹，因此你绝不会做出规避猛兽的恐慌反应。这种将即时感官证据与底层先验知识无缝结合的机制，早已被全球顶尖的认知科学家、心理学家与神经科学家，用严谨的**概率推断**（Probabilistic Inference: 基于已知概率模型推演隐藏状态的计算范式）语言进行了深度建模。 --- ### 置信度与对抗样本：过度自信为何摧毁系统信任 尽管人类大脑在无意识层面极其擅长进行概率推理，但在显式意识层面，人类往往极其不擅长进行精确的概率数值估算。如果你随机询问一个普通人某项罕见事件发生的具体概率数值，其给出的主观数字往往与真实统计数据相差数个数量级。然而，在评估机器智能时，我们必须将两个经常被混为一谈的关键概念严格剥离：**输出的正确性**（Accuracy: 预测结果与真实客观事实的一致程度）与**系统的置信度**（Confidence / Calibration: 系统对自身预测结果正确概率的自我评估与校准能力）。 为了深刻说明两者的割裂所带来的毁灭性后果，加赫拉马尼教授回顾了计算机视觉领域十多年前震惊学术界的**对抗样本**（Adversarial Examples: 经微小扰动后导致机器学习模型产生高置信度错误分类的输入样本）经典案例。 在标准的图像分类任务中，工程师向深度卷积神经网络输入一张高分辨率图像，模型负责输出图像所属的类别标签及其概率。研究人员发现：如果提取一张标准的“校车”照片，仅仅在矩阵层面上修改几个人类肉眼完全无法察觉的微观像素值，在人类观察者看来，这张图片毫无疑问依然是一辆明黄色的校车；然而，最先进的深度神经网络在接收到该扰动图像后，却会以高达 **99% 的绝对置信度** 斩钉截铁地向用户宣布：“这是一只非洲猎豹”。 更令人震惊的是，攻击者几乎可以通过针对性计算像素梯度，将这张校车图片诱导神经网络以极高置信度识别为猴子、微波炉或任何指定的离谱类别。对抗样本现象的存在，以极其尖锐的形式向整个学术界揭示了一个致命缺陷：在设计高可靠的人工智能系统时，**我们所追求的绝对不仅是模型在标准测试集上的平均正确率，而是正确性与系统置信度的完美统一**。 一个在 99% 的情况下给出正确答案、但在犯错时同样保持 99% 绝对自信的 AI 系统，在工程与社会层面是完全不可接受且极其危险的。这种**过度自信的系统**（Overconfident System）从根本上摧毁了人类与智能系统之间建立协作信任的基础。这就像在现实工作中，一个看似无所不知但面对完全不懂的领域依然拍胸脯保证、甚至编造虚假事实的下属，其不可预测的破坏力远远大于一个能够明确说出“这部分业务我不熟悉、存在较大风险”的诚实合作者。 在通用人工智能的演进路径上，这种能力的缺失已经演变为阻碍大模型走向关键工业落地的核心瓶颈。今天的大语言模型虽然吞噬了数以万亿计的互联网文本，积累了横跨各学科的庞大知识库，但无论你调用哪家顶尖实验室的大模型，它们在输出荒谬的幻觉内容时，依然维持着自信满满、权威严谨的语调。而更荒诞的是，当人类用户仅仅给出一句毫无根据的反驳（如“你确定吗？我记得好像不是这样”）时，大模型往往又会立刻展现出毫无立场的脆弱性，瞬间改口附和：“对不起，是我记错了”。 这种既在初次回答时“极度傲慢与过度自信”，又在遭遇质疑时“毫无原则地翻脸妥协”的表象，彻底暴露了当前大模型并不具备真正的理性信念基石。智能系统必须将对其**知识边界**（Knowledge Boundary）与认知局限的感知能力内建于底层架构之中，而不是作为外挂补丁。 --- ### 从连接机到贝叶斯革命：加赫拉马尼三十年的范式探索 加赫拉马尼教授对这一问题的深刻洞察，源于其横跨近四十年的计算与认知科学研究生涯。在回顾自己的学术轨迹时，他提到自己早在十四五岁时就对人工智能产生了浓厚兴趣。 1980年代末，在宾夕法尼亚大学攻读本科一年级的加赫拉马尼为了在暑期寻找一份研究工作，找到了当时计算机系主任、著名计算语言学家**阿拉温德·乔希**（Aravind Joshi: 树-邻接文法的提出者、计算语言学大师）。乔希当时交给了这名大一新生两本刚于 1986 年出版的重磅著作——由戴维·鲁梅哈特与詹姆斯·麦克莱兰德主编的**《并行分布式处理》**（Parallel Distributed Processing / PDP: 奠定现代联结主义与神经网络计算基础的开创性著作）。恰在同一年，**反向传播算法**（Backpropagation: 训练人工神经网络的核心梯度计算算法）的里程碑论文正式发表，揭开了现代神经网络革命的序幕。乔希要求加赫拉马尼在暑假通读这套巨著，并定期向他汇报讲解。 在那个由**专家系统**（Expert Systems: 1980年代基于人工编写规则与逻辑推理的主流AI范式）统治学术界的时代，传统基于手工符号规则的系统显得极其脆弱，面对现实世界的噪声与不确定性极易崩溃。而神经网络通过模拟生物大脑突触连接的拓扑结构，展现出了前所未有的灵活性与容错性。最核心的范式突破在于：**神经网络具备直接从海量数据中自动学习特征表征的能力**，这是此前所有硬编码符号方法完全无法企及的。 在 1989 年，年轻的加赫拉马尼完成了一篇开创性的本科毕业论文，系统研究如何利用神经网络模型解析人类自然语言语法。如果这篇论文在当时正式刊发，它将成为历史上最早探索小型自然语言模型的先驱文献之一。当时他们实验室配备了一台代表算力巅峰的**连接机**（Connection Machine: 20世纪80年代极具代表性的大规模并行超级计算机系统），由一个巨大的黑色立方体构成，内部集成了整整 65,536 个微处理器，机箱面板上闪烁着密密麻麻的小红灯。加赫拉马尼正是坐在那台机器前，使用原始的并行语言编写神经网络代码来探索语言处理。 然而，在神经网络尚处于绝对非主流、遭受符号逻辑旧学派严厉审视的背景下，加赫拉马尼却在 1990 年代初做出了一个令许多同行意外的学术抉择：他主动离开了纯粹的神经网络路线，转向了**概率图模型与贝叶斯机器学习**的理论深水区。 加赫拉马尼对此解释道，在1990年代初，学术界普遍认为已经完全理解了经典神经网络的数学本质——无非就是一种强大的**通用函数逼近器**（Universal Function Approximator: 能够以任意精度逼近任意连续非线性映射的数学模型），负责将高维输入向量映射为目标输出。但在深入探索过程中，学者们逐渐意识到，神经网络的内部表征与概率论、统计物理以及随机过程之间存在着极其深邃而优美的数学联系。 加赫拉马尼随后与**杰弗里·辛顿**（Geoffrey Hinton: 深度学习教父、图灵奖与诺贝尔物理学奖得主）展开了深度合作。当时他们就已经在探索深层架构的学习机制，但他们选择的技术路径并非单纯追求端到端反向传播的无约束黑盒网络，而是尝试构建严谨的**深层概率生成模型**。回顾那段历史，加赫拉马尼坦言当时的探索在某种程度上“把问题过早地复杂化了”，因为受限于当年的计算硬件与数据集规模，学界尚未目睹参数规模与海量数据结合所爆发出的纯工程力量。 尽管如此，加赫拉马尼此后数十年来从未彻底否定过神经网络的工程实用价值，他深知梯度下降与分布式表示是极其有效的计算工具。转折点出现在 **2015 年**：加赫拉马尼在世界顶级学术期刊《自然》（Nature）上发表了一篇具有里程碑意义的综述论文《概率机器学习与人工智能》（Probabilistic machine learning and artificial intelligence）。这篇论文与辛顿、勒昆、本吉奥关于深度学习的经典论文，以及哈萨比斯关于深度强化学习的论文刊登在同一期《自然》专刊上。在那篇长文中，加赫拉马尼系统性地论证了一个核心论点：**构建真正完备的智能系统，在本质上高度依赖于对不确定性进行极其严谨、自洽的概率表示与更新**。 当主持人问及当时的AI学界是否真正听取了这一深刻警示时，加赫拉马尼坦率地表示：**并没有完全听取**。他解释道，这取决于从哪一个认知层次来看待这个问题： * 如果从表面来看，当今所有的大语言模型在本质上确实都属于概率模型，它们的核心数学机制就是在给定了前序所有上下文词元（Tokens）的前提下，预测下一个词元在词表中的条件概率分布 $P(w_t | w_1, \dots, w_{t-1})$。因此，概率概念在整个现代机器学习体系中确实占据着无可替代的数学基石地位。 * 但从底层实质来看，**当前的大模型技术路线根本没有实现加赫拉马尼所倡导的“对不确定性进行严谨而显式的概率表示”**。产业界与主流学术界在很大程度上只是寄希望于：只要灌入足够庞大数量级的语料，模型在数十亿、数万亿个连续权重参数的隐式激活空间中，就能“自然而然地涌现并大致拟合出概率”。这种将核心推理寄托于隐式记忆的范式，并未在架构层面显式地引入真正的概率推断机制。 --- ### 贝叶斯推断的数学美学：从先验、似然到动态后验 要真正理解加赫拉马尼所坚持的理论路线，必须深入剖析**贝叶斯法则**（Bayes' Rule: 描述在获取新证据后如何更新假设概率的数学定理）的核心运作机制。在统计学与认知建模领域，贝叶斯法则不仅是一个简洁的代数公式，更是一种构建理性认知系统的严密哲学方法论。 贝叶斯推断的计算流程可以高度概括为一个动态循环： $$\text{Posterior}(\theta | D) = \frac{\text{Prior}(\theta) \times \text{Likelihood}(D | \theta)}{\text{Evidence}(D)}$$ 加赫拉马尼借用了一个经典的侦探推理案例来直观拆解这一优雅的数学过程： 1. **先验信念构建**（Prior Beliefs）：在侦探抵达犯罪现场、尚未勘验任何具体物证之前，根据案发环境与历史背景，心中对几名嫌疑人（例如管家、厨师、司机）各自作案的可能性存在一个初始的信念分布。在严谨的数学证明中，概率分布已被公认为表达与操作主观信念唯一公理化自洽的形式化工具。假设侦探初始认为管家的嫌疑最大，这一主观判断即被量化为先验概率分布 $P(\text{管家})$。 2. **证据观测与似然计算**（Likelihood Assessment）：随后，侦探在食品储藏室的隐蔽角落搜寻到了关键凶器。此时，系统需要评估“似然度”——即假设各个嫌疑人真的是凶手的前提下，凶器被遗留在食品储藏室这一具体物理证据出现的条件概率 $P(\text{凶器在储藏室} | \text{嫌疑人})$。 3. **后验信念更新与归一化**（Posterior Normalization）：侦探将每个嫌疑人的初始先验概率乘以该证据在该嫌疑人设定下的似然度，由于所有互斥假设的概率总和在数学上必须严格归一化为 1，经过分母证据项的归一化调整后，侦探便得到了全新的认知状态——**后验概率分布**（Posterior Distribution）。 通过这一物证的介入，侦探的认知系统实质上获取到了确定性的**信息量**（严格以比特为度量单位），其内心关于“谁是真凶”的认知不确定性得到了数学意义上的精确消减。如果随后侦探又在现场提取到了全新的指纹或目击证词，系统只需**将当前的后验信念作为新一轮推理的先验信念**，重复代入贝叶斯法则进行链式更新。 加赫拉马尼指出，贝叶斯法则在人工智能系统中拥有统一而强大的双重表征威力： * **在瞬时感知层面**：它能够精准建模机器对动态外部环境的实时感知。当你睁开双眼看到灌木晃动，系统依据视觉特征似然度更新后验；当随后伴随着一声猫叫而非兽吼时，后验概率瞬间将“美洲豹”的假设排除，系统立刻确信那只是一只家猫。 * **在长期学习层面**：它完美统一了机器学习的参数更新本质。系统构建的模型包含一组参数 $\theta$，在未接触训练集前，模型对参数分布持有宽泛的先验；随着数据流 $D$ 源源不断地输入，系统通过贝叶斯法则逐步收敛参数的后验分布 $P(\theta | D)$，实现知识的无损沉淀。 加赫拉马尼强调，我们之所以致力于构建贝叶斯理性的 AI 系统，是因为我们期望机器能够像《星际迷航》中的生化人 **Data** 一样，具备绝对的逻辑自洽与理性沉淀——它的每一次观点转变与信念更新，都必须由严谨的证据链与概率计算所驱动，而绝不会像非理性的人类那样，因为情绪波动或无端暗示而产生无证据的反复横跳。在加赫拉马尼的愿景中，理想的 AI 系统应当在概率计算与理性推理能力上远远超越人类个体，就像现代电子计算器在执行多位数大数乘法时能够提供绝对可靠的确定性一样。 --- ### “装出来的概率”与语义熵：大语言模型的拟态缺陷 将理论视线拉回当下的现实应用，距离加赫拉马尼在《自然》发表里程碑论文已过去十年，广泛渗透到公众日常生活中的大语言模型，在表示不确定性方面的实际表现究竟如何？ 加赫拉马尼给出了极其尖锐而务实的评价：**“它们确实在变好，但依然做得很差。”** 当你与主流大语言模型对话并要求它评估自身回答的确信度时，模型确实能够输出形如“我对该结论有 90% 的把握”这样的自然语言文本。但加赫拉马尼指出，这背后的底层机制存在着根本性的**认知拟态**缺陷：**模型真正在做的，仅仅是在海量语料库中模仿人类专家在陈述类似观点时所习惯使用的措辞与语法结构，其内部根本不存在任何显式计算和跟踪置信度的理性模块。** 它没有在执行贝叶斯法则，甚至没有在其表征空间中显式地对自身事实性命题进行概率校准。大模型仅仅是因为吞噬了数以万亿计的互联网文本，在海量语料中模仿了人类的大量推理轨迹与语言外壳——用加赫拉马尼的话来说，**“这在本质上是在假装（Faking it）”**。 证明大模型在“假装理性”的最直接证据，就是其极其脆弱的抗诱导性。当大模型斩钉截铁地给出一个看似严密的逻辑推论后，只要人类用户输入一句简单的否定：“我觉得你说得不对，答案应该是另一个”，模型往往会在毫无新增客观事实证据的情况下，立刻在下一个 Token 屈服道：“非常抱歉，是我刚才疏忽了，您说得对”。这种在毫无证据增量下的信念崩溃，彻底证伪了其内部存在自洽信念系统的假象。 造成这一困境的深层根源在于**当前的自监督训练范式从未将不确定性校准作为一等公民**。主流的预训练目标是将互联网文本的下一个词预测损失降到最低。然而，互联网原始数据本身就是一个由数十亿认知水平参差不齐、持有互相矛盾信念的人类所写下的文本混合体。将这一训练目标推向极致，最终得到的只能是一锅包含了各种对立观点、充满统计噪声的“信息浓汤”。 这一缺陷也直接诱发了学术界与产业界饱受困扰的**模型幻觉**（Hallucination: 大语言模型生成看似合理但脱离客观事实或逻辑自洽的内容）难题。加赫拉马尼认为，幻觉本身是大模型自由联想能力的一种病理学症状。在某些特定场景下，人类其实主动需要这种能力——比如要求 AI 创作一篇“爱因斯坦乘坐阿波罗登月火箭前往月球拉小提琴”的科幻故事，这种脱离现实的联想是极具价值的创意发散；但在涉及科学、医疗、法律和工程等严谨事实性问题时，模型必须能够推断出用户的真实意图，将其输出严格锚定在客观事实之上。 为了在现行大模型架构内尽可能量化这种不确定性，加赫拉马尼指导的学生提出了一种名为**语义熵**（Semantic Entropy: 通过在语义流形上聚类采样文本来度量大模型事实不确定性的计算方法）的创新评估机制。 在大语言模型输出词元的过程中，其在 Softmax 输出层对整个词表维护着一个离散概率分布。然而，如果仅仅度量单个词元的**香农熵**（Shannon Entropy），会受到大量同义词、句式变换等表面语言噪声的严重干扰。语义熵的核心思想在于：让大模型在特定温度参数下针对同一问题多次独立采样生成多个完整答案，随后利用双向语义蕴涵模型对这些答案进行聚类，剔除语法表述的表层差异，在纯粹的**语义空间**（Semantic Space）中度量不同事实性结论的离散概率分布熵值： * **低语义熵分布**：所有采样答案在语义聚类后高度收敛于单一核心事实，分布曲线呈现极其陡峭尖锐的主峰，表明模型内部表征对该事实具备极高的确信度。 * **高语义熵分布**：采样答案在语义空间中高度发散，同时分散在多个互斥的事实假说上，分布平缓，表明模型在此问题上处于极度不确定的认知状态。 以地理常识“埃菲尔铁塔位于哪里”为例：模型生成的绝大多数采样答案（如“巴黎”、“法国首都”、“塞纳河畔”）在语义聚类后会全部汇聚到“法国巴黎”这一核心语义主峰上；即便在拉斯维加斯或深圳世界之窗存在微缩复制品导致产生极低概率的副峰，巴黎依然占据绝大多数概率质量，整体语义熵极低。 然而，加赫拉马尼冷静地指出，即便是语义熵，在本质上依然是在**事后观察大模型拟合海量数据所表现出的表面统计特征**，并没有真正从底层架构上解决理性推理的根本机制。他给出了一个极其精妙的机械类比：**这就好比我们试图通过向一个神经网络展示成千上万道加法和乘法的运算实例截图，试图用这种方式制造出一台计算机一样**。如果你从未在训练集中给这个网络展示过某两个极其巨大且特殊的超长数字相乘，这个基于记忆拟合的网络在遇到这一输入时，大概率就会输出完全荒谬的错误结果。 我们真正需要的，绝不是一个在外部表层“假装会算术”的统计拟态系统，而是一台**在内部逻辑底层真正掌握了算术公理与推理法则的真实计算引擎**——我们需要的是能够真正对物理世界进行严密因果推理、并在自身不确定时诚实表达的机器智能。 --- ### 计算复杂性破局与前沿实证：GenCast 与 AlphaFold 的贝叶斯实践 既然严谨的贝叶斯理性框架在数学逻辑上如此完美，为什么在过去的深度学习浪潮中没有被直接作为主干架构广泛采用？ 加赫拉马尼坦言，阻碍这一理想路线落地的核心死穴在于**计算复杂性**（Computational Complexity）。早在十五至二十年前，理论计算机科学与统计物理学界就已经在数学上推导出了构建理想理性智能系统所需的全部理论构件。然而，在连续高维的高阶现实世界中，精确求解和维护所有可能假设状态的后验概率积分，在计算理论上属于极其恐怖的 **NP-Hard 级难题**（NP-Hard: 非确定性多项式时间硬度，代表计算量随维度爆炸的极难计算问题）。 如果要在高维连续空间中强行进行无偏的精确马尔可夫链蒙特卡洛积分（MCMC），即便动用全人类最庞大的超级计算机集群，也需要耗费上百万年才能完成一次微小的后验收敛。正是由于精确概率推断在算力上的不可行性，历史上的学术界才退而求其次，选择全面拥抱利用端到端反向传播在海量数据中拟合局部极小值的连接主义路线。 但加赫拉马尼敏锐地指出，**站在今天的算力维度与算法积累之上，我们已经到了必须、且完全有能力重新审视贝叶斯路线的历史拐点**： 1. **算力基建的跨越式暴涨**：加赫拉马尼当年在宾夕法尼亚大学所使用的那台拥有六万五千个处理器的巨型连接机，其浮点运算峰值与内存带宽，如今已经远远落后于每个人日常装在口袋里的一部普通 Google Pixel 智能手机。 2. **高效近似推断算法的成熟**：在过去的二十年中，统计机器学习界积累了极其丰富的高维近似工具，如**变分推断**（Variational Inference: 将复杂概率积分转化为优化求解的近似算法）、随机梯度朗之万动力学以及高效的采样方法，使得我们在不需要求解精确解析解的前提下，能够以极高的精度逼近真实后验分布。 事实上，抛开基于纯文本的大语言模型，在谷歌 DeepMind 探索的前沿物理与生物科学 AI 体系中，已经诞生了深度融合贝叶斯概率机制的标志性典范： #### 1. 中长期气象预报大模型：GenCast 气象系统是典型的非线性高维混沌动力学系统，经典的数值天气预报（NWP）需要在国家级超级计算机上通宵达旦地求解极其耗时的偏微分方程组。DeepMind 推出的全新气象大模型 **GenCast**，能够在短短 **8 分钟** 内完成对全球未来 15 天极端天气演变的高精度预测，效率比传统超算物理模拟提升了数个数量级。 GenCast 能够取得突破的核心秘诀，在于其架构深度集成了**扩散模型**（Diffusion Model: 基于随机微分方程逆向过程建模高维数据概率分布的生成范式）与**集合预报机制**（Ensemble Forecasting: 生成多条可能演化轨迹以表征预测不确定性的集成方法）： * 面对诸如追踪极端热带风暴或超级飓风“梅丽莎”未来登陆路径这类极其关键的防灾决策场景，政府需要依据预测决定是否提前疏散整座拥有数百万人口的沿海城市。 * GenCast 绝不单向输出一条孤立的绝对确定性路径，而是输出一组由数十条可能路径构成的概率分布云（Ensemble）。随着卫星遥感与地面雷达每小时回传最新的观测数据，系统依据贝叶斯更新法则，动态坍缩并校准路径概率分布。 * 主持人敏锐地指出了一个反直觉的科学事实：**在物理模拟系统中，主动向模型中引入对不确定性的建模，不仅没有使系统变得模棱两可，反而极大地提升了最终确定性预测的整体精度**。加赫拉马尼证实了这一点，这正是现代 AI 的核心洞见：所谓的引入不确定性，绝非随意向系统中加入高斯白噪声，而是**诚实地在数学层面上显式量化传感器精度的物理局限以及模型动力学假设的先验误差**，进而得到在统计学上完美**校准**（Calibration）的高可靠预测。 #### 2. 蛋白质三维结构预测：AlphaFold 在颠覆生物学研究范式的 **AlphaFold** 系统中，同样深度贯彻了对不确定性的严谨处理。当 AlphaFold 从一维氨基酸序列推演生成复杂的三维蛋白质立体折叠拓扑时，它会通过独特的颜色编码系统（如 pLDDT 置信度分数），在原子尺度上明确标注出对每一个局部多肽链折叠构象的确信程度。 蛋白质的生物物理本质决定了其某些固有无序区域在常温溶液中本身就会发生高频的构象摆动，这种内在物理不确定性必须通过空间坐标的“概率预测云”如实展现给结构生物学家，而绝不能虚假地输出一个死板僵化的确定性静态结构。 针对系统在表达不确定性时可能走向另一个极端的担忧——即模型是否会因过度追求诚实而沦为一个永远在模棱两可、永远在对冲免责的平庸系统，加赫拉马尼给出了清晰的认知分层解答： * **对于具有大数统计特性的可重复事件**：系统必须做到严格的**概率校准**（Probability Calibration）。如果气象系统预测未来降雨概率为 70%，那么在历史上所有发出该预测的 100 天样本中，必须精准对应 70 天降雨、30 天晴朗，这才是校准的真实概率。 * **对于不可重复的历史单次事件**：例如预测“人类宇航员首次成功踏上火星地表的具体年份”，该事件在物理历史上只可能发生一次。贝叶斯统计哲学表明，系统使用主观概率分布来量化对此类单次孤立事件的认知置信程度是完全自洽且合法的，它绝不等同于无知时抛硬币的五五开猜测，而是基于当前全部已知物理、航天技术成熟度与地缘经济数据所作出的最严密信念积分。 在面向人机协同的高风险真实场景中——例如在不远的未来，**医疗辅助诊断 AI** 协助主治医生共同分析重症患者的复杂临床症状、医学影像与基因测序切片时，AI 对自身判断不确定性的可视化呈现将直接关乎生死。如果 AI 系统在推荐某种具有严重副作用的高风险化疗方案时，能够清晰地向医疗团队呈现：“我对该靶点匹配度的置信度仅为 62%，存在 38% 的概率属于罕见免疫亚型”，医生就绝不会盲目执行单一切割方案，而是会进一步安排针对性免疫活检。唯有建立在显式不确定性感知之上的机器智能，才能真正从“不可控的黑盒代码”蜕变为人类专业团队在关键决策中可以托付后背的增值伙伴。 --- ### 通往AGI的新范式：持续学习、能效与机器理性的终局 在展望人工智能向**通用人工智能**（Artificial General Intelligence / AGI: 具备在全人类智力任务中进行自主推理、迁移学习与泛化能力的机器系统）演进的技术路线上，全球学术界与工业界事实上分裂为截然对立的两大阵营： * **唯规模论派**（Scale-is-All-You-Need）：坚信只要无限制地扩大现有 Transformer 的参数规模，堆叠指数级增长的 GPU/TPU 算力集群，吞噬人类社会所能产生的全部文本、图像与合成数据，高阶智能与世界模型就会在规模扩张中自然涌现。 * **架构革新派**（Architectural Innovation）：加赫拉马尼坚定地站在这一阵营。他指出，单纯依赖规模扩张的系统在面对常规通用任务时确实表现惊艳，但当被推向极端罕见的长尾分布与物理世界强因果决策时，其脆弱性与过度自信将被无限放大。要实现真正具有鲁棒性与自我意识的 AGI，必须在底层架构上实现根本性的范式突破。 加赫拉马尼系统性地提出了通往下一代稳健智能体必须攻克的四大核心科研航向： #### 1. 彻底攻克持续学习与灾难性遗忘 当今主流大模型的训练范式在本质上是**完全静态且离线割裂的**：研究机构耗费数月时间、耗资数千万美元在超算集群上训练出一个基础模型底座，随后将其静态部署至云端推理服务器；数月乃至一年后，再重新拉起全量数据集从头预训练一个全新版本。 然而，生物界的哺乳动物与人类心智的运作机制是**全天候持续在线学习**（Continual Learning / Lifelong Learning）的。生物体大脑无时无刻不在接收连续的感官数据流，并在与物理环境的交互中动态微调神经元突触连接，且绝不会在学习了新技能后立刻将十年前掌握的基础常识彻底忘光。相反，当前的深度神经网络在尝试进行流式在线连续训练时，极易陷入灾难性的**灾难性遗忘**（Catastrophic Forgetting: 神经网络在学习新任务后迅速且剧烈地丧失先前已掌握任务性能的现象）。 加赫拉马尼指出，**解决持续学习难题的终极钥匙，正是贝叶斯连续更新机制**。在严格的贝叶斯范式下，系统前一秒沉淀的参数后验分布，自然充当下一秒接收新数据流时的先验分布： $$P(\theta | D_{1:t}) \propto P(D_t | \theta) P(\theta | D_{1:t-1})$$ 在数学原理上，这种基于概率加权的连续更新机制天然具备历史知识的保护约束，从根本上杜绝了灾难性遗忘的发生。当今学术界在巨型神经网络中所探索的各种弹性权重整合（EWC）与连续学习算法，本质上都是贝叶斯连续更新在高维参数空间中的工程近似。 #### 2. 能效比的数量级跨越 成年人类大脑的整体运行功耗大约只有 **20 瓦**，仅仅相当于一颗家用普通节能灯泡的微弱电能。尽管由于单个生物大脑所承载的仅是人类个体一生的生活经验，而现代前沿大模型在预训练阶段吞噬的是全人类数千年文明沉淀下的全部知识浓汤，两者在知识广度上无法直接粗暴类比；但人类大脑在执行复杂逻辑推理、感知泛化与实时决策时所展现出的超高**能量效率**（Energy Efficiency），与动辄消耗数兆瓦电能的现代数据中心集群相比，在物理能效上存在着数个数量级的云泥之别。如何通过算法与概率图模型的重构，使机器能够在极低能耗下实现高效状态收敛，是未来 AI 走向普及的必由之路。 #### 3. 软硬件协同进化的新型非冯·诺依曼架构 当今主导整个 AI 工业界的两大核心支柱是 **Transformer 架构** 与 **扩散模型**，其底层计算模式高度依赖于高度密集的矩阵乘法运算，与传统的 GPU 单指令多线程硬件架构深度绑定。加赫拉马尼预判，未来的人工智能系统必将迎来硬件架构与底层算法的全新协同演化。基于生物突触特性的**稀疏神经网络**（Sparse Neural Networks）、存算一体神经拟态芯片以及具备内建概率随机采样特性的新型硬件计算单元，将为非密集型的高维概率图模型推断提供前所未有的物理级加速支撑。 #### 4. 突破样本极限的数据利用效率 当前深度学习模型的训练极其贪婪且低效，往往需要数以万亿计的文本词元与数百万张标注图像才能收敛出一个粗浅的概念边界；而一个人类三岁幼儿仅需目击一到两次真实的猫狗互动，便能毫无障碍地在各种复杂背景、光照变形乃至卡通绘画中精准泛化识别。引入先验知识约束与贝叶斯推断框架，能够赋予模型强大的**少样本乃至单样本学习能力**（Few-Shot Learning），从根本上打破对海量穷举数据的病态依赖。 针对加赫拉马尼勾勒出的这一近乎无懈可击的理论蓝图，主持人半开玩笑地感叹：这听起来简直像是加赫拉马尼在多年前就发现了一个终极的“数学魔法技巧”——它不仅在哲学底层赋予了机器谦逊与不确定性自我意识，在算法层面天然免疫灾难性遗忘并支持终身在线学习，在工程上能够大幅削减对海量训练数据的依赖，而且其核心数学逻辑竟然可以被极其优雅地浓缩进一行极其简短的贝叶斯公式之中。这一切是否美好得有些脱离现实？ 加赫拉马尼坦然微笑道，这确实美好得不可思议，但它绝非凭空捏造的虚幻概念。**事实上，全球机器学习与统计物理学界早在数十年前，就已经在数学白纸上彻底推导并论证了这一理想系统的理论可能性**。加赫拉马尼始终认为，任何一个严肃学习机器学习的学生，都必须在学术生涯的初期就深刻理解：这样一种高度理性的智能形态在数学上不仅是成立的，而且是完全可达的。 这一“数学魔法”在过去所必须付出的沉重代价，仅仅在于其精确求解所需的计算量过于庞大，属于经典的 NP-Hard 级别阻碍。然而，今天我们所面对的硬件算力与二十年前相比早已不可同日而语，而我们在高维近似算法领域积累的深厚工具箱，使得我们已经具备了将这些理论积木逐一拼装成型的全部现实条件。**现代基于深度学习的 AI 系统，在某种宏观尺度上，正是人类在算力受限的历史阶段对这一理想理性系统所做出的第一代工程近似。** 在整场跨越数十年的对话尾声，主持人提出了一个发人深省的人文哲学命题：当我们在这场深入的科学探讨中不断提及“谦逊”、“诚实”、“自我怀疑”与“感知自身边界”时，这些词汇听起来更像是人类道德哲学中最宝贵、最人性化的高尚品格。加赫拉马尼在四十年前开启学术探索时，是否曾预料到，人类在攻克了算力极限与规模洪流之后，在通用人工智能的终极拼图中所缺失的，竟然恰恰是这些闪烁着人性光芒的理智特质？ 加赫拉马尼给出了极具穿透力的回答：任何亲历这一时代的 AI 科学家，都会对过去数年间模型规模与生成能力的狂飙突进感到由衷的震撼。然而，**“承认自身局限”、“在不确定中保持怀疑”以及“严谨地量化未知”，这绝非仅仅是人类单方面强加给机器的某种道德矫饰，它们本身就是一个高阶智能系统要实现绝对理性时所必须具备的最基础物理属性与数学规律**。 更进一步而言，人类自身在面对不确定性时的决策表现其实并不完美，我们在日常生活中充斥着情绪偏差、易受诱导，且在直觉上频繁犯下概率认知错误。因此，我们不能仅仅满足于让 AI 去机械拟合人类在互联网上留下的充满偏见的语言碎片。我们需要一个在理性维度上超越人类直觉缺陷的全新智能范式。 如果我们从人类社会的最高利益出发，倒推我们在未来究竟需要构建怎样的人工智能——无论面对的是攸关生死的恶性肿瘤医疗会诊，还是关乎数百万人生死安危的气象灾难预防与自动驾驶出行——**我们宁愿要一个在技术上完全清醒、能够诚实说出“我不知道、这存在风险”的理性 AI 合作者，也绝不要一个在任何时刻都带着傲慢与十足信心走向盲目毁灭的过度自信系统**。 在过去数十年的探索长河中，人类竭尽全力建造了一批在标准测试集上不断刷新准确率极限的巨型 AI。它们惊人地强大，但又异乎寻常地脆弱——当它们遭遇未知的黑天鹅时，往往是以十足的信心与权威的姿态猝然崩溃。而唯有通过在底层架构中教导 AI 真正接纳并严谨计算不确定性，赋予机器以怀疑的智慧与诚实的谦逊，我们才能真正消除黑盒的悬空感，让智能系统深扎在客观世界的物理基石之上，成为人类文明在探索星辰大海与生命奥秘的征程中，真正可以托付性命与未来的理性伙伴。