--- author: Best Partners TV date: '2026-08-09' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=y-XOgW97emo speaker: Best Partners TV tags: - ai-agent - hardware-acceleration - first-principles - system-design - performance-optimization title: 对话Jeff Dean：AI的下一个拐点、物理约束与智能系统的第一性原理 summary: 本文深度整理了谷歌首席科学家 Jeff Dean 在 YC 创业学校的最新对话。他从第一性原理和物理约束出发，详细剖析了 AI 智能体（Agent）的演进、机器学习系统自动化的未来、TPU 的硬件起源与性能演进，并揭示了“数据搬运能耗是计算千倍”这一核心物理法则对系统架构的深远影响。此外，针对创业者如何在巨头阴影下选择高价值方向、如何培养工程品味、以及通过思想实验挑战默认假设，Jeff 提供了宝贵的洞察与方法论。 insight: '' draft: true series: '' category: tech-trends area: tech-engineering project: [] people: - Jeff Dean - Sanjay Ghemawat - Geoffrey Hinton - Oriol Vinyals companies_orgs: - Google - Y Combinator products_models: - Gemini - TPU - MapReduce - AlphaFold - AlphaChip - AlphaEvolve media_books: [] status: evergreen --- ### 智能体能力的爆发与机器学习的自我改进 大家好，这里是最佳拍档，我是大飞。最近，谷歌首席科学家**杰夫·迪恩**（Jeff Dean）在 YC（Y Combinator）的创业学校（Startup School）上进行了一场极其精彩且内容密集的对话。在这场对话中，杰夫·迪恩的分享可以说是字字珠玑，信息量巨大，内容横跨了 AI 能力的边界、底层硬件的物理本质、Agent 系统的设计，以及创业方向的底层抉择。他做出了许多非常硬核且具有穿透力的判断。今天，我们就来深度聊聊这期视频，带大家一起拆解这位技术巨擘看问题的方式。 在对话的开场，主持人抛出的第一个问题就非常直接且具有挑战性。主持人提到，在去年 5 月的 AI Ascent 活动上，杰夫·迪恩曾公开表示，当时的 AI 模型已经达到了初级工程师（Junior Engineer）的水平。如今一年的时间过去了，这个曾经引起广泛讨论的判断，到底准不准呢？ 杰夫·迪恩非常坦诚地回答了这个问题。他指出，在过去的一年里，大语言模型在基于**智能体工作流**（Agentic Workflows：通过自主规划、工具调用和多步迭代来完成任务的系统）以及运行时间更长的编程任务上，能力提升的速度快得令人惊叹。如果从现在的视角来看，这些模型在处理特定编程任务时已经表现得相当能干了。如果依然按照一般意义上的“初级工程师”来定义，他觉得去年的那个判断基本是准确的，甚至可以说是说中了。 不过，杰夫也坦然承认，他在一年之前其实低估了模型处理复杂任务能力的增长速度。这种能力的爆发式增长，比他预想的要快得多。而且，这种进步绝不仅仅局限于编写代码这一单个场景，以 Agent 为核心的系统架构在其他许多不同的专业领域，也已经开始真正展现出巨大的价值和光芒。 紧接着，主持人继续追问，那么站在当前的时间点，展望 2027 年，杰夫对于下一个版本的 AI 技术有什么大胆的预测？ 杰夫稍作思考后回答道，他认为在接下来的几年里，我们将见证更多**机器学习系统本身的自动化**（Automating Machine Learning: 利用算法自动设计、训练和优化机器学习模型的过程）。这里的“自动化”并不是指简单的脚本辅助，而是指让机器学习系统具备自主迭代的能力。具体来说，就是让机器学习系统通过自己运行大量的实验，将一个极其复杂的宏观问题拆解为多个子问题，然后让这些子问题进入一个紧密的、自动化的实验循环中进行验证，最后再将实验得到的结果有机地拼装回来，从而实现系统自我能力的迭代和提升。 他将这一范式称为**全自动问题分解加自动实验**（Automated Problem Decomposition and Auto-Experimentation）。杰夫强调，这种方法不仅适用于机器学习领域本身，对于任何能够定义清晰、可衡量目标的科学和工程领域，都可能在未来几年取得突破性的进展。只要人类能够为系统制定一个明确的评估指标，AI 就可以在闭环中通过不断尝试和实验来逼近最优解。 --- ### 从内存搜索到专用推理芯片的物理演进 在讨论到系统架构的演进时，主持人打了一个非常具有历史感且十分有趣的行业比方。主持人提到，在 2001 年的时候，Google 的搜索引擎系统还是跑在传统的机械硬盘上的。当时，杰夫·迪恩和他的传奇老搭档**桑杰·格马瓦特**（Sanjay Ghemawat）一起算了一笔账，也就是后来大家熟知的“餐巾纸数学计算”。他们敏锐地意识到，随着技术的发展，总有一天，整个 Google 的搜索索引（Search Index）是完全可以装进所有机器的物理内存里的。 正是基于这个前瞻性的计算，他们在短短几天之内，就直接动手重写并上线了一个完全跑在物理内存、而非机械硬盘上的全新 Google 搜索版本。这个决定在当时看来极其大胆，但它最终成为了 Google 搜索响应速度实现质的飞跃的关键转折点，奠定了谷歌在搜索领域的霸主地位。 历史总是惊人地押韵。主持人借此提问：在 2026 年的今天，那个类似于当年“终于能将所有搜索索引装进内存”的、能够彻底改变游戏规则的物理转折时刻到底是什么？面对今天台下坐着的 6000 多个渴望改变世界的创业者，他们今天应该盯着什么物理瓶颈或技术趋势来设计自己的产品和系统？ 杰夫·迪恩的回答没有悬浮在概念层面，而是直接指向了最底层的硬件物理特性。他指出，虽然当前的情况与当年不完全一样，但大家将会看到越来越多**高性能、低能耗的推理专用硬件系统**（Application-Specific Inference Hardware: 专为运行 AI 模型预测而设计的高效、低功耗定制芯片）。 他解释道，当前整个行业都已经达成了一个共识，即**推理**（Inference：将训练好的模型部署并运行以产生预测结果的过程）才是让 Agent 系统能够走向千家万户、服务数十亿用户的关键所在。在推理场景中，延迟（Latency）是决定用户体验的绝对命脉。硬件的专用化，是让 AI 系统比 GPU 或 TPU 这种通用计算设备更节能、延迟更低的唯一关键路径。 杰夫坦言，我们现在都已经习惯了在屏幕前等待模型慢吞吞地返回结果，但这种等待的体验并不好玩，甚至在很多实时交互场景中是完全不可接受的。在未来的应用生态中，速度才是真正的王道。 主持人顺着这个话题继续追问：“如果未来的推理速度快到根本不需要等待了，会发生什么？” 杰夫非常赞同地回答道，这正是大家需要展开想象力的地方。你可以想象一下，如果大模型的推理延迟能够直接降低 50 倍，那么今天许多因为响应太慢而无法实现的产品交互和 Agent 连续思考流程，都将在一瞬间变得轻而易举。这会彻底重塑人机交互的界面和应用形态。 --- ### 长链路 Agent 的崛起与长达数周的持续计算 随后，主持人提出了一个非常深刻的问题：“在当前的 AI 浪潮中，有哪些是大家普遍默认相信，但其实在底层逻辑上已经错了的 AI 假设？” 杰夫的回答出乎了现场很多人的意料。他指出，目前很多人还没有真正意识到，让一个 Agent 系统连续运行几天甚至几周来处理一个极其复杂的任务，其实在技术上已经是完全可行的了。大家现在的思维习惯还停留在“向模型提一个问题，模型在一两秒钟内给出一个简短的回答”，或者让 Agent 跑一两个小时去执行一个简单的脚本。 然而，借助目前能力已经足够强大的底层基础模型，通过设计精良的系统架构，让 Agent 进行长达数天甚至数周的持续推理和尝试，去解决那些极具挑战性的系统级工程问题，这已经成为现实。虽然行业里有一些敏锐的人已经看到了这一点苗头，但绝大多数开发者和创业者还没有真正把这个事实内化进他们的系统设计思维中。杰夫认为，这将会是一件非常大、能带来行业变革的事。 那么，究竟在什么样的场景下，我们需要让一个 AI Agent 持续跑上几天甚至几周的时间呢？ 杰夫顺理成章地举了一个软件工程中的具体例子。比如，你可以给 Agent 部署一个任务：去实现某个大型软件系统的全新版本。最典型的任务就是将一个庞大的老旧系统用一种全新的编程语言进行彻底的重写。新版本重写的目标可能是为了获得更好的系统安全性，或者是为了在特定的硬件上跑出更高的性能。 在这个过程中，AI Agent 可以非常认真、不眠不休地把这件事做下去。它需要去阅读数百万行的旧代码，理解每一处复杂的业务逻辑，然后用新语言重写，并在遇到编译错误时自动调试，编写成百上千个测试用例去对比新旧系统的行为差异，直到两者的输出完全一致。这样一个庞大的系统性工程，对于人类工程师来说可能需要数月甚至半年的时间，而让一个 Agent 连续跑上几天或几周去搞定它，显然是一个极其划算且高效的选择。 --- ### TPU 的餐巾纸数学起源与专用硬件设计哲学 聊到这里，话题很自然地转到了谷歌自研芯片 **张量处理器**（Tensor Processing Unit: 谷歌专为机器学习定制的加速器芯片，简称 TPU）本身的起源故事上。 在科技界，杰夫·迪恩非常出名的一个能力就是他极其擅长进行**餐巾纸数学估算**（Back-of-the-envelope Calculation: 使用最简单的物理和数学常识进行数量级的快速粗略估算）。杰夫回忆起在 2013 年左右，Google 的深度学习语音识别系统开始真正变得好用，错误率大幅度下降。当时他在餐巾纸上算了一笔账： 如果每一个 Google 语音助手的使用者，每天仅仅在他们的手机上使用 3 分钟的语音识别功能，那么为了支撑这些并发的语音推理计算，Google 当时整个庞大的服务器集群数量就必须直接翻倍。这意味着谷歌必须在全球范围内再建造一倍数量的数据中心，其成本将会贵得离谱，是公司根本无法承受的。 正是这个极其简单的数量级估算，让谷歌高层意识到了问题的严重性。于是，他们果断决定自己动手，去设计和制造一颗专门用于机器学习推理的定制芯片。这就是 TPU 的起源。 杰夫回忆道，那时候基于深度学习的语音识别系统，虽然质量确实非常好，跟传统的旧系统相比，其算力成本高了几个数量级，但是它把语音识别的错误率直接砍掉了一半。这几乎相当于在短短几个月的时间里，就拿到了过去整个行业 20 年语音识别研究进步的总和。在那种情况下，只要你稍微调整一下模型结构、扩大一下模型规模、再喂进去更高质量的数据，模型的效果就会呈现出立竿见影的提升。 但是，这也让杰夫开始深感担忧：如果语音识别的效果真的变得这么好，人们体验到了它的便利性，就一定会用得越来越多。如果继续把这些计算任务跑在通用的 CPU 上，整个谷歌的算力基础架构会瞬间崩溃。 于是，第一代 TPU 应运而生。它本质上是一种专门为了执行低精度、密集型线性代数（Dense Linear Algebra）计算而设计的专用芯片。而线性代数中的矩阵乘法，恰恰是几乎所有现代机器学习算法在底层最核心的计算任务。这颗芯片跑不了 Chrome 浏览器，也运行不了 Word 文档，但是它在做机器学习推理时的表现却异乎寻常地强大。 最终，谷歌做出来的初代 TPU 芯片交出了一份惊人的成绩单：相较于当时的通用 CPU 和 GPU，TPU 的能效比直接提升了 30 到 80 倍，而计算延迟则降低了 20 到 30 倍。这是一个非常惊人的基础，为谷歌后来的 AI 战略奠定了极为坚实的算力底座。 有意思的是，在他们动手发明并制造 TPU 的时候，如今统治整个 AI 领域的 **Transformer**（一种基于自注意力机制的深度学习模型架构）甚至都还没有被发明出来。杰夫坦言，他当时也无法预料到 TPU 后来会成为大模型训练和推理如此基础的物理支柱。 但杰夫强调，正因为未来是不可预测的，他们当时在设计 TPU 时做出了一个极其关键的决定：**将 TPU 设计成一个通用的线性代数计算系统，而不是针对某一个特定算法过度专用的硬件。** 因为机器学习的算法和模型架构一直都在以极快的速度不断演化，如果你把硬件做得与某一个具体的算法过度绑定，那么一旦算法发生变革，你的芯片就会瞬间变成一堆废铁。因此，硬件设计必须保持微妙的平衡：它既不能过度专用以保留适应未来算法的灵活性，又必须在物理上足够专用，以便通过设计超大型的乘法器单元、高带宽物理内存和超高速芯片互连，来获取数量级上的性能和能效提升。 --- ### AI 时代的延迟数字与数据搬运的千倍惩罚 那么，今天的创业者在面对 AI 时代的机会时，应该去算什么样的餐巾纸数学呢？有没有可能通过某种估算，找出下一个像 TPU 这样具有划时代意义的硬核项目？ 杰夫表示，这确实很难一概而论，但核心的思考思路是相通的： > “首先，你必须看清你所在行业或领域的底层瓶颈到底是什么。然后你要问自己：有没有一种跟今天主流解法完全不同的、颠覆性的解法，能够让某一个最关键的物理指标直接提升一个数量级甚至两个数量级？千万不要被当下大家都用的主流解法锁死。从第一性原理出发去思考，如果让你今天从零开始解决这个问题，你会怎么做。顺着这个思路走下去，你往往能想到别人完全没有注意到的颠覆性方向。” 主持人随后追问了一个只有业内资深系统工程师才会关心的硬核问题。在许多年前，杰夫·迪恩曾写过一份非常著名的技术清单，叫做《每个系统工程师都应该知道的延迟数字》（Latency Numbers Every Programmer Should Know）。这份清单里详细罗列了各种底层操作的时间消耗，比如 CPU 缓存未命中（Cache Miss）需要几十纳秒、从主内存读取需要上百纳秒、机械硬盘寻道需要十几毫秒、以及一个网络数据包从美国加州跨越太平洋跑到荷兰需要多少毫秒。 这份清单在过去的二十年里，几乎成为了全世界所有分布式系统工程师和后端架构师的指路明灯。 那么，快进到 2026 年，如果我们要将这份经典清单更新为一个 **AI 时代的延迟与物理数字版**，里面应该包含哪些最核心的指标呢？ 杰夫给出了几个他认为最关键的 AI 物理数字： 1. **主存到加速器片上内存（On-Chip Memory）之间的物理带宽**是多少； 2. 从片上内存到**实际执行乘法运算单元（Multiplication Units）的带宽**是多少； 3. 芯片**做一次浮点乘法运算（Multiply Operation）到底需要消耗多少皮焦耳（picojoule.pJ）的能量**； 4. 芯片与芯片之间的**互连网络带宽（Interconnect Bandwidth）**是多少，在这个带宽限制下，系统最多能把多少颗芯片物理连接在一起； 5. 当你的计算集群规模从 500 颗芯片物理扩展到 10000 颗芯片时，**网络带宽的衰减曲线**是怎样的。 杰夫指出，这些物理数字将会实实在在地决定你设计的 AI 算法和分布式系统架构是否合理。随后，他说出了一个可能会让很多没有硬件背景的软件工程师重新审视 AI 系统设计的震撼数字： > “在现代先进芯片中，做一次低精度的数学计算，大概只需要消耗 **1 皮焦耳（pJ）** 级别的能量。但是，如果你要把数据在芯片内做一次数据输入输出（IO）或者内存搬运，其能量成本是计算的 **1000 倍**。” 哪怕你只是非常简单地将一个参数或者一个 token 的数据，从加速器芯片旁边的高带宽内存（HBM）中读取出来，搬运进处理器的寄存器里去参与计算，你所付出的能量代价都比实际计算本身要高得多。 杰夫解释道，“搬数据比计算贵 1000 倍”这一物理铁律，在根本上塑造了今天机器学习领域里几乎所有主流的做法。如果计算和数据搬运之间没有这 1000 倍的巨大能效鸿沟，你根本不需要把数据做复杂的打包处理。但正因为这个物理瓶颈的存在，我们才必须在训练和推理时，将很多个样本或者很多个 token 一次性攒成一个大批次（Batch）再送进芯片处理。 这样做的好处是，可以让搬运一次数据所带来的巨大能效惩罚，被这个批次里的所有数据共同分摊。你付出的能效惩罚就不再是 1000 倍，而是 1000 除以 Batch Size。 但是，这里存在一个致命的冲突：如果你想为用户提供极度追求实时性的极低延迟交互体验，把数据攒成大批次处理显然会带来极大的等待延迟，这并不是一个好办法。底层硬件所面临的这种冷酷的能量物理约束，正在非常深远地决定和影响着更上层软件系统和算法模型的架构选择。 那么，我们有没有可能搞定一种每次只处理单条数据（Batch Size = 1）的高效模型训练方法呢？ 杰夫坦言，他最近更多是在思考推理阶段的这个问题，因为推理阶段确实面临着极其苛刻的低延迟用户体验挑战，而训练阶段对实时延迟的要求则没有那么高。他觉得在目前的 AI 推理硬件市场上，芯片设计还远远没有做到足够的专用化。 要想突破这一瓶颈，核心的设计思路就在于两点：第一，在硬件架构上想方设法**尽量减少数据的物理搬运**，让计算尽可能在靠近数据的地方发生；第二，去大胆地探索**极低精度的数值运算**。未来的芯片也许根本不需要支持那么多花哨且高精度的浮点格式，直接把算法真正需要的超低精度计算逻辑硬编码进硬件电路里，就可以省去大量的能耗。 --- ### 上下文工程的崛起与系统级编排的艺术 聊完了底层硬件的硬核约束，对话的视角被拉高了一层，回到了软件和系统架构层面。 在过去，大家一提到 AI 的进步，第一反应往往是“模型本身变得更好了”——比如喂了更多的数据、堆了更大的参数规模、或者在超级计算机里训练了更长的时间。但是最近这些年，大家逐渐意识到，围绕在模型周围的一切生态和工程系统，其重要性正在变得越来越突出。这不仅仅关乎参数规模或训练数据集的大小，更关乎**检索增强生成**（Retrieval-Augmented Generation: 简称 RAG，通过检索外部知识库来改善模型输出的技术）、长期记忆机制、智能体工具链等组件的协同。 杰夫非常赞同这一技术趋势。他明确指出，在未来的智能应用中，大语言模型仅仅只是你所要构建的整个宏观系统中的一个组成部分而已。人类真正的目标，是构建一个能够自主解决现实世界复杂问题的完整系统。 这意味着，模型必须学会像人类一样熟练地使用各种外部工具（如计算器、代码执行沙箱、数据库查询等），必须学会根据当前任务去主动检索相关的背景信息，并且必须能够将过去在解决其他问题时积累的历史信息有机地沉淀下来，在需要的时候重新装载到当前的**上下文窗口**（Context Window: 模型在一次处理中能够接收和考虑的最大文本范围）中。 杰夫在这里分享了一个非常关键的技术洞察：大模型的预训练数据（Training Data）其实就像是一锅搅在一起的大杂烩。几万亿的 token 被无情地揉进、压缩进了几千亿的神经网络参数里，信息密度被高度稀释。相比之下，**模型在当前 Prompt 提示词和上下文窗口里直接看到的输入信息，其清晰度和针对性要比预训练参数高得多。** 此外，在实际运行中，模型还必须深刻理解有哪些工具是自己可以调用的，哪些工具在当前的计算步骤中是真正有帮助的。它必须学会把一个庞大的宏观任务拆解成一连串精确的工具调用链条，甚至在遇到困难时，尝试用多种不同的方法去独立解决同一个问题，并能自主评估哪一种方法产生的结果最有效。杰夫指出，这正是复杂的智能体系统以及**多智能体系统**（Multi-Agent Systems: 多个自主 AI 协同工作的系统架构）最核心的编排能力（Orchestration）。 在这个背景下，杰夫提出了一个非常吸引人的观点：**上下文工程**（Context Engineering：通过优化上下文输入、检索和工具调用来提升模型表现的工程方法）这个领域最美妙的地方在于，**它是全行业所有人都可以参与并付诸实践的。** 在过去，如果你想训练一个基座大模型，你需要垄断性的巨量算力资源、数万张昂贵的 GPU 和海量的数据集，这把绝大多数创业者和开发者都挡在了门外。但是，做上下文工程不需要这些。你只需要接入一个像谷歌 Gemini 这样功能强大的 API，配合你自己的检索算法、工具调用逻辑和工作流设计，你就可以立刻开始构建极具竞争力的智能应用。 那么，开发者该怎么做，才能把上下文工程的性能发挥到极致呢？ 杰夫给出的方法非常朴实且极具实操性。那就是**不要空谈理论，直接用你的模型和工具链去解具体的业务问题。** 在这个过程中，你必须睁大眼睛去盯着模型在哪里出错。很多时候，如果你想让模型的表现变得更好，最有效的手段并不是指望从外部去微调大模型的上千亿参数，而是去给模型提供更清晰、更有针对性的引导指令。也就是通过编写更好的行为指南（Guidelines）、构建更专业的技能库（Skills），让模型明确知道在遇到某一种特定类型的问题时，应该按照什么样的步骤去调用哪些工具。 随着你不断重复这个“观察错误-优化指令-丰富技能”的过程，你会让系统进入一种**自我改进的良性迭代状态**（Self-Improvement Loop），你会越来越清晰地理解模型到底还需要什么样的数据补充，才能变得更加强大。 杰夫在现场分享了一个他自己前几周刚刚亲手做过的具体案例。当时，他和他的老搭档桑杰·格马瓦特还在一起进行谷歌一些非常底层的基础库的性能优化工作。他们在 Google 内部维护着一个自己编写的微基准测试库（Microbenchmark Library），用来极其精确地测量系统底层的各种不同操作到底要消耗多少纳秒的时间。由于这些底层的通用数据结构会被谷歌内部运行的几百万个微服务进程频繁使用，因此，保证它们的高性能和低延迟是极其关键的任务。 在以前没有 Agent 辅助的时候，他们优化的标准动作是：先在服务器上跑一次基准测试，记录当前的性能数据；然后凭借经验修改底层的 C++ 代码，期待能跑得更快；接着重新编译并运行测试，观察性能指标是否得到了改善；可能还要运行更大范围的测试集，去确认这次修改没有导致 CPU 缓存的额外占用。 为了让 AI 帮他们做这件事，杰夫和桑杰专门为 Agent 编写了一个**技能**（Skill：教导 AI 执行特定任务序列的结构化指令包）。这个技能的本质就是教给模型一套清晰的逻辑：如何按照正确的顺序去执行性能分析、修改代码、重新运行测试、对比数据、并根据测试反馈进行下一次的代码修改迭代。 实验的结果非常令人兴奋，这个方法在很多底层优化问题上表现得相当不错。杰夫笑着说，这其实并没有什么神秘的，说白了就是把人类工程师脑海里那套积累多年的方法论，用最清晰的结构转写成模型能够理解和执行的步骤而已。 事实上，几个月前杰夫和桑杰还公开发表了一份长达 30 页、名为《Performance Hints》的文档，里面系统性地总结了他们几十年来在系统性能优化方面积累的绝活和技巧。现在已经有非常聪明的开发者，把这份文档进行结构化总结后喂给了不同的代码模型，结果发现模型在分析和解决实际代码性能瓶颈问题时的成功率，瞬间得到了显著的提升。而杰夫也非常慷慨地表示，这份宝贵的文档现在是完全公开且免费的。 --- ### 突破长链路失效与在巨头阴影下寻找创业温床 在讨论 Agent 系统的实操时，主持人提出了一个所有开发者在实际开发中都必然会碰到的痛点： 大家肯定都见过这样的场景，一个 Agent 在执行任务的前 10 步时表现得非常好，逻辑清晰、工具调用准确；但是一旦任务链路拉长，到了第 30 步、第 40 步甚至第 50 步的时候，模型就开始出现**幻觉**（Hallucination：模型生成看似合理但实际上错误或不符合事实的信息的现象），整个控制流开始严重跑偏，最终导致任务失败。 杰夫坦然承认，这确实是目前 Agent 系统所面临的最核心的物理约束之一。他解释道，这其中的底层逻辑在于，当 Agent 尝试去解决一件它在训练数据中没有太多经验的事情时，它就会逐渐偏离熟悉的轨道。大模型在预训练时见过海量的“分布内任务”（In-Distribution Tasks），在这些任务里它能游刃有余；但只要任务的复杂度和特异性稍微超出了它熟悉的分布范围，模型的表现就会像坠落悬崖一样迅速下滑。模型距离自己的舒适区越远，就越容易失效。 针对这个长链路跑偏的行业难题，杰夫给出了两种非常具体的应对策略： * **第一种方法是为模型提供精准的技能（Skill）与提示（Hint）**：通过精心设计的高质量规则和操作模板，在每一个关键节点上把模型死死地拉回它最熟悉、最稳妥、最有把握的执行路径上，防止它自我放飞。 * **第二种方法是引入多智能体系统（Multi-Agent System）进行空间搜索**：你可以让多个不同的 Agent 独立去尝试多种不同的解决路径，然后让另外一个专门扮演“评估器”角色的模型，去实时评估哪几条路径目前看起来更靠谱。这本质上是在解法空间（Solution Space）中进行启发式搜索，保留有希望的苗头，果断扔掉那些已经跑偏或者无效的路径。 杰夫指出，这是一种在未来会变得极其重要的通用技术——**利用推理时计算（Inference-Time Compute：在模型推理阶段投入更多的算力进行搜索、采样和验证，以换取更高质量输出的技术）来搜索可行解法**。通过在推理时让模型多思考、多搜索、多对比，可以让长链路的 Agent 流程变得无比可靠。 在 Google 内部，他们已经构建了一整套成熟的测试套件（Harness）和庞大的技能库。谷歌的 Agent 知道怎么自动调用内部的编译和编码工具，怎么自动提交代码审查，怎么运行性能分析器，以及怎么去抓取和解析几百毫秒前的系统日志文件。这些动作在底层都被定义成了清晰的技能，只要定义得足够精准，就能显著提升 Agent 在实际工作中的实用价值。 接着，主持人将话题引向了在座数千名创业者最关心切身利益的问题： 像 Google 这样的科技巨头，几乎已经把 AI 系统的每一层都包揽了——从底层的自研 TPU 芯片，到中间的超大规模 Gemini 基础模型，再到最上层的 C 端产品，进行了全栈的协同设计。在这样庞大且垂直整合的行业巨头阴影下，仅仅只有两三个人的超级小团队，真的还能找到属于自己的生存空间和创业机会吗？ 杰夫的回答给现场的创业者们吃下了一颗定心丸。他指出，像 Google 这样的大公司在构建像 Gemini 这样的基座大模型时，其核心目标是追求**极致的通用性**，也就是模型必须几乎什么都能做，必须去迎合全球数十亿用户的平均需求。 然而，恰恰是因为通用模型要兼顾的面太广了，导致它在面对某一个非常具体的细分行业或专业领域时，根本不可能投入足够多的注意力和优化资源。 杰夫表示： > “如果你能够围绕着某一个特定的专业垂直领域，设计出一款体验极佳、极度贴合用户工作流的产品界面，在后台配上一套精心雕琢的模型技能库（Skill），甚至针对该领域去微调一个专门的垂直模型，你完全有可能在这个细分战场上获得相对于科技巨头的压倒性优势。因为你可以在你真正热爱和深耕的领域里，做出一个让行业用户感到愉悦、准确率又高到可以直接用于生产环境的精品。” 但是，杰夫也紧接着给出了一个非常冷静的行业警示。他提醒创业者，前沿的通用大模型确实正在以惊人的速度变得越来越强，其能力边界正在不断向外扩张，覆盖越来越多的基础任务。 因此，当你作为一个创业者选择切入点时，你必须做出极其理性的物理判断：你正在夜以继日研发的那个功能或产品，到底是不是一个具备长期竞争壁垒的“耐打方向”？领先的通用模型会不会在未来的 6 个月或 12 个月内，通过一次简单的版本升级，就把你的核心功能直接作为免费特性给做掉了？还是说，这个方向的技术壁垒极高，即使是前沿模型在未来的两三年内也很难轻易触及？ --- ### AI 原生创业者的方向抉择与品味的修炼 对于创业者到底该如何筛选出那些真正值得投入生命去做的、不会被巨头轻易碾碎的黄金方向，杰夫给出了三条含金量极高且非常朴实的建议。 **第一条建议非常朴素，但却是一切伟大企业的前提：你必须挑选一个你自己超级兴奋、非常想做，并且你打心底里觉得一旦做成会对这个世界产生巨大正面价值的事情。** 杰夫认为，只有具备了这种强烈的个人热忱，你才能在漫长且充满挫折的创业长跑中坚持下来。如果你能做到这一点，你其实已经领先绝大多数跟风的创业者了。 **第二条建议是一个极其硬核的技术筛选指标：去用今天最强的通用模型，直接测试你想要解决的那个核心痛点。** 杰夫指出，在这个测试中，如果通用大模型表现得**完全失败，成功率只有 0% 或者 1%**，那这通常是一个极度利好的创业信号。 相反，如果通用模型在这个任务上已经能勉强做到 20% 或 30% 的成功率，这反而未必是一个好信号。因为 20% 的成功率意味着这个任务的底层逻辑和模式，已经开始进入通用模型的泛化能力边界之内了。随着下一代模型的参数规模稍微扩大一点、预训练数据质量稍微提升一点，通用模型在这个任务上的成功率会在极短的时间内飙升到 80% 甚至 90%，直接将你的创业项目无情地吞噬。 因此，创业者要寻找的，是那些模型当前表现为“完败”的领域。这些领域通常包含以下几种情况： * 属于严重超出通用模型预训练数据集分布（Out-of-Distribution）的、需要完全不同的逻辑和思考类型的超难问题； * 你的产品拥有某类底座模型天然无法触及的私有专有数据。例如，帮用户打理和分析极其私密的个人生活信息的应用，通用模型在物理上根本接触不到这些数据，你的产品就天然构筑起了极高的护城河； * 针对某些专业性极强的硬科技难题，如果你能够通过行业合作拿到绝对正确的专业训练数据，那么即使你只花很少的成本去训练一个尺寸适中的专用模型，它在特定专业指标上的精度也会远远超越通用的巨无霸模型。就像专注于蛋白质折叠的 **AlphaFold** 同样极其成功，但它不是通用模型。在材料科学、芯片物理设计（Silicon Layout）等硬核领域，都存在大量这样适合专用模型扎根的黄金机会。 主持人接着问了一个极具时代感的问题：“在未来，当编程的大部分工作都由 Agent 帮我们搞定，一个人该怎么做，才能成为一名合格的‘AI 原生创始人’？” 杰夫的回答切中了人机协同的本质。他指出，当你与虚拟的 Agent 协同工作时，**你是否能够极其清晰地描述清楚你到底想要什么，将决定你能否成功。** 你对任务的定义越清晰、给定的约束条件越明确，Agent 在执行时就会有越清晰的物理边界和行为准则，它就越知道该如何正确地去逼近那个目标。其实从计算机科学诞生之初，整个行业就一直在告诫程序员：在动手写代码之前，先要想明白你的软件到底要达成什么业务目标。 现在，随着 Agent 技术的普及，软件的具体编写工作已经开始被 AI 接管，但这种“规格说明”（Specification：描述软件系统应该做什么的文档或规范）的重要性非但没有降低，反而被推到了前所未有的历史高度。 因为在过去，你是把任务交接给一个同样聪明、拥有常识和上下文的人类同事，他遇到不明确的地方会天然地结合常识去判断，或者主动找你开会确认；而现阶段的 Agent 虽然也会进行一定的追问，但它们在很大程度上依然极度依赖于输入端给定的规格说明是否足够清晰。 杰夫举了一个当前在行业里被证明极其有效、甚至已经完全可以规模化商业落地的 Coding Agent 案例：**将一个庞大的老旧软件系统从一种过时的编程语言完整翻译到另一种现代编程语言。** 在这个特定的任务上，目前的 AI 模型表现得异乎寻常地出色。这背后的物理原因非常简单，并不是因为模型掌握了什么神秘的魔法，而是因为**这个任务拥有世界上最完美的、毫无歧义的规格说明书——那就是原始的老旧软件系统本身。** Agent 拥有老旧系统的全部源代码作为输入，它可以直接运行老旧系统里的所有既有测试用例（Test Cases）来作为黄金标准（Ground Truth）。它的任务就是不断调整新语言的代码，确保重写后的系统能够 100% 跑通所有的测试用例。它甚至还可以把测试用例本身也用新语言进行翻译，在运行中不断比对两边系统在边界条件下的行为差异，直到所有的差异被完全消除。规格说明的极度清晰，直接导致了任务执行的极度高效。 紧接着，主持人抛出了一个发人深省的思想实验：“在不久的将来，当每一个公司都在调度成百上千个 Agent 帮自己干活，当世界上 99% 的代码都是由 AI 智能体自主编写的时候，人类最稀缺、最昂贵的能力将会变成什么？” 杰夫·迪恩的回答掷地有声，只有两个字：**品味**（Taste）。 他解释道，所谓的品味，就是**判断到底应该让 Agent 去解决什么问题、去创造什么价值的能力。** 从他自己几十年的科研经历来看，这其实就是“研究问题选择”的底层核心。一个平庸的研究者也许可以掌握世界上所有先进的工具和工程技术，但科学研究的胜负，绝大多数在第一天你决定把时间投在什么问题上的时候，就已经被注定了。如果你挑选了一个真正具有巨大现实影响力的、正确的问题，并且最终彻底解决了它，其价值将远远超越你花了一万个小时，把一个无关痛痒、无聊的琐碎问题研究得极其精致。 --- ### 打破默认假设的思想实验与科学方法的自动化 既然“品味”在 AI 时代是如此稀缺和关键，那么人类该如何去训练和提升自己的技术和商业品味呢？ 杰夫坦言，这确实是一件极其困难的事情，它不像某一个具体的跑分指标那样，有明确、可量化的测量目标。他给出了三种具体可行的品味训练方法： * **方法一：来自经验的积累**。你过去做过很多不同的项目，解过很多不同类型的问题，那些经历中犯过的错、踩过的坑，会成为你潜意识里的养分，教导你在面对未来时，什么样的问题可能更值得做。 * **方法二：进行“未来预测比对”**。写下你认为在未来的 12 个月里，世界上可能会变得极其重要的几件事情。你也许没有精力去做所有的事情，只会选择其中一个去实践。但等到 12 个月过去后，你必须重新拿出 但等到 12 个月过去后，你必须重新拿出你当年写下的那份预测清单，去逐一核对：哪些预测真的变得重要了？哪些方向被别的团队抢先做出来了？哪些预测最终完全没有发生？通过这种长期的、有意识的反馈闭环，你实际上是在给自己的大脑提供更多的“品味训练样本”，以此来训练你对未来技术趋势和高价值问题的洞察力与品味生成能力。 * **方法三：做一些极其疯狂的思想实验（Thought Experiments）**。不要把所有人都默认成立的事情，当成理所当然的真理。 杰夫分享了一个他最近和同事们一起做的非常硬核的思想实验： 在过去的 60 年里，整个硅芯片设计和制造行业，一直都在极其努力地追求一个物理目标——把晶体管做得越来越小，把错误率降得越来越低。因为芯片设计行业的默认物理目标是：同一种设计图纸制造出来的每一颗芯片，在物理行为上都应该跟别的芯片完全一模一样，不能出现任何一个比特的翻转（Bit Flip）。 但是，如果我们站在更高维度的系统层面来看，人类构建大规模系统的方式却完全相反。在分布式系统领域，我们几十年来都在做一件事：**用极其不可靠的底层硬件组件，去搭建出极其可靠的软件系统**。比如，单块机械硬盘很容易损坏，但我们通过做三副本、使用里德-所罗门编码（Reed-Solomon Codes），可以确保用户的关键数据绝对不会丢失。 那么，我们为什么不在晶体管这么底层的物理尺度上，也把这种“容错设计”的思路走到极端呢？ 如果我们去故意制造一个系统，里面的底层晶体管质量非常差，可能每天都会出 20 次计算错误，而不是像今天的先进芯片一样要几百万年才出一次错，那么会发生什么？ 这显然会是一个与今天完全不同的硬件设计起点。如果底层的物理计算不再 100% 可靠，我们在制造端就会释放出非常多有意思的新物理可能性。例如，为了保证关键信号的传输，信号在芯片内部可能会走多条冗余的物理路径，去确保至少有一路能够成功抵达目的地。 杰夫指出，这听起来已经非常类似于生物神经计算和我们人类大脑的工作机理了。我们人类大脑内部的突触信号传输，本来就不是一种极端可靠的物理方式。当大脑真的有极其重要的神经信息需要传递时，它往往会通过多条不同的神经网络通路同时进行发送。 杰夫笑着补充说，他并不是说现在大家就应该立刻动手去造这种容易出错的芯片，但是这种挑战默认前提的思想实验非常重要。每隔一段时间，优秀的系统架构师都应该重新审视那些被整个行业默认接受的前提假设。 在杰夫·迪恩数十年的职业生涯里，TPU 本身就是一个将“通用高精度计算”这一默认假设直接扔出窗外，最后演化为对整个世界产生巨大影响力的系统的典型例子。在那个机器学习还没有像今天这样改变世界的时间点，他就敢于去思考“能不能为一个当时极其小众的计算问题去专门设计定制芯片”。 另一个经典的例子是 **MapReduce**（一种在大规模集群上进行分布式数据处理的编程模型）。 在 MapReduce 诞生之前，杰夫和桑杰等谷歌早期的核心工程师，为 Google 的网页抓取和索引系统写过很多代不同的系统实现。他们每一次都需要手工去编写大量复杂的并行化代码、处理机器宕机时的容错机制和网络通信细节。但问题是，这些底层的分布式系统控制代码，每一次都会和上层工程师真正想要实现的简单网页分析业务逻辑紧紧地缠绕在一起，导致系统维护起来极其痛苦。 后来，杰夫和桑杰换了一个完全不同的角度来看待这个物理算力瓶颈。他们进行了一个思想实验：能不能把底层的复杂性完全抽象出来？ 于是，他们提出了 MapReduce 这一抽象计算框架：上层业务开发人员只需要写最简单的 Map 和 Reduce 两个数据处理逻辑，而底层的分布式系统框架则统一且透明地去处理所有机器之间的并行调度、数据分区、网络传输和节点容错。这个框架最终成为了谷歌处理超大规模计算时极其成功的基础设施，重塑了整个大数据时代的版图。而这一切的起点，最初就源自于一个敢于挑战现状的思想实验。 --- ### 科学方法的自动化与低能效模拟的超越 回到当前的 AI 时代，我们现在已经拥有了诸如 **AlphaChip**（谷歌利用强化学习自动进行芯片版图布局设计的 AI 系统）来帮助人类设计更好的芯片布局，也拥有了像 **AlphaEvolve** 这种能够在闭环中自己提出新方案、运行评估方案、并自动保留有效算法特性的进化系统。 杰夫表示，他强烈地感觉到，人类正在构建起一整套**用 AI 去制造更好 AI 的闭环系统**（Building AI to build better AI）。 更一般地讲，这其实是在实现**科学方法的自动化**（Automating the Scientific Method: 利用人工智能自主完成提出假设、设计实验、构建环境、运行实验、评估结果并迭代假设的完整科学探索闭环）。 这个回路的核心步骤包括：自主提出一个实验假设、自动搭建好该实验的执行和测试环境、不眠不休地去运行它、客观评估实验产生的数据结果、并从结果中提炼知识以继续指导下一步的探索。现在，世界上有越来越多科学和工程领域的问题，都可以把这个探索回路进行完全的自动化。由于 AI Agent 不需要休息，它们可以在这个回路里同时跑非常非常多个不同的实验分支。 杰夫指出，一旦我们能够把这个自动实验循环的延迟（Iteration Latency）压得极低，将会释放出巨大的科学创新能量。 而要想压低这个循环的延迟，关键在于：**你必须先把评估器（Evaluator）的速度做得足够快。** 杰夫举了一个十年前左右的真实物理研究例子。当时他的谷歌同事们正在研究复杂的量子化学问题。要想理解一个分子的物理和化学性质，研究人员通常需要让传统的超级计算机去跑一整夜的**密度泛函理论**（Density Functional Theory: 简称 DFT，一种研究多电子体系电子结构的方法）量子模拟器。这导致每一次实验循环都需要等待十几个小时，研究效率极低。 但是，谷歌的研究团队换了思路。他们利用传统模拟器跑出来的很多输入和输出数据作为训练集，训练了一个**神经网络版的近似模拟器**（Neural Approximate Simulator）。 这个神经网络模拟器在运行时的速度，比传统的 DFT 物理模拟器**快了整整 30 万倍**。 虽然神经网络模拟器给出的是一个近似值，但在物理精度上，它几乎完全不输给完整运行一整夜的传统物理模拟器。这个速度上的巨大飞跃，彻底改变了科学家做化学实验的方式。 在过去，如果科学家想要在 1000 万个候选化学分子中筛选出有希望的材料，可能需要花 6 个月的时间去申请和积攒昂贵的超级计算机算力资源；而在有了神经网络近似模拟器之后，科学家在午饭前就可以在自己的笔记本电脑上把这 1000 万个分子全部筛完。 杰夫强调，在今天的许多其他科学和工程领域中，依然存在着巨大的空间，可以让开发者去构建这种超快速的神经网络验证和近似模型。一旦你把这个验证模型做成功了，你就可以重新定义整个领域的实验迭代循环。 在当今所有的技术研究方向中，杰夫表示他个人最兴奋的方向，就是**让模型通过自己跑大量的自动实验，实现递归式地自我改进（Recursive Self-Improvement）**，从而最大化地优化每一单位物理算力输入所能带来的科学新发现。 --- ### 知识蒸馏的挫折与对年轻杰夫·迪恩的忠告 在对话接近尾声时，主持人将话题转向了职业成长中的挫折，并聊到了一个非常经典的技术故事。 在 2014 年的时候，杰夫·迪恩与深度学习教父**杰弗里·辛顿**（Geoffrey Hinton）、以及谷歌研究员**奥里奥尔·维尼亚尔斯**（Oriol Vinyals）共同撰写并提交了一篇关于**知识蒸馏**（Knowledge Distillation: 将大模型所学到的知识压缩和转移到更小、更轻量级模型中的技术）的学术论文。这篇论文的核心思想非常实用：让参数量巨大、计算昂贵的“教师模型”去指导参数量小、计算便宜的“学生模型”进行训练，从而得到一个体积小、成本低，但依然保留了大部分教师模型能力的优秀模型。 如今，知识蒸馏已经成为了整个 AI 行业在部署边缘端和轻量级大模型时最基础、最不可或缺的标配技术。 然而，在当年，这篇具有划时代意义的论文在提交给顶级学术会议 NIPS 时，却被无情地拒绝了。 杰夫回忆起当年的评审意见，其中一位评审人给出了非常傲慢的评价，大意是：“这项工作纯粹是一个工程技巧，不太可能在学术界产生任何显著的长远影响。” 杰夫笑着说，他其实时至今日也完全不怪当年的程序委员会。因为学术界的评审人很多时候在评估论文时，往往会偏向于学术和理论层面的突破，去探讨这篇论文是否提出了某种根本性的、前所未有的数学定理。而他们当时在工业界一线，非常清楚地知道**这是一个极其关键的现实物理问题**。因为如果你真的想把大模型服务于全球数以亿计的普通用户，把模型搬进各种资源受限的终端设备中去覆盖更多的生活场景，你就必须在物理上降低模型的运行成本和体积。 被拒稿后，他们并没有气馁，而是直接把论文发布到了公开的 arXiv 预印本平台上。全球的开发者和工程师们迅速看到了这篇论文的巨大价值，并开始在各种实际生产系统里大规模使用知识蒸馏技术。 时至今日，谷歌 Gemini 家族中备受好评的轻量级 **Flash 模型**，其底层技术有很大一部分就是从体积更大的 Pro 模型中通过知识蒸馏技术提炼出来的。在同等模型尺寸和参数量级别中，Flash 模型在各大权威 Benchmark 榜单上的表现都是最顶尖的之一。 杰夫幽默地总结道，他从这次拒稿经历中“蒸馏”出来的核心人生教训就是：**即使你的想法暂时被所谓的权威机构拒绝了，只要你坚信它的底层物理逻辑是对的，就应该毫不犹豫地继续干下去。** 主持人顺着这个话题，提出了一个非常浪漫的思想实验：“如果把 1999 年刚刚加入 Google 那个只有 20 个人的年轻创业公司时的、风华正茂的年轻杰夫·迪恩，通过时光机直接传送到 2026 年的今天，他会选择去前沿的科技巨头实验室工作，还是会选择自己出来创办一家 AI 公司呢？” 杰夫沉思了一下回答道，这永远是一个很难一概而论的个人选择。但对于他自己而言，不管在什么时代，最重要的问题永远只有三个： 1. **你是不是在做一件你打心底里真正关心的事？** 2. **你是不是在和一群你非常喜欢、且能力互补的人一起合作？** 3. **你所做的这件事，最终会不会以正面的方式让这个世界变得明显更好？** 杰夫分析了两种选择的利弊。在大型研究机构里，有着非常现成的研究结构、完善的基础设施和很多在各个领域极其厉害的顶尖同事，你的工作天然拥有一个巨大的杠杆和平台，去产生直接影响数亿人的社会效应。 而自己创办一家小的创业公司，则面临着完全不同的物理环境。你必须对你要解决的那个特定问题拥有近乎狂热的强烈热情，你必须去主动承担极高的生存风险，但与此相对地，如果成功了，它也可能会给你带来无与伦比的精神和物质回报。 但杰夫强调，不管年轻的你选择哪条道路，在出发前至少要多问自己一句： > “如果这件事最终走到了最好的结局，这个世界会不会因此在某一个具体方面明显变得更好？如果你的答案只是‘这挺酷的，但世界也就那样，没有它也无所谓’，那么这就绝对不是你应该投入生命去做的方向。” 关于如何在团队中与聪明人一起工作、以及怎么在创业初期寻找合作伙伴，杰夫分享了他的用人心得。他表示，你首先当然想找到在某一个关键技术领域里实力极其强悍的人，以及在专业技能上能够与你形成完美互补的人。 但是，同样重要的一点是，**你必须找那些与他们待在一起、一起工作会让你感到很开心的人。** 因为在未来的岁月里，你们会花大量的时间待在同一个密闭的空间里，去一起啃那些极其艰难、甚至让人感到绝望的系统和技术难题。如果人际关系让你感到痛苦，你是无法走完这段长路的。 杰夫一直觉得，在优秀的研发团队里，最美妙的化学反应就是：别人懂那些你完全不懂的底层细节，而你也有他们没那么擅长的工程或设计能力。当你们这些不同维度的能力有机地组合在一起时，就能在物理上创造出单独任何一个人都绝对做不出来的奇迹。 他告诫年轻的工程师和创业者： > “你必须把自己的工程或研究生涯，看成是一条**工具腰带**。你必须在每天的工作和学习中，不断往这条工具腰带里添加新的工具、新的技能和新的认知。因为你永远无法准确预知在未来的十年里，你会碰到什么样难以想象的物理和技术难题。你的工具腰带里的工具越多，你未来能够解开的复杂问题就越多。” --- ### 展望智能系统的未来与技术品味的物理穿透力 在对话的最后，主持人问了最后一个展望未来的问题：“在当下的时代，你最希望未来的创造者们去解决什么样的问题？” 杰夫的眼神里闪烁着对技术未知的兴奋。他回答道，这个世界上有太多太多有意思、且尚未被解决的问题了。 他个人目前特别兴奋的，是**探索全新的硬件物理路径**。在当前算力能耗成本极高的情况下，去研发出更高效、能耗比更好的推理硬件是整个 AI 行业能够继续向前推进的关键物理基石。 另外，他认为**机器学习算法本身在数学和逻辑架构上，也许还可以变得与今天完全不同。** 比如，我们能不能做出**数据效率（Data Efficiency）比今天高得多的全新算法**？ 杰夫算了一笔账：今天的大语言模型，在它被部署出来之前所吞噬和阅读过的数据量，比一个普通人类在 18 岁之前通过眼睛、耳朵和皮肤接触到的全部物理世界数据量，多出了整整 1000 倍甚至更多。 但是，一个发育到 18 岁的人类青年，在许多极具创造性的复杂任务上，其表现反而比大模型做得更好，至少也能打个平手。 这说明我们今天的大模型在利用数据和学习世界物理规律的效率上，其实是非常低效的。因此，能不能通过算法的底层革新，做出数据效率极高、并且能够像人类一样在与环境的物理交互中**持续学习（Continuous Learning）**的智能系统，是未来非常有意思的研究方向。 此外，多智能体（Multi-Agent）之间的交互和协同机制也充满了未知的迷人空间。 如果再把视角往技术之外推一点，杰夫提到，他非常希望有人能够通过技术手段，去帮助世界上不同背景、不同立场的人进行更好的对话。有没有办法通过智能算法，让人们在网络上进行更加文明、更有理性的交流，帮助人们基于共同的兴趣和科学目标，去认识那些本该认识、但由于地理或信息孤岛而错过的其他人？这些都是极其有社会价值的思考方向。 --- ### 总结 听完这场 Jeff Dean 在 YC 的完整对话，大飞我自己内心最大的感受是，这位写出了 MapReduce、设计了 TPU、用一行行代码奠定了谷歌搜索和现代分布式系统技术帝国的技术泰斗，他看问题的方式始终有一种**穿透繁杂概念、直击底层物理约束的穿透力。** 在今天这个喧嚣的 AI 时代，他从来不跟你空谈什么“AGI 究竟会在哪一年哪一月到来”这种虚无缥缈的宏大叙事。 相反，他每一次抛出观点，都是从**能量代价（Energy Cost）、数据搬运（Data Movement）的能耗瓶颈、延迟数字（Latency Numbers）**这些冷酷而坚硬的物理和硬件约束出发，进而去推导出更高层的软件系统应该怎么设计、大模型的架构应该怎么演进、以及两三个人组成的创业公司的破局机会到底在哪里。 当全世界的开发者和投资人都在疯狂卷模型参数量、卷预训练数据集大小的时候，Jeff Dean 用冰冷的物理常识告诉你：**在现代芯片里，搬运数据的能量成本比实际进行数学计算贵了整整 1000 倍。** 这一瓶颈将死死扣住大模型架构的咽喉，推理硬件的专用化和极致的内存局部化，才是下一波算力效率实现数量级提升的关键钥匙。 当所有的初创团队都在陷入集体焦虑，担心前沿通用大模型在下一次迭代时会不会把自己的创业方向一枪挑落的时候，他冷静地告诉你：去寻找那些通用模型目前成功率只有 0% 到 1% 的、超出模型预训练数据分布的硬核领域，去深耕科技巨头天然无法获取的行业专有数据，利用多智能体在推理时计算的解法空间搜索去攻克长链路任务。 当全网的网民都在跟风学习怎么写出天花乱坠的“提示词”（Prompt Engineering）时，他告诉我们，未来人机协作中最稀缺、最贵的能力，其实是**品味（Taste）**。是作为人类的你，能否在最开始的时候，做出正确的物理判断——到底什么样的问题是真正有价值、值得让成百上千个 AI Agent 去为你连续跑上几周去彻底攻克的。 这种判断力，不是凭空看几篇科技新闻或行业报告就能获得的。它是从几十年如一日在机房和代码一线做系统的深厚经验里，是从一笔一笔扎实的“餐巾纸数学估算”里，是从一次次主动打破既有行业默认假设的“疯狂思想实验”里，一口一口啃出来、沉淀下来的硬核智慧。 最后，大飞也想借用 Jeff Dean 在对话中提到的那个思想实验，来问问屏幕前的大家： **如果让你现在跳出日常的工作习惯，去挑战一个目前在你的专业行业里、所有人都默认成立但可能已经过时的假设，那会是什么呢？** 感谢大家的收听，这里是最佳拍档，我们下期再见！