--- author: Best Partners TV date: '2026-07-11' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=olU7oNlS0bI speaker: Best Partners TV tags: - groq-lpu - tpu-development - loss-bias - intent-based-leadership - compute-scarcity title: 从三周破产到两百亿交易：Groq创始人Jonathan Ross的算力长征与商业启示 summary: 本文深度梳理了Groq创始人Jonathan Ross的十年芯片创业历程。从TPU的诞生、AlphaGo战胜李世石的算力内幕，到Groq LPU与Nvidia GPU的拆分部署策略、意向性领导、Groq Bonds自救计划，以及最终与英伟达达成200亿美元技术许可协议的商业逻辑。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: - Jonathan Ross - Jensen Huang companies_orgs: - Groq - Nvidia - Google - DeepMind products_models: - TPU - LPU - AlphaGo media_books: - Turn the Ship Around! status: evergreen --- ### 两百亿技术许可背后的狂人 这是一个芯片创业者花了将近十年时间做一件事，一路上几乎没有人认可他，公司几次差点关门，最终这笔交易做到了两百亿美元，而且是英伟达有史以来最大的一笔技术许可的故事。这个人的名字叫**乔纳森·罗斯**（Jonathan Ross），他是Google **TPU**（Tensor Processing Unit: 谷歌专为机器学习定制的专用集成电路）的发明者，也是AI推理芯片公司**Groq**的创始人。在2025年12月，英伟达跟Groq签了一份大约两百亿美元的非独占技术许可协议，拿下了Groq推理技术的许可权，Ross本人和Groq的核心团队加入了英伟达，而Groq作为独立公司继续运营。 这个故事里面有非常多值得深聊的东西，包括技术判断、领导力的代价、融资生态的荒诞、招聘的底层逻辑，以及一笔巨额交易是怎么在短短三个星期里完成的。 ### 围棋决战背后的算力秘密 故事得从一个特别戏剧性的场景开始讲起。2016年3月，Google旗下的**DeepMind**团队要挑战围棋世界冠军李世石。就在距离比赛还有30天的时候，DeepMind团队给TPU团队发了一封紧急邮件，说他们一直在用GPU做测试赛，结果一直在输，问TPU是不是真的像传说中那么快。Ross当时引用了电影《捉鬼敢死队》里面的一句经典台词来描述当时的回复情绪：“当有人问你的芯片是不是真那么快，你就说‘是的’。” 于是，TPU团队在短短30天内完成了整个系统的移植，结果出来之后非常惊人。围棋AI的实力是用**ELO评分**（Elo Rating System: 评估对头博弈水平的定量方法）来衡量的，这跟国际象棋的等级分类似，两百分的差距基本意味着低分者不可能被击败。AlphaGo在GPU上的ELO大概在3200左右，而移植到TPU之后，ELO评分直接跳到了大约3900。这里面的关键在于，模型完全没有变，训练数据也完全没有变，唯一改变的就是算力更快了。 为什么更快就意味着更聪明呢？Ross用围棋本身的机制做了解释。棋盘上每一步大约有270种可能的落子，AI会对这些落子做排序，选出最优的一步，然后虚拟地下出去，再虚拟地模拟对手的回应，逐层展开搜索。搜索得越深，就越有可能发现那些看起来不是最优、但在特定局面下其实更好的走法。 在第二局比赛中，AlphaGo下出了著名的第37手，这是一步出现概率仅有万分之一的创造性落子。这步棋其实在历史棋局的数据库里是存在的，但是后来团队用GPU回溯重跑的时候，系统从来没有找到过它。原因就是GPU的搜索链条不够深，而TPU更快，搜索得更深，才发现了这步棋。 Ross在这里用了一个很精彩的类比。诺贝尔经济学奖得主丹尼尔·卡尼曼（Daniel Kahneman）提出过**快思考与慢思考**（System 1 and System 2: 大脑的双系统思考模型）的框架。在GPU上的AlphaGo做的是快思考，直觉性地选排名靠前的走法；而TPU上的AlphaGo有余力做慢思考，把第二优、第三优的候选也展开推演，在具体局面下找到全局更好的路径。同一个模型，算力更快之后不只是回答更快，是回答更好。 ### 双雄互补：GPU与LPU 当然，Ross也坦承，作为TPU的创造者，他承认今天的GPU已经比TPU更强了，原因很简单，因为GPU背后有一整个产业生态在推动迭代。但这恰好解释了GPU和**LPU**（Language Processing Unit: 专为语言处理和推理设计的处理器）为什么是互补关系而不是替代关系。 Ross用物流网络来做类比：如果你要为全美搭建一个配送体系，只能在18轮大卡车和末端配送货车中间选一种，你会选哪个呢？答案是两种都要。一个大语言模型在生成**Token**（Token: 文本处理的最小语义单位）的时候要经过一系列的解码器层，每层里面有大量的矩阵乘法运算。其中一部分计算受限于算力，另一部分受限于内存吞吐。前者适合GPU来处理，后者适合LPU来处理。 多数尝试做混合部署的团队犯了一个错误：把读取和理解输入内容的阶段放在一种硬件上，把生成输出token的阶段放在另一种硬件上。但生成token才是真正困难的部分。读比写容易，这件事对AI同样成立。 Groq团队的做法是在生成token的过程内部做拆分：将负责理解上下文关联的注意力机制计算放在GPU上，将负责应用模型权重的计算放在LPU上。两种硬件各自处理自己擅长的瓶颈，合在一起消除了整条链路上的性能卡点。 这一点在**Agentic AI**（Agentic AI: 具备主动规划和工具调用能力的智能体系统）的场景下尤其关键。一个人类用户打一条指令，等一两秒拿到回复，大部分人觉得可以接受。但是一个AI Agent在执行任务的时候会调用另一个AI去做研究，那个AI又会去调用工具、启动子任务。每一次AI到AI的交互中，发出请求的AI都在等待，而它的思考速度远快于服务端返回token的速度。所以推理速度越快，这条Agent的链条才能铺得越长。LPU直接加速了现有模型的token生成速度，不需要等生态来适配，原来等一分钟拿到的回答，现在10秒就能出来。 ### 运气回报率与决策的代价 虽然两百亿美元的交易在2025年底发生了，但是快速推理有价值这个判断，在此之前几乎没有任何的外部验证。Ross用商业管理学者吉姆·柯林斯（Jim Collins）在《选择卓越》里面提出的概念——**运气回报率**（Return on Luck: 将好运转化为卓越成果的效率）来形容这段经历。柯林斯的核心发现是，在动荡环境中持续跑赢对手的公司，并不比同行遇到更多好运，只是在运气来临时，用纪律和准备把它转化为更高的回报。 Ross说自己就是这个故事的反面教材，他连续放走了两次重大机会。第一次，GitHub的CEO打电话来，说微软体系内拿不到足够GPU，问Groq的LPU能不能跑模型代码补全。Ross的直觉告诉他这完全适合LPU，但是工程团队坚持说做不到，列举了一堆GPU有而LPU没有的功能，Ross让他们说服了自己。第二次，类似的大模型部署机会出现，工程团队再次否定，Ross再次退让。 到了第三次机会出现的时候，Ross不再征求意见了。他自己做了算术，推算出性能数字，所有人都不同意，但是最终实测完全吻合他的预期。如果第一次就抓住这个机会，Groq可能已经成为微软最初的模型推理供应商。 外部市场同样冰冷。大约在2022到2023年间，Groq内部出现了大量人员流失，离开的人认为快速推理不会为生态带来任何价值。Ross去拜访客户的时候，反复听到同一个问题：“为什么我需要一个比我阅读速度还快的大语言模型呢？”他甚至做过加速演示的视频，看的人毫无反应。 转折点来自ChatGPT的爆发。Ross回忆起Anthropic在Google前CEO埃里克·施密特参与的SCSP活动上展示大模型的场景，那是在ChatGPT上线前大约三个月。台上AI回答着观众的问题，全场没有任何反应。三个月后ChatGPT上线，全民沸腾。区别在哪里？其实看别人问问题的演示毫无魔力，每个人只有用自己的问题得到属于自己的回答时，才有魔力。 Ross从中得到的教训是，快速推理的价值没办法用PPT解释，只能让人自己体验。于是Groq把高速推理服务直接放到了互联网上。Ross当时正在挪威做客户演示，发现系统响应变慢了，一查原因，原来是有人在X上发了一段Groq跑开源模型的视频，token输出速度极快，视频病毒式传播，用户暴增，服务器负载飙升。从那之后，用户在Groq上构建各种应用、录屏发布，形成了持续的传播链。这个传播过程本身，就是产品价值的最佳证明。 ### 意向性领导重塑组织信心 聊到领导力的时候，Ross的坦诚程度可能超出了很多人的预期。他说自己大概是花了三到四年时间，才走通了从技术专家到管理者的转型，而这段时间的代价是由Groq来承担的。他天生是一个委托型的人，从18岁起就没有驾照，因为他不想把注意力放在开车上，想放在思考上。这种性格让他自然倾向于把事情交给别人。问题是早期雇的人并不具备独立运作的能力，他们习惯被指令驱动，但Ross不太会下指令，事情就停在那里，等到Ross实在忍无可忍开口指挥的时候，又因为太不自然，团队也不接受。 转折发生在Groq大概35人的时候。Ross获得了一个机会，跟随一位管理2000人组织的CEO参加所有会议。他全程保持沉默，每次在心里模拟自己会怎么做决策，每次会后CEO做出决定，Ross发现和自己想的完全一样。他意识到自己缺的不是判断力，是表现出判断力的信心。回到公司后，他没有改变任何的决策内容，只是开始以确定性的态度传达决策，领导力效果立刻就不一样了。 想通自己的领导力类型之后，Ross给Groq每个员工发了一枚**挑战币**（Challenge Coin: 象征团队精神与共同目标的金属代币），上面刻着“每秒2500万token”。芯片团队、软件团队、供应链团队、数据中心运营团队，所有人都能把自己的日常工作连接到这一个数字上。 臭鼬工厂的创始人凯利·约翰逊（Kelly Johnson）说过一句话：“极端表现往往源自一个残酷清晰的优先级。”Ross在实践中也印证了这句话。他在访谈里说了一段非常深刻的话：给一个人的约束越少，他用来解决问题的自由度就越高，他用解决方案给你制造惊喜的概率也越大。如果你想团队创新，团队成员必须有能力在结果上给你制造“好的意外”，但前提是你必须能极其精确地提炼出你到底要什么。说不清楚，就会要么约束太多把人框死，要么约束太少让人不知道方向。 Ross还从一个核潜艇舰长那里学到了一课。他读了大卫·马奎特（David Marquet）的《Turn the Ship Around!》（《夺回你的船》），这本书讲的是怎么把指挥控制型组织改造为人人主动担责的组织。马奎特是核潜艇“圣达菲号”的舰长，接手时战备评估排名垫底，一两年后升到了第一，方法就是用意向性领导取代指挥控制。 在指挥控制模式下，舰长说下潜，所有人照做，即使舱门还开着也没人说话。而在**意向性领导**（Intent-Based Leadership: 强调下属基于自身意图提出行动方案并承担责任的领导模式）模式下，当每个人说“我打算把潜艇下潜到500英尺”时，如果有人发现舱门开着，他会立刻喊停，因为他参与在决策中了。 Ross说这完美解释了他在Groq反复撞墙的原因。当他问团队“你觉得我们应不应该做这个”时，对方会表达悲观意见，而悲观意见一旦开口就很难收回；但当他换成“我打算做这件事”时，人们不会主动跳出来反对，除非真的有严重问题。同样的团队、同样的项目，只是换了一种措辞，推进阻力完全不同。前面提到的第三次模型部署机会，Ross用的就是这个方法。他做了一份演示，直接说“我们要在每块芯片上达到这个速度”，神奇的是，没有人再说做不到，大家开始讨论怎么做到。 Ross还指出了一个更深的平衡问题：创业者在早期会收到过多的反对意见，到后期又收不到足够的真实反馈。意向性领导的价值在于同时解决两端，它不邀请无意义的悲观情绪，但当真正的风险存在时，团队成员仍然会开口。 ### 零政治与英伟达的决策美学 Ross加入英伟达之后，观察到了一个他认为极为罕见的现象：几乎没有内部政治。他在Groq的时候已经学到了一些教训，但在英伟达看到黄仁勋把这件事推到了极致。黄仁勋从不和下属做一对一的谈话。Ross在Groq的经历是，他和A聊一件事，再和B聊同一件事，两个人各自听到不同版本，转头一对比，结论完全跑偏。但如果把A和B叫到同一个房间里说同一番话，所有人听到的就是同一件事。 还有一条延伸规则：不允许任何人单独给上级发邮件。有人发邮件说某某人在这件事上搞砸了，黄仁勋的做法是把那个人加进邮件抄送，让对方直接参与讨论。于是，暗箱操作、小团体、背后告状就失去了生存空间。 Ross在描述黄仁勋的决策风格时做了一个自我对比：他自己以前过于热衷下三维棋，想各种策略套路；而黄仁勋的方式简单到粗暴——客户需要什么就给什么，相信客户需要的东西就卖，不相信的东西不卖，不搞花活。 ### 濒死边缘的拯救方案 不过这一切差点就不存在了，Groq曾经离破产只有三周。融资之路之所以那么曲折，根源在于VC生态的**羊群效应**（Herd Behavior: 投资者在信息不确定时盲目跟随他人决策的现象）。Ross的观察很有意思：西海岸VC更像旅鼠，一家投了其他家跟着投，一家不投其他家也跟着不投；东海岸VC恰好相反，每家都觉得自己比别家聪明，独立做分析。 Groq的早期投资人在VC圈不受欢迎，导致整个西海岸集体不跟，结果Groq最后一轮融资中几乎没有典型的硅谷VC，主要是东海岸做一二级市场跨界投资的基金。这群被集体放弃的投资者，最后押中的是英伟达有史以来最大的一笔交易。 Ross用凯恩斯的选美大赛来解释这种行为。凯恩斯的思想实验是，给你一本杂志让你押注哪个模特最美，但最美的标准和审美无关，取决于谁获得最多押注。在这个规则下，跟风押注大资本的选择是理性策略，硅谷VC也长期按这个逻辑运作。但是Ross指出了一个变化：过去获得最多资金的创业公司确实有优势，但是现在不同了，创业公司拿到的钱已经足够多，再多没有边际收益。也就是说，市场还在按旧规则下注，但是旧规则已经失效了。 最危急的时刻，当时Groq大约有450人，管理团队已经在制定裁员名单。Ross审阅名单之后发现，如果按这个名单执行，公司必死。他们需要完成一种全新的编译器，让系统能自动完成底层硬件指令的编排，不再需要工程师逐条手写所谓的内核指令。在此之前，没有人成功做过这件事。砍掉名单上的人意味着失去完成编译器的能力，即使省下三周运营资金，也到不了产品能工作的那一天。 Ross需要在不减少人员的前提下降低现金消耗。他开了一个全体大会，屏幕上放出二战时期战争债券的图片风格，宣布了**Groq Bonds**计划（实际操作是用薪水换取公司股权）。结果远超预期，80%的员工参与了，其中大约一半直接把薪水降到了法定最低标准。对于原本年薪数十万美元的工程师来说，这意味着降到五六万美元。Groq因此多获得了大约两个月的运营资金，全程人员流失率只有5%左右，比宣布计划前的自然流失率还低。 Ross用一个比喻来总结这件事：把所有人的手放在方向盘上。当你是汽车里的乘客，遇到弯道或悬崖公路会更紧张；当你是司机，同样的路反而觉得可控。Groq Bonds让员工从被动观望变成了主动参与拯救公司，手放在方向盘上之后，他们反而比之前更稳定了。 ### 招聘的科学与心智模型 Ross在招人方面也经历过一次根本性的认知翻转。他在Groq建立了一套叫 **People Spec**（人员规格书：定义人才核心特质的标准化招聘指南）的招聘规格文档，跟产品规格书一样有版本号，会持续迭代。核心逻辑是，如果你不把要找什么样的人写下来，你就不会真的找到那种人，因为聪明的面试官太容易在现场说服自己“这个人有某个特别的优点，我应该要他”。 People Spec用正反两面来定义特质： * 正面比如**运气回报率**，是遇到机会能抓住的能力；反面叫浪费运气，让机会从手边溜走。 * 正面还有一个叫**诗意设计**的概念，Ross说诗歌的本质是语义密度，用最少的词表达最多的意思。因此，“每一个词都重要”是他在Groq反复强调的一句话。这个标准不限于文字，产品设计、芯片架构都一样。反面是最大化设计，把所有功能都塞进去，用户连该点哪里都找不到。 * Ross特别看重一种他称之为**现实商数**（Reality Quotient: 准确识别和评估客观现实，并找出最优博弈方向的能力）的素质。他说，有很多极其聪明的人，就算现实拍他们的肩膀他们也认不出来。现实商数最高级的形态是识别出当前最重要的那个博弈。识别现实只是看到眼前发生了什么，识别博弈是判断出当前应该优化哪个变量。MySpace把注册账户数当核心指标，Facebook把月活跃用户数当核心指标，如果你优化月活，你一定会赢过优化注册的对手，因为你在玩一个更好的游戏。创始人的核心职责就是帮团队把日常工作和这个最高维度的博弈连接起来。 * 还有一个有趣的筛选维度和行为经济学有关。行为经济学中有一个被广泛验证的结论，那就是损失带来的痛感大约是同等收益带来的快感的六倍。Ross发现了一种和这个特质相关的心理模式：一次架构会议上有人提出一种方案可以让芯片速度翻倍，Ross环顾四周，没有发现任何人显得特别兴奋。他后来想明白了，其他人听到的是“如果我们这么做，芯片能快一倍，那就放到下一代芯片里吧”；而Ross听到的是“如果我们不在这一代做这件事，这块芯片就比它应有的速度慢了一半”。也就是说，他在听到某件事可行的瞬间，就把收益记账了，一旦记账，不去做就等于亏损。他把这种心理特质称为**损失偏好**（Loss Bias: 将未来的潜在收益视作既得利益，从而将未达成的收益视作实际损失的认知倾向），并在招聘中专门寻找具有这种特质的人。 Ross说招人最大的认知翻转，其实是从找正面特质转向筛负面特质。他把这总结为两种需要分开的心智模式：**成长模式与选拔模式**。帮一个人成长的时候，给他看正面榜样、展示路径，对方就能学会。这就像慈善募捐的规律一样，提高捐款金额最有效的方法其实和让人觉得慈善伟大无关，关键是告诉他们钱该往哪儿寄。给人一条路径，他们就会行动。但选拔不一样，选拔的核心动作是说不。一个人可以同时拥有正面特质和负面特质，如果带着负面特质的人加入团队，他会把这种特质带进整个组织。 ### 变革管理与算力的未来 回到那笔两百亿交易本身，起点其实不是Ross，而是他的COO桑尼·马德拉（Sunny Madra）。Madra自主提出把Groq的LPU和英伟达的GPU物理连接在一起，看看会发生什么。Ross在这件事上没有下达任何指令，Madra是基于自身判断发起的实验，这恰恰就是自主性领导的回报——雇了足够自主的人、给了足够少的约束，他们会在你没有预料到的方向上创造成果。 实验做了大约三四个月，GPU和LPU的组合在性能曲线上的表现，确实优于单独使用任何一种。Ross带着这个结果去找黄仁勋，本来是想购买大约10万块GPU自己部署，黄仁勋看了演示之后判断，这项技术应该向英伟达所有客户开放。三天后黄仁勋打来电话提议更紧密的合作，三周后合同签完、资金到账，再过一天，也就是2025年的圣诞节，Ross就拿到了英伟达的工作笔记本，正式入职。 Ross从工程师转型创始人之后，领悟到的最重要的一件事是：如果你在做颠覆性的事情，你的全职工作就是变革管理。**变革管理**（Change Management: 引导组织成员从当前状态平稳过渡到期望未来状态的系统化过程）的第一原则是让变化看起来不像变化。没有人喜欢变化，那些看起来喜欢变化的人和抗拒变化的人之间的差异，通常是他们在看不同的东西。 如果一个人的目标始终是最大化部署的token数量，那当具体的实现方式变了，对他来说什么也没变；但如果一个人的关注点落在这块芯片的具体设计上，那任何改动在他眼里都是变化。所以，领导者的变革管理职责，就是给团队足够的上下文，让他们看到自己追求的目标其实没有变。 在节目的最后，Ross分享了一些更个人化的思考。他观察到一个规律：每个持续成功的人都对某件事不满。有人几亿美元身家，但在跟更富的人比较，这种不满驱动他们继续创业；另一些人对自己之前写过的东西不满。不满的对象各不相同，但所有持续前行的人都有某种不满在驱动。 Ross当下的不满是世界上的算力不够。AI有可能加速癌症治疗的突破，有可能找到延缓衰老的方法，如果因为算力不够，这些进展多花了一年时间，每一个在这一年中因癌症去世的人，在Ross的心理账本上都记在自己的账上。宝丽来创始人埃德温·兰德（Edwin Land）比Ross更早用过类似的方法，兰德在发明偏振片减少车灯眩光之前，曾经在实验室白板上写下当天因眩光致死的人数。不同的领域却采用了同一种驱动机制，那就是把每一天的延误变成一笔可量化的人命账。 Ross对AI带来的变化有一个很具体的观察：他的行政助理现在会写软件了。每次出差，助理做一个小应用，点进去能看到天气、实时更新的信息、联系电话，所有内容动态拉取。他把过去几十年的软件开发称为**代码配给制**（Code Rationing: 由于开发成本高昂导致软件开发能力被限制在少数专业人员手中的状态）。工程师会天然地对新功能说不：不确定就不做，不验证就不写。 但是当代码的边际成本趋近于零之后，逻辑翻转了——先做出来，体验了再说，不好就重写。Ross用识字史做类比：曾经只有抄写员能读写，后来有了更简单的字母表让更多人学会，再后来有了教育系统让所有人都能读写，写代码正在经历同样的过程。当所有人都能读写代码之后，竞争优势就转向了内容本身的质量。 黄仁勋也有过一段相关的话，他说，人们害怕管理可能比自己聪明的AI Agent，但黄仁勋的回应是他已经在做这件事了，他大约有60个直接下属，每一个人在自己的领域都比他聪明，他完全没有问题来协调他们。Ross认为未来会出现大量没有大团队、却创造了高价值公司的个人创始人。 对于教育，Ross的观点也很具体：不要再教孩子回答问题，要教他们提问。如果一道作业题能通过上网查到答案或让AI直接解决，说明这道题考的是错误的能力。正确的做法是给学生一个真实的社区问题，比如优化城市许可证流程，让他们提问、让AI帮他们解决、然后评估他们提问的质量。 Ross的故事之所以有意思，不只是两百亿美元这个数字，而是这个过程中的每一个选择背后，都有清晰的逻辑，包括那些做错的选择。十年没人买账的时候，他没有改变方向；濒临倒闭的时候，他选择了一种近乎赌博的方式来保住团队；在做技术判断的时候，他学会了不再让别人替他做决定。这些选择叠加在一起，才让运气真正变成了回报。 Ross现在在英伟达的LinkedIn签名写的是“让世界AI算力翻倍”。这句话听起来挺平淡的，但是考虑到这个人花了十年做了一件所有人都认为不值得做的事，最终被行业最大的玩家以两百亿美元的代价买走了他的判断，这个平淡背后，其实有着沉甸甸的价值。