--- author: Best Partners TV date: '2026-07-05' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=pHyVWDOQ4wg speaker: Best Partners TV tags: - ai-inference - semiconductor-supply-chain - hardware-software-co-design - silicon-economics - space-computing title: 算力战争的终局：AI推理市场将超越石油与太空数据中心的崛起 summary: 本篇整理自SemiAnalysis创始人迪伦·帕特尔的深度专访。他指出未来AI推理市场规模将超越石油行业，并从个人硬件启蒙聊到算力经济、软硬协同设计、内存与功耗瓶颈、GPU与TPU之争以及太空算力的终局图景。 insight: '' draft: true series: '' category: tech-trends area: tech-engineering project: [] people: [] companies_orgs: - SemiAnalysis - NVIDIA - Google - OpenAI - Anthropic - Sequoia Capital products_models: - TPU - GPU - InferenceX - DeepSeek - Claude media_books: [] status: evergreen --- ### 破局者的成长轨迹与硬件启蒙 在当今科技界，**半导体**（Semiconductor: 导电性能介于导体与绝缘体之间的材料，是集成电路的基础）与人工智能硬件的演进速度决定了全球生产力的天花板。如果问你全球规模最大的单一产业是什么，多数人的第一反应会是石油。然而，知名研究机构 **SemiAnalysis** 的创始人**迪伦·帕特尔**（Dylan Patel）在接受**红杉资本**（Sequoia Capital）深度专访时，给出了一个反常识的论断：未来 **AI推理**（Inference: 运行训练好的深度学习模型以产生预测或输出的过程）的市场规模将全面超越石油行业，甚至占据全球 GDP 的数个百分点。同时，他指出算力战争的终局不在地面数据中心，而是在太空。 回顾迪伦的入行起点，这种宏大视角的背后其实蕴含着极其接地气的商业思维。迪伦成长于一个经营汽车旅馆和加油站的小生意家庭，从小就在店里帮手。他开玩笑说，自己训练的第一个神经网络，就是根据走进加油站顾客的外貌特征，预判他们会购买哪种香烟，并在顾客开口前将垫脚凳搬到对应的货架前，因为当时年幼的他够不着顶层货架。这种预判需求、提升效率的底层逻辑，与他如今从事的算力经济研究本质相通。八岁那年，迪伦预支了圣诞礼物拿到一台刚发布的 **Xbox 360**，随后机器遭遇了著名的“死亡红环”硬件故障，他硬着头皮拆开机身、短接温度传感器将其修好，自此踏入硬件领域。十二岁时，他已深度沉迷于各类科技论坛，成为安卓、苹果、谷歌及多个硬件板块的版主，持续追踪英特尔、英伟达和 AMD 等公司的技术演进。在智能手机从简单通讯工具进化为复杂架构的浪潮中，迪伦敏锐地指出，与大众追捧 AMD 的性价比不同，他始终认为英伟达的技术更优，能够以更小芯片获得更高的性能和能效，利润率也更具压倒性优势。这种技术加商业的双重视角，在他十几岁时就已成型。除硬件外，他还沉迷于《星际争霸2》并打入北美天梯的宗师段位，培养了一种正向的偏执。 大学毕业后，迪伦获得了几个与半导体无关的学位，随后在一家小型风投机构担任了两年量化分析师。他依靠精准发掘市场机会为公司赚取了数百万美元的无风险收益，却不幸遭遇功劳被抢、奖金泡汤并最终被解雇的变故。几乎在同一时期，与他感情深厚的祖母离世，叠加感情问题与疫情爆发，迪伦跌入了人生谷底。那段时间他寄宿在哥哥家，靠在网络发帖、炒股度日，并开始追踪当时初现端倪的全球半导体短缺问题。在由于被人肉搜索而公开身份后，他调整心态，在自己24岁生日那天正式推出了 SemiAnalysis 博客。随着文章的走红，他的咨询业务呈现爆发式增长。有趣的是，在 2020 年，他曾开着皮卡，装着帐篷和充气床垫，用六个月时间环游美国国家公园，工作日寻找30美元一晚的廉价汽车旅馆工作，周末则进行徒步，并阅读专业书籍、收听半导体和 AI 相关的有声书。那段孤独的旅程磨砺了他的意志，使他能够忍受高强度的行业追踪。如今，他每年参加四十多场行业会议，涵盖顶尖 AI 学术会议到极硬核的光刻、光掩模专业会议。他坦言自己第一次参加 SPIE 高级光刻会议时，有百分之九十的内容完全听不懂，但到了第三次已能听懂七成。正是这种对复杂半导体供应链的死磕精神，为 SemiAnalysis 奠定了无可替代的行业话语权。 ### 动态基准测试重塑推理经济学 在建立对硬件底层供应链的深厚认知后，迪伦将目光投向了决定 AI 落地成本的推理市场。随着大模型应用走向爆发，传统的静态性能基准测试暴露出严重缺陷：它们往往只是单一时间点的快照，而在快速迭代的软件生态中，很多推理优化库和驱动程序每周至少更新两次。为了解决这一痛点，SemiAnalysis 联合行业伙伴开发了 **InferenceX** 这一动态基准测试平台。平台得到了 CoreWeave、Crusoe、Nebius、甲骨文、微软、亚马逊、谷歌和 OpenAI 的大力支持，获赠的算力与硬件资源总价值超过五千万美元，加上后续引入的 TPU 和 Trainium 芯片，硬件规模已突破一亿美元。 InferenceX 每天在十五种不同的芯片上以全自动化的方式测试最新模型（包括国内的月之暗面、阿里模型，以及西方最前沿的开源模型），遍历海量的参数配置。在这些测试中，最核心的可视化工具是吞吐量与交互性的**帕累托最优**（Pareto Optimality: 资源分配的一种理想状态，即在不使任何其他维度变差的情况下，无法让某一维度变得更好）曲线。该曲线清晰地标示出在不同批处理大小（Batch Size）下，系统在**延迟**（Latency: 从发送输入请求到接收到输出响应所经历的时间）与**吞吐量**（Throughput: 系统在单位时间内能够处理的数据量或 token 数量）之间的博弈点： * **极致延迟模式**：针对实时对话等需要极速响应的场景，批处理大小设得很小，并应用**推测解码**（Speculative Decoding: 一种利用小型草稿模型快速生成候选 token，再由大型目标模型进行并行验证的推理加速技术）与**多Token预测**（Multi-token Prediction: 一种在单次前向传播中同时预测多个未来 token 的模型架构与训练方法）等技术，不惜成本地压低单用户延迟。 * **极致吞吐量模式**：针对文档离线分析、数据挖掘等对实时性要求不高的场景，将请求队列填满，追求最低的单 token 成本与最高系统吞吐。 这一曲线的发现直接推动了各大 AI 厂商的差异化定价策略。例如，Anthropic 的 Claude 快速模式以及 OpenAI 的优先级队列，本质上都是在这条曲线上针对不同用户付费意愿进行的商业变现尝试。未来，一刀切的推理算力供给将被彻底打破，精细化的负载切分与定价将成为行业常态。 ### 能源极限与太空算力终局 随着算力需求以指数级速度飙升，陆地电力供应的物理极限正在成为大模型持续演进的最大掣肘。针对未来有多少推理计算会发生在太空这一前瞻性问题，迪伦给出了阶段性的研判：在未来三到五年内，太空数据中心受限于技术成熟度仍显得无关紧要；但在二十年之后，全球绝大多数的新增算力都将部署在太空中。这一趋势的背后，是陆地发电成本与全球能源生产物理极限的残酷博弈。 根据 SemiAnalysis 的测算，到 2030 年，仅 OpenAI 和 Anthropic 两家巨头的算力电耗合计就将超过 100 吉瓦（GW）。如果算上 Meta、谷歌等巨头，整体用电量将达到极其恐怖的规模。而到 2040 年，算力电力消耗将步入太瓦（TW）级别。在如此巨大的能源消耗面前，尽管 AI 的单位瓦特智能（即单位能量产出的计算智能）在过去几年中，在相同基准水平下成本下降了约 60 倍，单位瓦特智能提升了近 40 倍，但其与人类大脑的泛化能效相比仍差了数个数量级。然而，计算机在能量转化上拥有人类无可比拟的优势——它们不需要睡眠、不会生病、没有饮食偏好，只要接入电源就能源源不断地将电力转化为计算能力。当地表无法承载如此高密度的发电设备与散热基础设施时，拥有无限太阳能资源的太空将成为算力部署的终极归宿。 ### 软硬协同设计是性能飙升的关键 在分析算力性能提升的来源时，行业内常有一种直觉性观点，认为过去三年的性能增长主要归功于硬件的换代，其次才是算法和模型。迪伦对此予以了坚决反驳，他指出这完全是误判。从 Hooper 架构到 Blackwell 架构是过去三年唯一的硬件代际交替，而 DeepSeek 等模型在相同硬件上的性能提升却达到了惊人的 30 倍。这表明，单位瓦特智能的巨大增益绝大多数来自于模型层与软件层的优化。例如，三年前的基准标杆是 GPT-4，而如今像 Qwen 这样总参数量仅 270 亿、激活参数仅 20 亿的小模型，实际表现已超越当年的庞然大物。 真正主导未来的，不是单一维度的硬件堆栈，而是**软硬协同设计**（Software-Hardware Co-design: 软件算法与硬件架构同步开发和联合优化的方法）。以 DeepSeek V3 为例，其混合专家模型的张量形状和通信模式完全是针对 Hopper 架构的物理特性量身定制的；而其 V4 版本则进一步针对 Blackwell 架构和华为芯片进行了专门适配。这种深度的底层绑定导致了一个技术现象：在硬件参数上非常强悍的谷歌 TPU，在运行未进行深度适配的 DeepSeek 模型时会显得十分吃力；而一旦运行专门为其网络拓扑设计的模型时，又能跑出极高的能效。这种协同设计涵盖了张量形状、网络 IO 模式、集合通信管理以及注意力算子等多个层面的联合优化。西方的顶尖实验室如 OpenAI 和 Anthropic 同样在内部进行着极致的软硬协同，只是出于商业机密未公开稀疏度与张量细节。单一抽象层提升 2 倍，三层叠加不过 8 倍；而打通模型、软件、硬件三层的协同优化，则能带来 100 倍的效能飞跃。这正是头部 AI 实验室与芯片巨头最核心的壁垒所在。 ### 物理层面的存储与功耗瓶颈 尽管软件优化能够压榨出巨大的性能，但硬件底层的物理瓶颈依然像幽灵一样笼罩着整个行业。首当其冲的是内存容量与带宽的增长极其缓慢。在技术源头上，NAND 存储单元的物理结构是二十五年前发明的，而 DRAM 单元更是四十年前的产物。在底层存储单元结构未能发生颠覆性革命的背景下，过去五年半导体行业所做的一切努力，本质上只是把**高带宽内存**（High Bandwidth Memory: 采用三维堆栈工艺的高速计算机内存接口）堆叠得更高、数据传输通道做得更宽。尽管如此，未来的突破口已经初现端倪，例如直接将内存以 3D 堆叠的方式直接键合在计算逻辑芯片之上，这有望带来带宽的爆炸式增长，部分前沿公司已在进行概念验证。 另一个棘手的物理局限是芯片的功耗密度。在过去二十年中，无论是桌面级处理器还是数据中心服务器芯片，其功耗密度一直维持在每平方毫米 1 瓦特（W/mm²）的物理临界点附近。芯片面积为 100 平方毫米，功耗就大致为 100 瓦。而如今，英伟达 Blackwell 芯片的峰值功耗已经飙升至 1400 瓦，下一代 Rubin 将达到 2000 瓦，再往后的 Rubin Ultra 甚至会触及 4000 瓦的恐怖区间。目前行业主要的应对手段依然是简单粗暴地增加硅片拼接面积，但物理规律决定了这一路线迟早会撞墙。整个半导体制造业目前正全力尝试打破 1 W/mm² 的功耗密度魔咒，通过改进供电网络和引入新的半导体材料，向硅片中注入更高的功率。但这必然会带来极端的散热挑战与严重的电气干扰，是目前最硬核的工程难题。 ### NVIDIA GPU 与 Google TPU 的场景博弈 在芯片市场的霸权争夺中，英伟达的 GPU 与谷歌的 TPU 经常被拿来作黑白对立的比较。迪伦指出，这并非简单的胜负问题，而是取决于应用场景的差异化竞争。两年后，谷歌 TPU 的年产量预计将突破一千万颗，而英伟达 GPU 也将达到数千万颗的规模，两者各自的年产值都将迈入千亿美元俱乐部。 * **NVIDIA GPU 的核心优势**：在于其强大的交换机技术与极高的通用性。其硬件架构极易适配各种突发的算法变革，拥有繁荣的第三方开发者生态。 * **Google TPU 的核心优势**：在于极高的定制能效比与针对特定计算模式的超高吞吐。其网络架构在处理特定模型时展现出极强的性能优势。 这两者竞争的终局依然受制于软硬协同设计。按照 OpenAI 目前倾向于稀疏化、高动态特性的模型演进路径，强行将其部署在谷歌 TPU 上可能会是一场灾难；反之，若将 Anthropic 和谷歌自身高度稠密、追求规则并行计算的模型部署在 GPU 上，也可能无法达到最优的效能表现。两者的物理互连拓扑同样决定了这一分化：英伟达通过 NVLink 交换机将所有芯片扁平化互联，实现无阻塞的全局通信；而谷歌 TPU 则采用芯片间直连的环状或网格拓扑，数据传输需要经过中间节点中转。这两种拓扑架构互有优劣，并反向塑造了各自平台上的模型算法架构。 ### CUDA 护城河的演变与自研芯片风险 过去，业界普遍将 CUDA 软件生态视为英伟达坚不可摧的壁垒，但迪伦认为这一叙事正在发生微妙的变化。对于顶尖的大模型企业而言，CUDA 本身作为编译工具的黏性正在减弱，因为这些公司已经具备了极其强悍的底层内核自定义开发能力，完全有能力针对新芯片重新编写优化代码，且模型本身也已开始辅助编写底层基础设施。真正的护城河，已经从 CUDA 工具链转移到了下游模型与硬件的适配生态上。 当 DeepSeek、阿里、月之暗面等开源或闭源模型的开发者在设计之初就基于 GPU 进行协同优化时，下游成千上万的推理服务商与二次开发企业为了获得立即可用的性能，自然会倾向于采购对应的英伟达硬件。然而，这引出了一个巨大的技术风险：局部最优陷阱。为了应对英伟达高昂的芯片溢价，各大科技巨头纷纷推进自研的专用集成电路（ASIC）。这些 ASIC 芯片针对当下的 Transformer 架构与注意力机制做了极其极致的硬化设计，在当前时点能效极高。但是，如果未来大模型架构发生突变，例如注意力机制被全新的非线性算法彻底替代，这些过度专用的硬件就会瞬间变成昂贵的沙子。英伟达的通用 GPU 凭借庞大的客户群体与多样的需求，反而能够保持船大难掉头时的通用灵活性。因此，强行砸下数十亿美元研发 ASIC 的企业，必须时刻警惕行业架构转向带来的归零风险。 ### 数据中心升维与多极化算力生态 随着全球算力部署规模每个季度都在刷新历史纪录，全球算力紧缺的局势依然未能缓解。预计在扣除供应链延期因素后，今年全球新增算力装机将达到 20 吉瓦，明年将超过 30 吉瓦。缺卡的根本原因在于，模型能力提升带来的商业总潜在市场（TAM）呈指数级扩大，其对算力的需求增速远超物理产能的释放速度。 只要大模型能够创造的毛利远超算力成本，算力投资就是稳赚不赔的买卖。目前 Anthropic 等厂商单 token 的毛利超过 80%，这意味着即便算力成本翻倍，依然能维持 50% 左右的体面毛利率，因此巨头们会不惜代价抢购算力。在此背景下，数据中心的壁垒也正在发生根本性改变：不再是简单的物理规模，而是高超的**负载调度**（Load Scheduling: 动态分配和平衡计算任务以最大化资源利用率的系统机制）与电力管理能力。以谷歌为例，凭借极其强悍的电力利用率榨取能力，1 吉瓦的陆地电力配套在其实际运营中可以部署高达 1.5 吉瓦的硬件。他们通过削峰填谷和动态负载调度，甚至在电网紧张时配合降载，从而卖出了超额的算力容量。这种软性管理能力直接导致了市场上数据中心租用价格的剧烈分化。 最后，这种能源与物理瓶颈的制约也深刻影响了行业的竞争格局，催生了以 CoreWeave 和 Crusoe 为代表的新兴 AI 云服务商（NeoClouds）的崛起。在传统云时代，亚马逊等巨头的 Nitro 网卡等安全隔离技术是其核心护城河，但在 AI 计算场景下，这些网卡的安全和路由开销反而成了计算延迟的累赘。新兴云服务商轻装上阵，去除了 CPU 时代的冗余架构，交付速度极快，从而抢占了巨头的市场份额。这一多极化生态的形成，正是英伟达 CEO 黄仁勋的核心战略所乐见的。黄仁勋深知，如果算力最终被少数几家掌控自研芯片的云巨头垄断，英伟达将失去定价权。因此，英伟达通过大量投资新兴 AI 实验室、全力扶持新兴云厂商并为其提供信用兜底，将 GPU 倾斜给这些新玩家。通过往算力市场中撒下大量鱼饵，英伟达旨在构建一个多极化、深度依赖其通用算力生态的竞争格局，确保自己在未来漫长的太空与地面算力战争中立于不败之地。