--- author: Best Partners TV date: '2026-07-30' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=lffdUgPBABY speaker: Best Partners TV tags: - ai-infrastructure - hardware-architecture - semiconductor-acquisition - organizational-culture - network-routing title: Meta Infra千亿AI基建深陷泥潭：部门博弈、文化沉疴与定制化执念的百亿代价 summary: 本文基于SemiAnalysis的深度爆料，详尽解构了Meta在AI基础设施建设中所面临的系统性挑战。通过对Rivos芯片收购案的整合失败、Grand Teton服务器设计的软硬件脱节、Ariel定制机柜在GB200时代造成的百亿损失，以及AMD MI450定制芯片的内部博弈进行深度剖析，揭示了其在短期绩效考核机制下所滋生的组织文化弊病。文章强调了软硬件协同设计以及基础设施与模型团队紧密配合对AI时代算力建设的决定性意义。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: [] companies_orgs: - Meta - SemiAnalysis - Rivos - AMD - Broadcom - NVIDIA products_models: - Grand Teton - Ariel - GB200 - MI450 media_books: [] status: evergreen --- ### 半导体与算力狂飙背后的阴影 在当今全球人工智能军备竞赛中，拥有数以十万计的高性能 GPU 算力集群已经成为顶尖科技巨头入局的入场券。作为开源大模型领域的领头羊，**Meta** 凭借 LLaMA 系列模型在生成式 AI 领域确立了举足轻重的地位。然而，在这座宏伟的模型大厦之下，其底座支撑——AI 基础设施团队却正经历着前所未有的系统性动荡。近期，知名行业研究机构 **SemiAnalysis** 发表了一篇火药味极浓的行业分析文章，直白地将其命名为《Meta 的基础设施团队需要一次文化重启》。文章披露了 Meta 基础设施团队在过去数年中，由于闭门造车、盲目追求局部指标优化以及根深蒂固的政治博弈，在芯片收购、服务器研发、机柜定制以及 GPU 联合开发中踩下的巨大深坑。 这些决策失误不仅带来了直接的资金浪费，更在生成式 AI 狂飙突进的关键窗口期，让其前沿模型团队不得不使用比竞争对手更贵、更慢、更难用的算力资源。在 Meta 已经开始对外销售算力、试图将算力作为云服务变现的背景下，基础设施的高昂折旧与低效运作正在成为整个 Meta AI 战略的巨大拖累。外部云客户不会像内部被迫吞下苦果的模型团队那样宽容，他们会用脚投票选择性价比更高的方案。因此，深入解构 Meta 算力基建踩过的这些巨坑，对于所有致力于 AI 时代软硬件协同设计、智算中心规划和研发管理的从业人员而言，都具有极其宝贵的行业警示和参考价值。 --- ### Rivos收购悲剧：器官移植的致命排异与25亿美元的空转 为了摆脱对外部设计厂商的依赖并构建自主算力护城河，Meta 在去年决定以超过 25 亿美元的代价，全资收购了一家专注于 RISC-V 架构的数据中心芯片设计创业公司 **Rivos**。Rivos 当时在业界小有名气，不仅拥有自主研发的 CPU、数据并行加速器及配套的完整软件栈，而且已经完成了高性能处理器的流片工作，并构建了能够兼容现有 AI 软件生态的中间件。在当时看来，这是一笔符合长远战略考量的收购。 从技术逻辑上分析，Meta 基础设施团队收购 Rivos 的核心动机主要有两个层面： 首先是编程架构层面的互补。Meta 自研的 **MTIA**（Meta Training and Inference Accelerator：Meta 自主研发的训练与推理加速器芯片）一直采用的是**单指令多数据流**（Single Instruction Multiple Data: 简称 SIMD，一种并行计算架构，通过单条指令同时处理多个数据通道）的硬件设计架构。这种架构虽然在执行特定规则的矩阵乘法时效率极高，但在应对大模型时代复杂、多变且动态的计算图时，其可编程性显得捉襟见肘。相比之下，Rivos 拥有的核心 IP 采用的是更接近英伟达 GPU 的**单指令多线程**（Single Instruction Multiple Threads: 简称 SIMT，一种常用于 GPU 的编程与执行模型，允许同一指令在多个线程上并行执行）架构。这种架构在处理控制流分支、动态维度和复杂 kernel 时具备无可比拟的灵活性。 其次，Meta 极度渴望借此获得**客户自有工具**（Customer Owned Tooling: 简称 COT，指芯片设计公司直接管理代工厂制造和测试流程，无需依赖第三方设计服务公司）的能力，从而绕过博通（Broadcom）等传统 ASIC 设计服务伙伴，直接对接台积电等晶圆代工厂，自己管理芯片的后端物理设计、封装及测试流程，以降低芯片采购成本。 然而，这桩看似双赢的并购交易，在进入 Meta 庞大而臃肿的组织内部后，迅速演变成了一场灾难性的“器官排异反应”。在交易谈判中，由于 Rivos 的创始人坚持“全有或全无”（All-or-Nothing）的整包出售策略，Meta 被迫买下了包括 CPU 团队在内的整个公司，但在收购完成后又迅速对自己不感兴趣的部门进行了大规模裁员。更加要命的是，原有的 Meta 芯片团队管理者并未将这批稀缺的半导体人才视为核心资产，而是将其当成了免费的“人头池”（Headcount Pool）。各个部门为了膨胀自身的势力范围，开始疯狂抢夺 Rivos 的工程师来填补自己的组织编制，硬生生将原本配合默契的创业先锋团队拆得七零八落。 在这种恶劣的内部政治生态下，Rivos 的人才开始大量流失。原本计划采用 Rivos GPU 核心知识产权（IP）的下一代芯片项目 Olympus 很快因系统和封装方案过于激进、软件栈未就绪而宣告流产，替代它的新项目 Phoebe 的流片时间更是被直接推迟到了遥远的 2028 年。随收购加入的 Rivos 工程师中有大约 30% 在最近的调整中被直接解雇，联合创始人马克·海特（Mark Hayter）也愤而离职。在今年五月第一批**限制性股票单位**（Restricted Stock Unit: 简称 RSU，公司向员工授予的一种股权激励方式，在满足特定条件或服务期限后归属）归属日过后，大批骨干员工纷纷出逃，跳槽加入了杰拉德·威廉姆斯（Gerard Williams）的新创芯片公司 Nuvacore；就连 Rivos 的 CEO 普尼特·库马尔（Puneet Kumar）也被爆出可能在股票全部解禁后选择离开。 从商业投资回报率（ROI）的角度来看，行业内从零开始搭建一支具备完整 COT 能力的专业设计团队，一年的运营预算大概在一亿美元左右。而 Meta 为了省去这几年的建设时间，直接支付了 25 亿美元的巨额溢价，却在随后的组织内耗中把这支宝贵的队伍消耗殆尽。这笔高买低卖、人财两失的半导体收购案，直接反映出了 Meta 基础设施团队在处理高壁垒技术团队整合时的业余与低效。 --- ### Grand Teton服务器：闭门造车的“软硬件协同”幻觉 如果说 Rivos 并购案的失败暴露的是 Meta 组织整合能力的低下，那么 **Grand Teton** 服务器的设计过程，则是基础设施团队在缺乏软硬件协同设计意识下闭门造车的典型案例。Grand Teton 是 Meta 针对 NVIDIA H100 GPU 平台定制开发的一款高性能服务器，其最大的特色是在标准的 HGX 架构之外，额外塞入了一个包含四颗博通 PCIe 交换芯片、16 块固态硬盘（SSD）和 8 块高性能网卡的“交换托盘”（Switch Tray）。 基础设施团队在设计立项时给出的技术推导非常合理：在大语言模型进行分布式训练时，为了防止硬件故障导致训练进度丢失，系统需要高频地将模型参数和优化器状态保存为“检查点”（Checkpoint）。在基础设施团队的直觉中，这种海量的数据写入动作需要极高的本地直连存储带宽。然而，这一极度占用整机功耗、极大地推高了物料成本且显著增加了故障点（SPOF）的激进设计，在立项之初根本没有经过核心模型团队的场景验证。当服务器大批量产并投入生产环境后，模型团队开始采用混合架构的分布式存储方案，对本地直连 SSD 存储的实际读取和写入需求远低于预期。由于这套耗资巨大的交换托盘在生产中大部分时间都处于闲置状态，Grand Teton 服务器最终在后续的迭代中被迫取消了这一冗余设计。 更具讽刺意义的是，从纯粹的技术演进路线上看，这一设计甚至在立项阶段就已经落后于半导体行业的技术进化。在 NVIDIA Hopper 这一代架构中，其集成的 ConnectX-7 网卡已经在芯片底层直接实现了 PCIe 交换功能，大大降低了主机 CPU 旁路独立 PCIe 交换芯片的必要性。利用英特尔 Sapphire Rapids 处理器本身提供的 80 条 PCIe 通道，完全可以设计出不包含任何额外交换托盘、却能原生挂载 8 块 E1.S 规格 SSD 的精简版方案。然而，Meta 的基础设施团队为了所谓的“便于模块化维护、保留非英伟达网卡备选方案、降低单一供应商锁定风险”等冠冕堂皇的理由，强行推进了这一设计。 最终的现实给予了这一决策无情的重击。博通的 PCIe 交换芯片在机架内是焊接式的，根本无法实现热插拔维护；而 Meta 内部的软件生态又深度绑定了 NVIDIA 独占的 RoCE 网络协议栈，更换非英伟达网卡在商业与工程上从不是现实的选项。这一闭门造车的设计最终导致 Grand Teton 服务器的**物料清单**（Bill of Materials: 简称 BOM，制造产品所需的全部原材料、组件和部件的详细清单）成本大幅飙升、整机功耗暴增、系统集成与测试难度呈几何级数增加，其**总拥有成本**（Total Cost of Ownership: 简称 TCO，指资产在其生命周期内产生的全部直接和间接成本的总和）指标极其低效。Meta 不仅没有减少对 NVIDIA 的依赖，反而额外增加了一层对博通芯片供应链的强依赖。 尽管从历史的后视镜看，Grand Teton 方案定型于 2021 年底，彼时 ChatGPT 尚未问世，Meta 的核心业务仍然以个性化推荐系统和传统的图像视频 AI 处理为主，拿大模型时代的指标去考核大模型前夜的设计有些不近人情。然而，基础设施团队在未与下游模型团队充分沟通的前提下，就擅自代表用户定义需求，并为了局部技术的极致性而牺牲整体系统 TCO 的工作逻辑，却在接下来的 Blackwell 时代变本加厉地重演了。 --- ### Ariel定制机柜的执念：百亿美金的“推荐系统优先”陷阱 在 NVIDIA 推出颠覆性的 GB200 芯片平台后，行业标准的部署方式是采用单机架集成 72 颗 GPU、通过 NVLink 铜背板实现无损高速互联的 GB200 NVL72 方案。然而，Meta 的基础设施团队在此基础上，却固执地要求英伟达为其开发一款名为 **Ariel** 的高度定制化机柜。标准的 GB200 配置中，一颗 Grace CPU 对应连接两颗 Blackwell GPU，而 Ariel 方案则强行通过在 Bianca 计算板上减少焊接一颗 GPU 的方式，将这一配比改成了 1:1。 这一极其奇特的技术选型，源于 Meta 内部对于个性化推荐系统的“路径依赖式”执念。在 Meta 庞大的社交流量变现矩阵中，推荐算法的核心在于处理庞大的“嵌入表”（Embedding Table），即用于表征用户特征、广告标签和内容向量的超大规模分散式数据表。这类负载的特点是计算本身并不特别密集，但对 CPU 的处理性能以及系统内存（DRAM）的检索带宽有着近乎变态的要求。Grace 芯片搭载的超高带宽 LPDDR5X 内存，正好是存放这些嵌入表数据的绝佳物理媒介。从单纯的推荐系统业务视角来看，通过在机架中塞入双倍数量的 CPU、减少昂贵的 GPU 占比，确实能够大幅提升推荐算法的运行效率。 然而，支持了这一逻辑自洽的代价，是全局系统设计的支离破碎： * **物理算力缩水**：单机柜内集成的 GPU 数量从 72 颗直接腰斩至 36 颗。对于大模型团队而言，为了在分布式训练中凑齐原本单机柜就能实现的 72 颗 GPU 的 Scale-up 局域互联规模，就必须采用将两个 Ariel 机架拼在一起的 NVL36x2 方案。 * **网络延迟与成本失控**：在这套方案下，两个机架之间的通信无法直接通过主板背板的铜线互联，而必须依赖昂贵且密集的跨机架**以太网有源铜缆**（Active Copper Cable: 简称 ACC，一种内置有源芯片以增强信号质量、延长传输距离的高速铜质连接线缆）去强行连接两个机柜的物理交换机托盘。这直接导致网络中的物理交换机数量翻倍，且在跨机架的数据传输中多了一跳（Hop）的物理网络延迟。 * **高昂的财务与运维溢价**：经过 SemiAnalysis 的精确估算，由于定制了非标主板并增加了大量的昂贵线缆与交换设备，Ariel NVL36x2 方案的实际 TCO 比 NVIDIA 标准的 GB200 NVL72 高出了 14%。Meta 多花的这几十亿美元预算，买回来的却是模型团队根本不需要的冗余 CPU 和 DRAM 硬件。 更具有戏剧性的是，Meta 基础设施团队最初强推 Ariel 方案时，曾极力辩称单机架 72 颗 GPU 的物理铜背板技术在量产初期可靠性存疑，使用 36 颗的低密度机柜更为稳妥。但现实情况是，NVIDIA 的铜背板量产工艺非常迅速地走向了成熟，反而是在 Ariel 方案中由于跨机架布线带来的数以千计的物理光电接口与外部接线点，成为了系统运行中故障率最高的重灾区。正因如此，在下一代的 GB300 规划中，这一被证明完全失败的 36x2 架构已经被全行业彻底抛弃。 Meta 的整个 GB200 算力机群在决策阶段全部采用了 Ariel 这一非标定制款。这意味着，在生成式 AI 狂飙突进、抢夺算力发布时间差的关键时期，Meta 的大模型研发团队拿到手的，却是一套在性能上先天受限、在延迟上落后于人、在造价上却贵了 14% 的非标二等基础设施。 --- ### 半血版MI450定制：前线炮火与后方指挥的致命错位 如果说 Ariel 的失误已经是无法挽回的既成事实，那么围绕 AMD 下一代 MI450 加速器的合作，则是正在上演的一幕“组织机能失调剧”。在 AMD 最近的业绩电话会上，其官方证实正在为 Meta 提供一款非标定制的 MI450 加速芯片。通过分析其硬件规格，这款定制芯片实质上是完整版 MI450X 的“阉割半血版”——其物理封装内的计算晶片（Compute Dies）数量被直接砍半，同时搭载的 HBM（高带宽内存）颗粒堆叠层数也从 12 层降级到了 8 层。 毫无意外，Meta 基础设施团队强推这一剪裁方案的出发点，依旧是试图为个性化推荐系统榨取更高的 CPU 与 GPU 计算配比。但从半导体制造与架构设计的常识来看，MI450 作为业界首款采用 2 纳米制程工艺、融合了 3D 混合键合（Hybrid Bonding）技术、拥有最大 CoWoS 物理光罩面积并采用下一代 HBM4 内存的尖端芯片，其全部的价值都在于通过极致的晶片堆叠来获取超高带宽与计算密度。Meta 基础设施团队将这样一颗物理极限级别的芯片直接“对半劈开”，彻底磨平了该芯片本身最具市场竞争力的性能闪光点，将其变成了一颗高不成低不就的尴尬产物。 这一滑稽设计背后的组织毒素，是内部跨部门沟通管道的彻底瘫痪。这一影响未来数年 Meta 自研算力走向的硬件剪裁决策，是在 Meta 负责开发前沿基础模型的顶尖实验室 **TBD Lab** 成立前就已经由基础设施部门强行拍板定案的。换言之，作为这批芯片未来最大、最核心的用户，大模型研发团队甚至在没来得及发表任何意见、提交任何实际测试反馈的情况下，事情就已经被后方的基础设施管理者彻底敲定了。 面对这批计算能力严重萎缩、内存容量与带宽严重缺损的半血版 GPU 硬件，TBD Lab 的研究员们表达了极度的冷淡与抗拒。他们宁可直接向英伟达采购标准的 Rubin 架构 GPU，也不愿意耗费宝贵的时间去为这颗定制的“怪胎”芯片优化底层算子。在商业化层面，这批缩水芯片由于性价比极低，对外销售算力时也不会有任何云客户愿意买单。这一闭门造车、自说自话的决策不仅将极大地伤害 AMD 在 Meta 内部的实际出货量，更将直接导致 Meta 耗资巨大的自主算力链条再次陷入空转。 --- ### DSF与网络架构的路径选择：技术极致与商业理性的博弈 面对 SemiAnalysis 疾风骤雨般的批评，我们也应该客观地看到，Meta 基础设施团队并非在所有领域都一无是处。在网络连接技术层面，他们主导研发的**分布式调度网络**（Distributed Scheduling Fabric: 简称 DSF，一种利用虚拟输出队列和信元喷洒等机制解决网络拥塞的高性能智算网络架构）便是一个值得探究的复杂案例。 DSF 的核心架构是基于博通的 Jericho3-AI 和 Ramon3 交换芯片构建的。为了解决在大规模分布式训练中极易发生的 RoCE 网络拥塞与丢包难题，Meta 的网络团队在这一架构中应用了**虚拟输出队列**（Virtual Output Queue: 简称 VOQ，一种在输入端为每个输出端口维护独立队列的排队机制，用于消除头端阻塞）技术以及信元喷洒（Cell-spraying）和先进的信用调度器。平心而论，在 2024 年网卡芯片本身的本地拥塞控制算法还不够智能、网络带宽严重受限的时间节点上，DSF 网络确实是一套能够有效支撑数万卡规模大模型稳定训练的优秀设计。 然而，DSF 的技术复杂度和随之而来的财务负担也同样高昂。由于引入了特殊的物理调度逻辑，整个系统从硬件到 FBOSS 网络操作系统再到 OCP-SAI 软件栈，都高度依赖博通这一单一芯片供应商的封闭生态。随着半导体技术的快速演进，网络卡厂商很快将更高效的拥塞处理算法直接固化在了网卡芯片底层，这使得网络架构可以向更便宜、更开放的无损以太网网络（Non-blocking Switching Fabric: 简称 NSF）演进。在 NSF 架构下，系统只需使用基于 Broadcom Tomahawk 5 这类浅缓冲区交换机（Low-latency Buffer Switch）的开放式以太网方案，便能实现极其优秀的低延迟传输。 经过实际测试，Meta 内部的网络团队发现，DSF 相比于 NSF 方案在整体成本上贵了大约 11%，且存在严重的供应链单一绑定风险。因此，Meta 最终也不得不在 2025 年宣布停止向 DSF 路线投入更多资源，转向更为通用的 NSF 架构。对比之下，亚马逊（AWS）、甲骨文云（Oracle Cloud）以及谷歌云（Google Cloud）等同行，在多年前面对同样的技术分叉口时，大多选择了坚持使用 Tomahawk 系列芯片，走更加标准、平滑且通用的开放以太网路线。从长生命周期的基础设施建设规律来看，这种看似保守的选择，往往在行业发生技术范式转移时能够提供更好的架构兼容度，避免产生高额的报废折旧成本。 --- ### 阿里云HPN的对照组启示：让消费基础设施的人决定基建 同样是在网络架构的演进道路上，国内云计算巨头阿里云在智算网络 **HPN**（High-Performance Network）架构的建设历程，则提供了一个极具参考价值的正面对照组。在 2022 年底 ChatGPT 引爆行业，全球技术团队在 InfiniBand 独占协议与以太网 RoCE 协议路线选择上争执不下时，阿里云的网络架构团队并未选择关起门来写 PPT，而是主动打破部门壁垒，与模型算法团队、云产品团队建立起了紧密的日例会沟通机制。 网络团队直接从当时大模型分布式训练负载的实际抓包数据和底层网络吞吐特征出发，敏锐地洞察到在高并发状态下，系统对于带宽冗余、大规模弹性扩展能力以及极端状态下的链路稳定性需求，远远高于对特定定制化物理协议的依赖。基于这一判断，阿里云果断选定了标准 RoCE 辅以白盒自研交换机（Whitebox Switch）的渐进式演进路线，并在核心大模型训练机群中大范围推广。 这一软硬件紧密协同的决策最终取得了丰硕的成果：其网络设计成果被计算机网络领域的全球顶级学术会议 SIGCOMM 2024 收录，不仅为行业贡献了极具学术价值的 HPN 论文，更在工程实践中为阿里云大模型训练和外部智算客户节约了数十亿元的带宽与网络设备采购成本，实现了多代 HPN 架构的平滑过渡和持续领先。这一成功经验表明，面对高度不确定性的硬件技术路线，只有让真正消费这些基础设施的团队深度参与到顶层设计决策中，制定出来的系统方案才可能经得住长周期需求演进的残酷检验。 --- ### 唯短是从的绩效文化：Meta Infra部门的系统性文化沉疴 为什么 Meta 这样一家拥有全球最聪明大脑、手握数千亿现金的顶级科技帝国，会在基础设施这一关乎生死存亡的战场上接二连三地出现决策失误？SemiAnalysis 深刻地指出，其核心根源并非在于工程师的个人能力不足，而是在于其内部已经病入膏肓的组织绩效文化与激励机制的错位。 第一，**六个月的超短绩效评估周期与末位淘汰制的结构性冲突**。在 Meta 内部，每六个月进行一次绩效考评（Performance Review），且每轮考评必须强制将底部 10% 到 15% 的员工评为不合格并予以淘汰。这种高压的末期淘汰文化，直接导致所有层级的管理者和工程师都在竭尽全力优化“短期内能快速见效、可见度极高”的微小项目，以求在半年的述职 PPT 上写出好看的数据。在内部，这一投机取巧的作秀行为被形象地称为“擦窗户”（Window Washing）。 基础设施建设是典型的“重工业”，一颗定制芯片从立项、架构定义、前端设计、验证到流片再到量产，开发周期长达三到四年；一个定制机箱的定型部署也需要一到两年的反复打磨。用半年周期的考核棒去驱动需要三到五年才能兑现的长期战略资产建设，无异于将方向盘和油门装反。其结果是，大量的管理者在交付了一个耗资巨大的半成品项目、拿到了升职加薪的绩效评价后，便立刻拍拍屁股转向下一个新概念项目，只留下一堆没有软件生态支持、无人维护的“硬件烂摊子”让后人收拾。 第二，**供应链与财务纪律话语权的极度边缘化**。在定制化服务器与芯片开发中，Meta 的技术决策往往演变成了各部门主管为了争夺资源、膨胀团队编制而进行的政治斗争，而真正掌管采购成本、拥有供应商真实反馈信息的供应链团队在决策中几乎没有任何话语权。设计方案在立项阶段频繁中标，却在量产前夕因为各种组织斗争被无端取消，导致台积电、博通、浪潮等核心硬件供应商对 Meta 的承诺和信誉丧失了信心。许多供应商在研发排期时，已经明确将亚马逊、谷歌的项目优先级排在 Meta 之前，因为“没人愿意把极其宝贵的先进制程研发资源，浪费在一个随时可能被 Meta Infra 内部政治斗争枪毙掉的项目上”。 第三，**对财务预算监管机制的极度缺失**。在 AI 巨额预算的加持下，Meta 部分基础设施管理者的本能反应并非精打细算提升 TCO，而是如何通过炮制更多的新概念项目、招募更多的非必要人员来耗尽这些天价预算，以证明自己在公司内部的权力权重。这一剧本与几年前 Meta 在元宇宙（Metaverse）Reality Labs 部门烧掉数百亿美元的荒诞历史如出一辙。几十亿美元的预算化作了令人眼花缭乱的部门名目和庞大的人口编制，一旦行业周期发生转折，随之而来的便是惨烈的部门合并与大范围裁员。 第四，**恐怖的“皇帝新衣”效应与言论审查倾向**。在极端的绩效文化下，中基层员工为了保住工作和考评等级，没人敢于在内部评审会中公开挑战领导层已经定调的错误设计。所有的质疑和风险警示都在向上传递的过程中被层层粉饰，最终导致直到整个 GB200 机架的规模化量产阶段，高层才猛然发现 Ariel 方案的技术代价和系统风险已经大到无法承受。 这种官僚主义和形式主义的作祟，甚至已经蔓延到了 Meta 日常行政的细节之中。例如，Meta 拒绝对入职一年多的很多正式员工分配固定工位，大批高薪半导体工程师每天早晨不得不花十几分钟在园区内像找网吧一样寻找空桌子；有些工位桌上配了显示器但接口线材根本无法对齐，有些则根本没有硬件设施。当员工正式提交工位申请时，行政系统以各种官僚流程予以无情驳回，但讽刺的是办公室里四处都是闲置的空桌椅。这种对底层人才基本办公需求的傲慢和冷漠，与高价收购 Rivos 后将其打碎分流的土皇帝做派交相辉映，极大地打击了核心工程师的团队士气，加速了顶尖人才向 ARM、NVIDIA 等敏捷型竞争对手流失的速度。 --- ### 结语：千亿基建时代的终极拷问 Meta 在 AI 基础设施道路上踩下的这四大深坑，向全行业抛出了一个无法回避的终极拷问：在千亿美金级别的 AI 智算基建时代，基础设施团队与模型业务团队之间，到底应当维持一种怎样的协同机制？ 基础设施本身具有典型的资产沉淀周期长、试错成本极高的硬物理属性；而大模型的网络架构、训练调优技巧以及推理吞吐特征，却在以半年甚至三个月为周期发生着颠覆性的范式演进。这种时间尺度上的严重错配（Time-scale Mismatch），绝对不意味着基础设施团队可以凭借过去的推荐系统历史负载经验，就武断地代表模型团队锁死未来数年的全局硬件配置。 合理的系统演进策略，应当是对一切非标定制化的主板、定制化的芯片、非标的机架拓扑以及专有的网络协议调度机制，设置极高且极其严苛的立项门槛。基础设施团队在撰写定制化 PPT 时，不仅要自证其在某项单一物理指标上的微弱提升，更要向由模型架构师、供应链专家和财务分析师组成的跨职能委员会，详尽证明该设计在全生命周期内所带来的综合收益，是否足以完全覆盖掉漫长的软件生态重新适配成本、严重的供应商单一依赖锁死风险、陡峭的系统可靠性爬坡代价、需求快速退化带来的折旧风险，以及因此丧失掉的产业界最核心的软硬件规模效应。 在人工智能军备竞赛已经进入到拼规模、拼效能、拼资金效率的深水区的今天，决定一家科技巨头能否在这场世纪大战中生存并走得更远的，也许早就不再是实验室里写出了多少行漂亮的模型算法代码，而是谁在决定购买和建设怎样的算力硬件，以及这些硬件到底在为谁的真实业务逻辑而设计。AI 基础设施的核心目标，永远不应当是去交付一套在技术细节上最标新立异、最复杂、最适合拿去评奖的艺术品系统，而是在算法架构光速迭代的现实前提下，持续稳定地交付最多的单位有效训练进展，以及最低的单位推理商业化成本。当基础设施团队开始关起门来，凭借权力惯性替一线的业务模型团队定义和裁剪需求时，或许就是整个组织需要果断按下暂停键、对决策机制与团队文化进行彻底重构的危险时刻。