大家好,这里是最佳拍档,我是大飞。
GPU的主角光环与CPU的隐秘角色
在过去几年,AI行业的讨论中,GPU无疑是绝对的主角,无论是大模型训练、推理,还是从云端到边缘的算力需求,GPU几乎是所有AI算力话题的焦点。甚至有观点认为,在AI时代,CPU已沦为配角,逐渐退出核心舞台。然而,在2026年的Arm Everywhere大会上,以低功耗芯片架构闻名全球的Arm公司,正式发布了其首款面向数据中心且直接对外销售的CPU产品——Arm AGI CPU。本次发布会不仅揭示了这款CPU的核心内容,更探讨了它将如何改变AI基础设施市场的格局。
Arm的商业进化与AI数据中心的CPU新定位
Arm的CEO勒内·哈斯在发布会上回顾了Arm的发展历程,展示了其从单独售卖IP模块,到推出预集成的计算子系统(CSS),再到如今直接销售成品芯片的商业模式演进。他指出,尽管AI发展似乎将算力重心完全转向GPU,但在AI数据中心中,CPU依然扮演着核心角色,只是其工作方式发生了转变——从直接执行计算任务,转变为系统的协调与编排者。GPU负责生成token,而CPU则负责这些token的传输、调度,以及整个AI系统的容器管理、脚本运行、内存分配和I/O调度。
Arm的测算显示,在传统AI数据中心中,每1吉瓦算力规模约需3000万个CPU核心。但随着Agentic AI(Agentic AI: 能够自主执行任务的AI代理)的爆发,token消耗将激增,CPU需求可能翻四倍,达到约1.2亿个核心。然而,当前数据中心面临电力和空间的核心限制,无法容纳如此庞大的新增CPU。因此,市场迫切需要一款极致高效、高性价比的CPU来解决功耗和空间痛点。
Arm AGI CPU:性能、规模、效率的极致融合
面对行业痛点,Arm正式宣布推出Arm AGI CPU,这是Arm首次以芯片形式直接销售并产生收入的产品,标志着Arm进入了一个全新的业务模式。Arm云与AI业务执行副总裁穆罕默德·阿瓦德详细拆解了这款CPU的产品细节,强调其设计围绕三大核心原则:性能、规模、效率。
- 性能被置于首位,因为Agentic AI数据中心需要处理大量线程、工作流以及持续的调度编排任务。CPU性能瓶颈会拖慢整个AI基础设施。
- 规模强调CPU必须具备线性的规模扩展能力,以适应从CPU级到仓库级的数据中心扩张趋势。
- 效率是关键,因为若无法在高效功耗下实现性能和规模的提升,技术指标将无法落地。
Arm AGI CPU核心规格与技术亮点
Arm AGI CPU基于Arm的Neoverse V3计算子系统(CSS)构建,该CSS也面向行业生态开放。该CPU集成了136个V系列高性能核心,这是Arm强调绝对性能的产品线。每个核心配备2MB L2缓存,主频最高可达3.7GHz。
阿瓦德强调,AGI CPU并非仅看核心数量,而是围绕Agentic AI系统进行了重新设计,尤其是在I/O和内存子系统上做了大量优化:
- I/O部分:提供96条PCIe Gen6通道,支持CXL 3.0协议,实现与GPU、加速器的高速连接及灵活内存扩展。
- 内存部分:支持DDR5内存,最高频率DDR5-8800,每个CPU核心可持续获得高达6GB/s的内存带宽,在同类性能和功耗下具有独特性。
- 低延迟:目标设定为低于100ns,采用双chiplet设计,每个chiplet直接挂载内存和I/O接口,避免了复杂的NUMA结构,减少了多跳传输延迟,提高了内存访问效率。
这款CPU基于台积电的3nm工艺制造,热设计功耗(TDP)仅为300W,远低于当前主流高端数据中心CPU(通常400W以上)。这一低功耗特性充分体现了Arm的核心优势。
极致的部署密度与能效优势
阿瓦德展示了Arm AGI CPU在机架级的部署形态,凸显其部署密度优势:
- OCP风冷机架(36kW):采用双节点1U服务器设计,每个机架可安装30台服务器,总计8160个高性能CPU核心和180TB以上低延迟内存。
- OCP 200kW液冷机架:可实现42台8节点服务器部署,总计超过45696个CPU核心和超过1PB低延迟内存。
阿瓦德还分享了一个趣闻:在实际测试中,液冷机架仅使用了约一半功耗,并非电力不足,而是机架物理空间已占满。这传递了Arm AGI CPU在机架密度、功耗可控、内存与I/O匹配等核心维度上追求极致的产品理念。
开放计算项目贡献与量产计划
为推动行业发展,Arm宣布将一系列服务器就绪、访问控制和诊断技术能力回馈给OCP开放计算项目,惠及整个Arm服务器生态。Arm AGI CPU已送至核心客户进行评估测试,固件、规格、平台和供应链均已就绪,预计2026年底正式量产。
软件生态:Arm AGI CPU成功的关键
硬件是基础,软件是灵魂。Arm深知软件生态成熟度是AGI CPU能否成功的关键。Arm在数据中心软件生态上投入已超15年,转折点出现在2019年Neoverse架构发布,降低了设计服务器级Arm芯片的门槛。随着AWS、Google、Meta、微软等巨头投入资源,Arm数据中心软件生态进入了“飞轮效应”的快速发展阶段。
阿瓦德强调,在大多数现代软件包中,Arm架构已是一等公民,在AI软件生态中更是“跑得最好”。这得益于Arm架构在AI体系中的普遍存在,以及各大软件厂商对Arm的深度优化。目前,全球已有12.5亿个Neoverse核心部署在数据中心,数万家企业已稳定运行基于Arm架构的软件,印证了“Arm in the data center now just works”的现实。
Meta的Arm迁移实践:LLM加速优化
Meta的资深工程师保罗·萨博(Paul Saab)分享了Meta将系统迁移到Arm架构的真实实践。Meta早在2014-2015年就尝试迁移PHP平台HHVM,但因市场条件搁置。疫情后,萨博因直觉Arm生态已发生根本性变化,启动了第二次迁移。
他自行采购8台Arm服务器进行测试,仅用5名工程师、90天时间就完成了可运行的Arm架构迁移版本。然而,早期市场缺乏满足性能和功耗需求的Arm芯片,这促使Meta与Arm深度合作打造AGI CPU。从迁移版本到获得可量产、TCO有效、每瓦性能比可接受的Arm芯片系统,Meta团队花了约两年半。
萨博提出,利用**大语言模型(LLM)**可以进一步优化已迁移到Arm架构的代码,榨取10%-20%的性能提升。他认为,当前将软件迁移到Arm架构的门槛已接近于零,工程师甚至可以利用LLM生成代码和测试用例。他总结道:“今天,没有任何理由,不把软件迁到Arm架构。”
与x86架构的直接竞争与Arm的差异化优势
阿瓦德将话题转向行业竞争,直接与x86架构对比,阐述Arm AGI CPU的核心优势。他认为,x86架构诞生于上世纪70年代,背负了沉重的历史包袱和复杂设计,在Agentic AI时代成为性能和功耗的负担。而Arm架构则没有这种历史包袱,能聚焦于AI数据中心真正所需的能力。他犀利地指出:“我们不背着过去走,我们不支持Lotus Notes”,表明Arm不为淘汰的历史兼容需求买单,AGI CPU是为新型AI数据中心而生。
在性能层面,Arm认为**每时钟周期指令数(IPC)**是衡量CPU真实性能的关键。而部分x86 CPU为追求跑分,通过提高主频和boost mode提升性能,但伴随指数级功耗上升且不可持续。Arm AGI CPU设计目标是提供可持续、稳定、全天候的性能。
在规模扩展层面,Arm AGI CPU实现了真正的线性扩展。其内存和I/O子系统与核心数量精准匹配,保证每个核心获得足够的带宽。而许多x86 CPU采用同步多线程(SMT)技术,一个物理核心处理两个线程,但内存和I/O带宽并未同步翻倍,易导致数据传输瓶颈,整体性能下降。调研发现,数据中心运营方为解决x86扩展瓶颈,常过度配置30%以上的硬件资源,造成巨大浪费。
阿瓦德总结,Arm AGI CPU是真正的“杀手级产品”,Arm在Agentic AI数据中心CPU领域已建立不可撼动的竞争优势。
未来路线图与万亿级市场展望
CEO哈斯再次登台,总结了Arm的未来愿景。在36kW机架功耗下,Arm AGI CPU相比x86等价系统结构,可实现两倍的每瓦性能比,且资本开支节省可高达100亿美元(以1吉瓦AI数据中心为例)。
Arm的未来产品路线图包括Arm AGI CPU 2和Arm AGI CPU 3,将持续投入研发迭代。自研芯片业务是原有IP和CSS业务的叠加,未来将实现IP、CSS、成品芯片三大业务并行发展。
哈斯预测,随着Agentic AI发展,对CPU核心和高效CPU的需求将持续上升。自研芯片业务将为Arm打开一个约1000亿美元的全新市场。到2030年,Arm在AI基础设施等相关领域,有机会触达超过1万亿美元的市场规模。
战略宣言:CPU与GPU、Arm与x86的协同共生
Arm Everywhere大会不仅是产品发布,更是Arm的战略宣言。从PDA时代的低功耗芯片到移动时代的行业标准,再到云数据中心的核心玩家,Arm完成了从边缘到云端的全场景布局。AGI CPU的发布,是Arm商业模式的根本变革,更是对Agentic AI时代基础设施需求的精准回应。
随着Agentic AI的到来,高效CPU对于充分释放GPU算力至关重要。尽管x86架构有深厚行业壁垒,但Agentic AI浪潮为Arm打开了新大门。在功耗和空间受限的今天,Arm的低功耗优势前所未有地重要。随着Arm软件生态的成熟和企业尝试增多,其在数据中心市场份额将持续提升。
未来的AI基础设施市场,将不再是GPU的独角戏,也不是x86的一家独大,而是CPU与GPU的协同共生,Arm与x86的同台竞争。这场竞争将推动整个AI基础设施行业向更高效、更节能、更智能的方向发展。
感谢收看本期视频,我们下期再见。
📌 文中提及的人物和组织
产品/模型: Arm AGI CPU, Neoverse V3 CSS