--- layout: post.njk source: https://yage.ai/share/cerebras-not-asic-20260824.html speaker: yage.ai title: Cerebras：史上最大的芯片，不认识 Transformer date: '2026-08-24' summary: 文章探讨了Cerebras芯片的定位，指出它并非传统意义上的ASIC，而是处于通用处理器和算法固化芯片之间的中间地带。核心观点是Cerebras的WSE在出厂时冻结的是通用处理器核心和通用指令集，而具体的算法和模型权重则由软件在推理时动态加载和处理。文章通过‘冻结层级’和‘尺度’两个维度，将Cerebras与GPU、Taalas等专用芯片进行对比，阐述了其在推理任务中通过将内存与计算阵列整合，解决传统GPU在数据搬运瓶颈问题，以及通过超大晶圆尺度来优化良率的独特优势。 area: tech-engineering category: architecture tags: - asic - transformer - memory-bandwidth - scaling-law - hardware-architecture people: - Andrew Feldman companies_orgs: - Cerebras - AMD products_models: - Cerebras WSE media_books: [] draft: true status: evergreen --- 2026 年 5 月 14 日，Cerebras 在纳斯达克挂牌上市。开盘后股价一路上扬，首日收涨 68%，盘中市值一度逼近一千亿美元。中文科技资讯随即掀起一轮报道热潮。在雪球社区，一条分析帖这样描述它：这是一款从零开始专为现代大语言模型推理设计的 ASIC（专用集成电路）。钛媒体的报道（新浪财经等平台转载）写道，它的芯片集成了约 4 万亿个晶体管和 90 万个专用 AI 计算核心。两年多前新华网刊发的内容，使用的则是相对中性的 90 万个 AI 核心。从“AI 核心”到“专用 AI 核心”，仅一词之差，公众对于这家公司的认知便迅速定型：这是一家把特定人工智能算法做进硅片里的专用芯片厂商。 我自己最初也顺着直觉掉进过同一个分类误区，以为它无非是把神经网络做成超大面积晶圆级电路的巨型 ASIC。但顺着芯片的底层逻辑追下去，情况恰好相反。判断一颗芯片到底是不是 ASIC，标准从来不在于硅片上有没有固化的物理结构，因为世界上不存在没有任何固化电路的芯片。x86 CPU 的指令集架构、整数与浮点运算单元、多级缓存层次同样做在硅上，却从来没有人把 CPU 划入 ASIC 的行列。 真正的分水岭，在于芯片出厂那一刻冻结的究竟是哪一层。如果出厂时只冻结这台机器的基础能力，即支持哪些指令、核心之间如何互联、内存分布在什么位置，而具体要跑什么程序留待出厂后通过软件加载，这是通用处理器；如果出厂时连要计算的算法本身也一并冻结进电路，硬件本身就是算法，这才是 ASIC。以比特币矿机为例，它并不是在运行 SHA-256 哈希算法，它那一整块定制电路本身就是 SHA-256 算法。 拿这道冻结层级测试来看 Cerebras 的晶圆级引擎 WSE，出厂时冻结的是 90 万个通用处理器核心、44GB 片上 SRAM、连接所有核心的片上网络，以及一套通用指令集。Cerebras 官方架构文档写道：计算核心的基础是一个完全可编程的处理器，像通用处理器一样支持算术、逻辑、加载与储存、比较和分支指令。这片硅认得加减乘除，认得如何与相邻核心通信，但对 transformer 毫无概念。模型与晶圆之间隔着一层编译器：今天运行 Llama，编译器把 Llama 的计算图映射到这 90 万个核心上；换了新的网络架构，重新编译即可，同一张晶圆照常运转。 还有一个更反直觉的事实：在运行大语言模型时，参数权重甚至不常驻在晶圆上。WSE 的 44GB 片上内存装不下动辄数百 GB 的现代模型参数，Cerebras 采用的是 weight streaming 方案，权重保存在外部内存中，推理时逐层流经晶圆，用完即走。36 氪在一篇报道中点出过这个细节：在 Cerebras 的架构中，模型权重从来都不会存在 SRAM 上。于是，把神经网络刻在晶圆上的流行想象在两个层面上都站不住脚：硅片上冻结的不是神经网络，神经网络的权重也根本不在晶圆里常驻。 ## 先把光谱摆正：冻结的是哪一层 媒体报道中提到的“刻进芯片”这一说法本身并没说错，只是认错了对象。真正把模型权重硬刻进硅片的是初创公司 Taalas。他们利用 Mask ROM 工艺把模型权重硬编码到金属互连层中，一颗芯片从制造完成那天起就只能推理某一个特定模型，这家公司在 2026 年 8 月由 AMD 出资收购。再往通用方向靠近一档的是 Etched，其 Sohu 芯片专门服务 transformer 架构，CEO Gavin Uberti 曾公开直言，一旦 transformer 不再流行，公司就会失败。《麻省理工科技评论》对 Taalas 这条路线的评价写道，芯片完全不可编程，出错的余地基本为零。 把这些硬件方案排在同一根坐标轴上，轴的名字叫出厂时冻结了哪一层： - 通用 CPU 冻结基础指令集，任何合规程序都能在其上运行。 - TPU 以及 Cerebras 的 WSE 往前推进了一档：整台机器专门面向张量计算负载打造，计算核心、本地内存和互联拓扑都围绕矩阵运算深度剪裁，但最终执行什么计算依然完全由软件决定。 - Etched 将算法本身冻结进硬件，整颗芯片只能处理 transformer 结构。 - Taalas 进一步把具体权重冻结在金属层，一颗芯片终身绑定单一模型。 这才是具备区分度的分类坐标系。如果把 Cerebras 与 Taalas 一起装进专用芯片的抽屉，无异于把狮子和企鹅都归类为不会飞的动物，字面上挑不出硬伤，分类维度却彻底失去了效用。 当然，WSE 确实不是 CPU 那样的通用计算平台。它的核心微架构和底层工具链面向张量负载深度定制，与 TPU 同属 domain-specific 这一档。但它距离冻结具体计算还隔着整整两个层级。倘若只要面向 AI 负载做过针对性优化就算 ASIC，那么配备 Tensor Core 的 GPU 同样是 ASIC，TPU 也是 ASIC，专用芯片这个概念就会失去描述任何技术特征的能力。 在出厂冻结层级之外，还存在第二根正交的维度：尺度。传统芯片制造是在一张晶圆上光刻出数百颗小芯片，切片封装后，再借助外部网络将成千上万颗芯片连成分布式集群；中间形态则是通过先进封装技术把多颗裸片整合在同一基板上。Cerebras 站在了尺度轴的最右端：整张 46,225 平方毫米的晶圆不作任何物理切割，面积相当于英伟达 H100 的 57 倍，直接作为一整颗超大芯片交付。在冻结层级的光谱上，它几乎与 GPU 处于同一侧；它的核心筹码其实全押在尺度轴上。今天的推理芯片竞局刚好铺满这两根轴：英伟达用高速网络把数千颗独立芯片连成算力中枢，Groq 把确定性执行做进硬件，OpenAI 选择自研推理 ASIC，押在尺度轴最右端的只有 Cerebras 一家。这是理解这家公司的关键坐标，后续所有的工程实现与商业博弈，都在这两根轴上铺开。 按出厂时冻结的层级排列，Cerebras WSE 只冻结到负载域一档，与 TPU 同层；它真正的筹码押在正交的尺度轴最右端 ## 凭什么快：不是算得多，是搬得少 既然本质上是由通用处理器核心构成的阵列，它在推理任务中挑战英伟达的底气究竟从何而来？答案藏在大语言模型推理的计算特性里。大模型生成文本是一个严格的串行自回归过程：先生成第一个 token，才能计算第二个 token；有了前两个 token，才能推导第三个。在这个解码（decode）阶段，每生成一个 token，系统都需要把模型的全部权重从头到尾完整读取一遍。此时 GPU 上强大的浮点运算单元往往处于饥饿等待状态，整套系统的吞吐瓶颈卡在把权重从显存搬运到算力核心的速度上，这也就是半导体行业常说的内存墙。 以英伟达 Blackwell 架构的 B200 为例，其配备的 HBM 显存带宽达到 8TB/s，即便在这样的吞吐下，完整读取一次 16GB 的 FP16 权重也需要耗费约 2 毫秒，单卡每秒最多输出几百个 token。拖慢生成速度的瓶颈从来不是乘法算力，真正的开销全在长途搬运。 Cerebras 的解法是把内存做进计算阵列本身。44GB 片上 SRAM 分布在 90 万个核心之间，每个核心身旁都有专属的高速存储，两者的物理距离仅有数十微米，数据读取只需一个时钟周期。整张晶圆的片上内存带宽达到 21PB/s，是 H100 显存带宽的上千倍。在官方口径中，Cerebras 的平均推理速度超过每秒 2000 个 token，而传统 GPU 方案通常在 200 到 300 之间。 GPU 把计算与 HBM 分离两地，推理耗时花在长途搬运上；WSE 让每个核心身旁就长着自己的内存，数据就近读取 这也能解释为什么 Cerebras 的商业叙事在 2024 年之后突然爆发。模型训练属于高度可并行的任务，海量数据可以切分成不同批次分配给成千上万张 GPU 同时计算，那是 GPU 的天然主场；而推理的解码阶段是纯粹的串行链路，每个 token 都依赖上一步的输出，吞吐瓶颈直接落在权重读取速度上，恰好撞上了晶圆级片上带宽的长板。这家公司诞生于训练时代，等了十年，行业的主瓶颈终于转到了它的长板上。CEO Andrew Feldman 的说法是：推理的胜负手是内存带宽，计算与内存同处一张硅片，正是他们从第一天起就押下的位置。 ## 把集群折叠进一片晶圆 要把计算与内存真正合在同一张硅片上，意味着要消灭传统 GPU 集群中那些长途奔波的数据通路。在传统的集群方案里，数据需要在计算核心与 HBM 之间、GPU 与 GPU 之间、乃至服务器机柜之间来回穿梭。英伟达借助 NVLink 与 InfiniBand 等技术将外部连接带宽推到了极致，但机房内部物理距离的存在依然不可避免。Cerebras 的构想是把这些宏观距离彻底折叠进微观的单片晶圆。原本必须跨越芯片引脚、电路板和交换机光纤的通信交互，全部收敛在同一张硅片内部，把整个分布式集群的互联距离压缩至几十微米。 在软件层面，这种折叠带来了彻底的减负。在传统的 GPU 集群上训练或部署大模型，工程师需要把模型参数精巧地切分成不同片段分发给各个显卡，处理张量并行、流水线并行、梯度同步和节点故障恢复，底层需要庞大复杂的分布式软件栈来维持协同。而在 WSE 上，编译器与上层软件看到的始终是一块连续的大容量内存和数十万个通用处理器核心，模型并行的复杂工程开销直接在硬件底层消解了。 这个赌注立于 2015 年底。五位创始成员此前在微服务器公司 SeaMicro 共事，公司被 AMD 收购后，他们把新公司的目标定在了一个符号性的高度：让计算机历史博物馆留下他们的名字。据硅谷101对早期投资人的采访，Andrew Feldman 当年融资用的一页幻灯片上列着深度学习的七个核心瓶颈，答案全部指向同一处：训练耗时太长。彼时 transformer 尚未问世，今天的大模型浪潮还不在任何人的视野里。团队押注的对象与具体模型算法无关，而是一个更底层的判断：人工智能会演变成一种前所未有的计算负载，需要一台从物理底层为它专门设计的计算机。这个判断比 transformer 早了将近两年，但整张晶圆不作切割的构想，直接把赌注推到了半导体制造规律的悬崖边。 ## 七十年的良率难题，和一个换问法的解法 在半导体制造史上，晶圆级集成是一道横亘了七十年的工程死穴，Trilogy 等先行公司曾挑战整片晶圆制造，最终都倒在了良率上。 死结的根源可以用缺陷密度直接算出来。台积电 5nm 工艺的缺陷密度约为每平方毫米 0.001 个，WSE-3 的 46,225 平方毫米摊下来，每片晶圆天然携带约 46 个缺陷。传统设计容不下这个数字：缺陷落在核心电路上，整颗芯片报废，晶圆级芯片的良率在概率上无限接近于零。面积越大缺陷越多，芯片越大单个缺陷的杀伤越大，两头一起恶化。 Cerebras 的破局从缩小失效单元开始。H100 的单个 SM 核心约 6 平方毫米，缺陷命中即全废；WSE 把核心切到 0.05 平方毫米，约前者的百分之一，同样的缺陷命中，损失面缩小约百倍。再往上叠冗余：晶圆额外配 1% 到 1.5% 的备用核心，出厂测试标记失效节点后，片上网络在硬件层绕行，计算流改道到完好核心。缺陷期望 46 个，备用核心九千到一万三千余个，两个数字之间隔着两三百倍的余量。软件看到的，始终是一块逻辑上完整的芯片。 万级备用核心对 46 个预期缺陷，两三百倍的冗余余量让良率问题从概率死结变成可管理的工程问题 冗余思路本身有先例。H100 在 132 个工作 SM 之外多造了 12 个容错余量，存储器厂商用备用单元修缺陷也有几十年历史。Cerebras 的新意在于把这套机制放大到整片晶圆的尺度，并借此给良率问题换了一个问法：不再追问整片晶圆零缺陷的概率，那个数字随面积指数衰减；改问缺陷总数超出备用预算的概率，在几十万核心的统计基数上，大数定律反过来护住了良率。 这里藏着开头那个判断最硬的证据：损坏的核心之所以能够由硬件动态隔离、计算任务之所以能够平滑重新映射，根本前提正在于计算过程是由软件编译器动态分发的，而非固化在特定硅片线路上。如果算法本身就是硬件电路，一旦核心损坏，丢失的便是那段不可替代的功能，系统根本无从绕行。全晶圆动态容错与可编程性本质上是同一枚硬币的两面，能够自由绕开坏核，恰恰印证了程序从未固化在硅片之中。 晶圆之外是另一套从零设计的物理工程。约 25kW 的功耗压在一块餐盘大小的硅片上，功率密度远超常规芯片的散热范式，供电、水冷与机架接口都没有现成方案。据硅谷101对早期评估者 Greg Diamos 的采访，他第一次到 Cerebras 办公室时，工程师先展示了一块为这片晶圆定制的散热器，他的直觉反应是显卡用不着这种东西，直到对方抬出整张未切割的晶圆。用这篇文章的坐标来讲，那一刻的分野正好落在尺度轴上：这里要造的东西与更好的显卡不在同一个量纲里。 ## 2015 年的赌注，2026 年的分工 制造层面的极端尺度由工程去消化，但当年站在芯片行业之外、敢为这个极端量纲买单的人，手里拿着的是来自前沿研究的实证数据。2015 年底 transformer 尚未出现，外部研究界之所以笃信未来的算力缺口，答案的一大半在百度 SVAIL（以下叙事据硅谷101报道）。吴恩达的团队当时正用大规模语言模型做训练实验，从中总结出 Scaling Law：模型越大、数据越多、算力越强，表现越好，且提升可预测。团队成员 Dario Amodei 后来把这个发现带去 OpenAI。顺着这条实验曲线外推，大模型撞上算力天花板只是时间问题，SVAIL 从 2016 年起在全球寻找英伟达之外的算力，找到的正是还没有产品的 Cerebras。这笔赌注在当时并非狂热，而是对实验数据的理性外推；押的对象是负载会持续变大，而非任何具体架构。这也解释了为什么它在冻结层级光谱上站得离 GPU 那么近：赌负载的公司，没理由把架构焊死。 负载赌对了，十年后的用法反而验证了这套坐标系。2026 年 3 月 AWS 与 Cerebras 的合作是推理分两阶段的直接体现：prefill 处理提示词，可以并行，交由 AWS 自家的 Trainium；decode 逐个生成 token，严格串行，正是晶圆带宽的主场。没有哪种架构通吃整个推理负载，在这项合作里，Cerebras 接的就是 decode 那一半。Andrew Feldman 的公开表态是把这句话说满：与所有超大规模云厂商合作，名单里独缺英伟达。 对照样本出现在三个月后。OpenAI 与博通联合发布的第一颗自研推理芯片 Jalapeño，是一颗真正意义上的语言模型推理 ASIC，冻结到算法那一档的专用电路。有意思的地方在于 OpenAI 两头都买：一边向 Cerebras 下 200 亿美元量级的晶圆算力订单，一边自研 ASIC 把推理逻辑硬化。这恰好把文章开头那套坐标系摊开在市场上：真正的 ASIC 与可编程晶圆在光谱两端各自占位，市场同时为两种位置付钱。 ## AI 需要什么样的计算机 市场为不同路线同时买单的格局，让这场始于十年前的计算探索有了清晰的注脚。早在 2022 年，计算机历史博物馆就为 WSE-2 设立了永久展位，展名是 The Biggest Chip in the World。2015 年那五位创始人想要的留名，以这种方式兑现，比他们当初的预想更为具象。十年过去，这个构想走到了被资本市场逐季检验的阶段，而看清它在赌什么，是预判这场检验走向的前提。 下次再看到专用芯片的标签套在它身上，可以回到那个更准确的技术坐标：它出厂时冻结的是机器本身，程序留给了软件。硅片上固化下来的只有一个工程判断，数据不该在长距离线缆间奔波。