大模型新斩杀线:从极致低价到架构平权的效能革命 Best Partners TV 2026-08-28

错峰定价:余震与牛来浮出水面

在人工智能与大语言模型快速迭代的浪潮中,市场的竞争格局往往在一夜之间发生剧烈动荡。我们之前在节目中探讨过,DeepSeek(深度求索:专注于高性能大模型研发的创新企业)凭借着极致的性价比,一度成为了其他主流大模型的“斩杀线”。然而,令人始料未及的是,在短短半个月的时间里,这个曾经的“价格屠夫”自己也遭遇了新的斩杀线。

事情的起因需要追溯到8月中旬。当时,DeepSeek 官方调整了其 API 的服务价格,这次涨价迅速在开发者社区引发了连锁反应。根据第三方平台 OpenCode(开源代码托管与大模型调用监控平台)的统计数据,在 DeepSeek 的 API 价格上调之后,其在平台上的日均 token 处理量直接从 18 万亿的峰值跌去了一半以上。在市场上空出来的、接近 10 万亿 token 的日均需求,迅速被一个名为 Ox Alpha 的未知模型给接住了。这个模型没有显赫的品牌背书,没有举办任何声势浩大的发布会,甚至连活跃在第一线的开发者们也完全不知道它背后到底是哪家公司在运营。大家当时唯一的感知就是:这个模型完全免费、调用能力足够应付日常的开发工作,可以无缝接替之前的工作流接着干活。

这个行业谜底最终在8月26日晚上正式揭晓。智谱(智谱AI:致力于打造新一代认知智能通用模型的头部AI企业)官方公布,这个在开源社区引起热议的神秘模型 Ox Alpha 实际上就是他们的 GLM-5.3-Flash。而就在同一个晚上,阿里(阿里巴巴集团:国内云计算与大模型领域的领军企业)也几乎在同一时间发布了 Qwen3.8-Flash。两家公司不约而同地选择在同一个时间点,将各自名字中都带有 Flash(闪电版:主打高速度、低延迟与高性价比的轻量级模型系列)的模型摆上台面。这一举动不禁让人好奇,为什么两家国内大模型巨头会选择在如此微妙的时间节点同时发力?

要理解这背后的商业逻辑,我们必须把视线拉回到十天前的那场调价。8月17日零点,DeepSeek 新的 API 计费价格正式生效。在其核心模型 DeepSeek-V4-Flash 全系启用峰谷分时计费模式后,工作日上午的 9 点到 12 点、下午的 2 点到 6 点这几个核心时段被按高峰价进行结算,而其余时段的价格则可以直接减半。这种计费模式的推出,让许多从业者惊呼,原来大模型也有需要像工业用电一样错峰用电的一天。

根据第三方的详细核算,这次的涨幅实际上非常显著。具体而言,DeepSeek-V4-Flash 闲时缓存未命中的输入价格上涨了大约 57%,闲时输出价格上涨了大约 136%,而在高峰时段的输出价格,更是接近了旧价格的 4.7 倍。要知道,在8月1日 DeepSeek-V4-Flash 刚刚上线的时候,低廉的价格曾在短短两周内,将其在 OpenCode 平台上的日均 token 调用量从约 3 万亿一路推高到 18 万亿。极低的调用门槛第一次把 智能体(Agent: 能够自主感知、规划并执行复杂任务的 AI 实体)的业务需求彻底释放了出来。在过去,很多因为成本原因舍不得交给大模型反复尝试、反复迭代的复杂任务,现在可以放心跑上几十轮。但随着8月17日的涨价,该模型的日均 token 调用量迅速萎缩到峰值的一半以下。

四天之后的8月20日,神秘的 Ox Alpha 悄然上线。在没有品牌背书和任何市场造势的情况下,它在 OpenCode 和 OpenRouter(大模型 API 聚合分发平台)上对所有人免费开放。根据平台公开的调用数据,Ox Alpha 在六天内于 OpenCode 累计处理了高达 44 万亿的 token 流量;在 OpenRouter 过去七天的调用量也达到了 23.2 万亿 token,高居调用榜单首位。智谱官方后来解释道,这其实是在模型正式发布之前,为了收集真实用户的反馈而故意进行的一场匿名盲测。中文开发者社区还非常生动地给它起了一个外号叫作“牛来”。更重要的是,测试期间的所有流量请求,全部都是由国产芯片集群承载的。

这几乎演变成了一场天然的品牌盲测。当摘掉公司的品牌光环后,开发者们依然照样拿着它写代码、调用外部工具、跑复杂的长周期任务,用实打实的调用量投了票。在当下的 Agent 市场中,模型背后的品牌是谁其实并不关键,账单成本、响应速度和任务完成率才是核心指标。紧接着在8月26日晚,智谱揭晓身份,阿里同日发布新模型,两家公司顺着 DeepSeek 涨价挤出来的市场裂缝迅速跟进。此前 DeepSeek 是其他模型的斩杀线,而这一次它自己也遭遇了智谱和千问的联手斩杀。在了解了这场价格战的起因之后,我们接下来需要深入技术底层,来看看这两家公司是如何把模型的运行成本压下来的。


算力做减法:千问的降本四重奏

在这一次的架构升级中,非常有意思的一个现象是,两家公司不约而同地把“少算一点”作为了核心的优化方向。通义千问(Qwen: 阿里自研的超大规模语言模型系列)此次推出的 Qwen3.8-Flash 是一个多模态的 混合专家模型(Mixture of Experts: 简称 MoE,通过门控网络动态激活部分参数的稀疏架构)。该模型拥有 125B 的总参数量,但在处理每个 token 时,仅仅需要激活其中的 6B 参数。在上下文长度上,它原生支持 26 万多的 token 长度,并且可以通过 YaRN(Yet another RoPE extensioN: 一种通过动态缩放旋转位置编码来扩展上下文的算法)外推技术扩展到 100 万 token。

在这组数字里,最关键的就是这个 6B 的激活参数。我们可以做一个直观的对照:被它拿来对比的前代旗舰模型 Qwen3.7-Plus,总参数量为 397B,每次处理需要激活 17B 参数。也就是说,新模型旨在用不到前代三分之一的激活参数,去换取相当甚至更强的工作能力。Qwen 官方将这次的技术升级归结为四个核心方向:注意力机制、残差流、嵌入层以及优化算法,这恰好对应了大模型成本结构的四个核心环节。

这四个环节在成本控制中各自扮演着不同的角色。注意力机制(Attention Mechanism: 决定模型如何关注输入序列中不同部分相互关联的计算机制)决定了模型在面对长上下文时,GPU 到底需要计算多少数据、搬运多少数据;残差连接(Residual Connection: 跨越层级直接传递信号以防止梯度消失的连接方式)决定了信息在模型网络层与层之间传递时的损耗程度;嵌入表示(Embedding: 将离散符号映射为连续高维向量的计算层)决定了部分参数能不能被放置到 GPU 显存之外;而优化器(Optimizer: 用于更新模型权重以最小化损失函数的算法)则决定了这一整套复杂的新结构能不能被稳定且低成本地训练出来。

我们首先来看注意力机制的优化。标准的自注意力机制在计算复杂度上,会随着输入序列长度的增长呈现二次方(Quadratic)级别的爆炸式增长。而在实际的工程推理中,真正的性能瓶颈往往不在于纯粹的计算量本身,而在于数据搬运。在模型推理的不同阶段,系统的瓶颈有着本质的区别:预填充阶段(Prefill Stage: 输入提示词被一次性处理并生成键值缓存的阶段)主要受限于 GPU 的计算能力;而解码阶段(Decoding Stage: 模型逐个生成后续 token 的自回归阶段)则严重卡在内存带宽上。当序列长度变得非常长时,GPU 的大部分时间实际上都花在等待数据从显存搬运到算力单元的过程中。

针对这一瓶颈,目前行业里大致存在两条主要的解决路径。一种是线性注意力(Linear Attention: 将注意力计算的复杂度降低到与序列长度呈线性关系的变体),它通过将过去的历史状态压缩成一个固定大小的隐状态,用常数级别的内存开销替代了二次增长的负担,但代价是模型精确回溯和定位特定细节信息的能力会出现下降。另一种则是稀疏注意力(Sparse Attention: 仅对输入序列中被认为重要的部分进行计算的注意力机制),它保留了标准自注意力的数学形式,但只对模型认为真正重要的部分进行精细的计算。

Qwen 团队的选择是将这两种思路进行混合。在去年9月发布的 Qwen3-Next 中,他们已经采用了门控 Delta 网络与门控注意力的混合架构,其中四分之三的网络层采用线性注意力,而剩下的四分之一网络层则保留全局自注意力。这一混合架构在此后被 Qwen3.5 系列一路沿用至 Qwen3.8 系列。其中,门控 Delta 网络中的门控部分,还获得了顶级人工智能学术会议 NeurIPS 2025 的最佳论文奖。而在这次的 Qwen3.8-Flash 中,新引入的秘密武器正是那剩下的四分之一保留了全局注意力的网络层。Qwen 在这部分全局注意力层上,引入了自研的 QSA(Qwen Sparse Attention: 奇问稀疏注意力机制)。

通常情况下,设计稀疏注意力机制的一般思路是让模型只去关注重要的上下文信息。但这里存在一个容易被忽略的隐性计算成本:要让模型知道哪些上下文是重要的,这个判断过程本身就需要消耗计算资源。现有的行业方案如 DSA,通常需要依赖一个 token 级别的索引器来在全序列中寻找重要位置。随着上下文长度的持续增长,索引器自身所带来的计算开销也会变得非常庞大,甚至不可忽略。

QSA 的核心设计思路是把这一步的索引成本也压缩掉。它通过一个非常轻量级的索引器,先把输入的 token 序列聚合成一个个微型的数据块,在块(Block)的级别上粗粒度地估计上下文的重要性,然后再选出最相关的块区域去执行精细的注意力计算。这种设计不仅减少了注意力计算本身的实际工作量,更大幅降低了寻找重要上下文这一步骤的索引成本。此外,QSA 在每一个网络层内部是完全独立完成序列压缩的,对于跨层注意力相似性的依赖更小,这对于混合架构的高效运转来说尤为关键。

我们可以将这种混合设计形象地理解为:门控 Delta 网络负责在后台高效地“记住”背景,而 QSA 则负责在需要时进行精准的“查找”。从实际的运行效果来看,在 100 万 token 的超长上下文设定下,QSA 注意力算子在预填充阶段和解码阶段分别实现了最高 7.6 倍和 4.9 倍的计算加速。在更贴近线上实际业务高缓存复用的设定下(即前缀缓存命中率达到 90% 时),Qwen3.8-Flash 在 100 万上下文下的预填充吞吐量达到了前代 Qwen3.7-Plus 的 8.6 倍。

作为行业的技术对照,DeepSeek 在长上下文处理上采用了自研的 NSA(Native Sparse Attention: 原生稀疏注意力机制),将注意力拆分为压缩、选择和滑动窗口三个不同的计算分支,然后再通过门控进行聚合。到了4月的 V4 版本中,它又演进为 CSA(Compressed Sparse Attention)与 HCA(Hierarchical Cluster Attention)的组合,先压缩 KV 条目,再做稀疏选择。一边是“线性加上稀疏”的混合,另一边是“压缩加上稀疏”的组合。这两种解决长上下文效率问题的主流方案究竟谁更适合哪一类业务负载,目前在行业内还没有最终的定论。

在解决了注意力机制的开销后,Qwen 面对的第二个优化方向是残差连接。在传统的 Transformer 架构中,所有的网络层都会共享同一条残差流(Residual Stream)来读取和写入特征信息。随着网络层数的不断加深,早期网络层提取出的低阶特征很容易与后续网络层产生的新信息发生混合,从而导致一些关键的早期信息被稀释和遗忘。

Qwen 在新模型中引入了门控残差(Gated Residual),这是两种经典设计思路的结合。一方面,它延续了超连接(Hyper-connections: 通过增加跨层连接通路来强化特征保留的设计)将单一残差流扩展为多分支的设计;另一方面,它把门控归一化中的逐元素动态门控机制融入到了残差读取的过程中。原本单一的残差通道在经过改造后,被扩展成了四条并行的分支通道,模型可以根据当前处理的具体内容,动态地决定从哪条分支读取多少信息,以及向哪条分支写入多少信息。

这就像是将原本的一条信息单行道扩建成了多条不同功能车道的高速公路。有的车道负责局部的相邻信息传递,而有的专用车道则可以直接把早期的基础特征无损地保留到非常深的网络后部。Qwen 团队在训练过程中观察到一个有趣的现象:其中一条残差分支会自然而然地形成一条连接第一层注意力与大部分中后层网络的长距离通道。这个实证观察比纯粹的理论设计更有说服力,它证明了多分支设计并不是冗余的计算浪费,模型确实在训练中自己摸索出了不同的分工。

在整个大模型行业中,从字节跳动 Seed 团队提出超连接概念,到 DeepSeek 采用流形约束超连接(manifold-constrained Hyper-connections: 简称 mHC,用于约束深层信号发散的残差变体)解决深层信号发散问题并应用在 V4 上,这个十年来几乎没有太大变动的残差连接设计,正在成为大模型架构优化的新战场。

第三个被攻克的方向是嵌入层。随着模型参数规模的不断扩大,参数的单纯累加已经变得越来越费劲。虽然参数越多模型的知识容量就越大,但每个 token 在推理时都要为被激活的参数付出实打实的矩阵乘法计算代价。MoE 的稀疏化架构虽然成功压缩了每次激活的参数比例,但它却无法压缩非激活参数本身所必须占据的 GPU 显存。

Qwen 团队的解决办法是在 Transformer 标准的参数维度之外,单开一个全新的参数维度。普通的嵌入层是根据单个 token 去查表获取特征,而 Qwen 引入了 N-gram 嵌入(N-gram Embedding: 结合当前 token 与前几个 token 组成的局部上下文进行联合查表的嵌入机制),为常见的词组、短语和局部的语言模式提供额外的表示。这种设计的核心优势在于,它能够为模型增加海量的参数,却几乎不会增加每个 token 在实际前向传播中的矩阵乘法计算量。

这部分高达 51B 的参数,模型在实际运行时其实只在最前端使用了一层,而且其查询的索引位置可以完全提前确定。与 MoE 机制极度依赖运行时隐状态进行动态路由不同,N-gram 嵌入的查询索引仅仅取决于输入的 token 序列本身。在前面几层网络开始计算之前,这些索引就已经被完全计算出来了。因此,这 51B 的参数可以直接存放在主机内存(Host Memory,即系统内存)中,在需要时通过异步预取(Asynchronous Prefetching)技术与模型的GPU计算进行重叠,无需长期占用极其珍贵的 GPU 显存。官方对此也进行了明确的说明,这 51B 参数是确定性寻址的,完全不计入每个 token 的矩阵乘法计算预算。

这一设计在技术思路上受到了谷歌 Gemma 3n 的每层嵌入工作以及 DeepSeek Engram(深度求索提出的外置知识检索与嵌入系统)的启发。值得一提的是,最早提出 Engram 构想的 DeepSeek 自己并没有在 V4 模型上启用它,仅仅将其列为了未来的研发方向;而 Qwen 则选择率先将这一前沿思路落地,做进了一个即将开源并推向生产环境的模型中。

最后一个优化的方向是训练方法的工程化重构。Qwen3.8-Flash 采用了近期备受瞩目的 Muon 优化器进行训练。Muon 优化器通过对动量矩阵进行正交化处理来加速模型权重的收敛,在此之前已经在 Moonlight、Kimi K2 以及 DeepSeek V4 上得到了应用。而 Qwen 团队这次则将 Muon 的用法做了进一步的工程化深挖,集中解决了正交化精度、Muon 与 AdamW 优化器的参数分工、以及融合参数矩阵拆分这三个关键的工程挑战。

在具体的参数分工上,像注意力机制这类二维线性映射的权重矩阵,采用收敛更快的 Muon 优化器进行更新;而嵌入层、MoE 路由器等参数则继续交给传统的 AdamW(大模型训练中最常用的自适应学习率优化器变体)进行处理。针对这种全新的混合模型架构与新的优化器组合,Qwen 团队还重新拟合了缩放定律(Scaling Laws: 描述模型性能与计算量、参数量及数据量之间幂律关系的物理法则)。拟合结果显示,新模型可以非常稳定地使用更大的学习率和更大的批量大小(Batch Size)进行训练,收敛效率和大规模并行训练的吞吐量都得到了显著提升。

在这一训练优化过程中,还有一个非常颠覆性的发现:过去大模型训练中被视为行业标准配置的“批次预热”(Batch Size Warmup,即从一个小批次逐渐增加到目标批次的过程)其实已经不再必要了。实验表明,逐步增加批次不仅没有改善模型的最终训练效果,反而因为前期的低效训练而额外执行了 18.8% 的优化器步数。因此,Qwen3.8-Flash 的最终训练配置直接去掉了预热阶段,从第一步起就直接采用目标批量大小进行训练。

总体而言,相较于前代的旗舰模型 Qwen3.7-Plus,Qwen3.8-Flash 的训练计算开销被压缩到了大约只有九分之一。在 14 个行业公认的基础基准测试中,这个 Base(基座)模型在其中的 8 个基准上取得了同类最优的成绩,在其余 6 个上也极其接近。换句话说,一个激活参数仅为前代三分之一、训练开销仅为前代九分之一的模型,在多数预训练评测上成功追平甚至超越了一个体量大了三倍的前代旗舰。

在具体的下游产品和应用基准成绩上,这种架构优化带来的效能红利展现得更加明显。在针对智能体编程能力的基准测试 DeepSWE 1.1 上,Qwen3.8-Flash 拿到了 58.7 的高分,而参数规模是其三倍的 Qwen3.7-Plus 却仅仅拿到了 16.5 分;在长周期复杂办公任务基准 CoWorkBench 上,它拿到了 73.9 分;在专业岗位任务基准 JobBench 上拿到 55.7 分,明显高于行业标杆 Claude Opus 4.6 的 68.2 分和 36.6 分。在多模态领域,诸如 AndroidWorld、ERQA、MathVision 等基准测试中,它也同样保持了大幅度的领先优势。

当然,该模型也并非在所有维度上都占尽优势。在极具挑战性的高难度逻辑推理基准 HLE(Hard Logic Evaluation)上,它取得的 35.9 分依然落后于 Opus 4.6 的 40 分;在仓库级代码生成基准 NL2Repo-Bench 上,其表现也略不及 DeepSeek 之前发布的旧版本模型 DeepSeek-V4-Flash-0731。

在备受关注的价格端,Qwen 官方博客给出的标准定价为:每百万 token 输入收费 0.8 元人民币,输出收费 2.7 元人民币,缓存命中时仅收 0.1 元人民币。虽然也有第三方机构按照输入 1 元、输出 3 元的口径来进行核算,数字上略有出入,但两者的收费量级基本保持了一致。这个价格大概只有本月初刚刚发布的旗舰模型 Qwen3.8-Max 的十二分之一左右,也低于 DeepSeek V4 Flash 调价后的闲时价格。目前,该模型的权重已经正式发布在 Hugging Face 和 ModelScope 等开源社区,新架构也迅速完成了对 vLLM 和 SGLang 等主流开源推理框架的接入,阿里自研的千问办公产品也已经开始使用该模型来支撑其 Standard 运行模式。

在这里,我们有必要单独讨论一下 Qwen3.8-Flash-Next 名字里带有的这个 Next。根据 Qwen 技术团队的公开博客,这个 Next 新架构实际上将是他们全新一代 Qwen4 系列模型的雏形。他们选择在这个时间点提前放出结构上的重大改动,目的就是为了在构建 Qwen4 完整模型家族之前,先将新架构放到开源社区中接受开发者和真实业务场景的检验。

如果我们把 Qwen3.8-Flash 重新放回到阿里这一代的产品序列中,整个产品线的布局图景就会变得更加清晰。8月3日发布的旗舰模型 Qwen3.8-Max 代表了阿里的技术能力上限,它拥有 2.4T 的总参数量,每次激活 95B,支持约 100 万 token 的长上下文以及图像和视频输入。8月12日,该模型以 Qwen3.8-2.4T-A95B 的名称向社区开放了权重,这是 Max 级别的顶级旗舰模型首次走向开源。随后在8月14日,面向本地消费级显卡部署的 Qwen3.8-27B 模型开源,并迅速登顶了相关前端开发竞技场的开源模型榜首。

而这一次,Qwen3.8-Flash 的推出补齐了整个产品矩阵的最后一个生态身位,专门用来承接高频次、长时间、规模化的企业级真实调用需求。但这里存在一个非常值得玩味的工程细节:作为旗舰的 Qwen3.8-Max 是基于前代旧架构迭代优化而来的,而作为高性价比定位的 Flash 模型,这次采用的却是一个全新的 Next 架构。

这种“新架构不下放旗舰,反而先上性价比款”的策略,在行业中有一种合理的解释:这套全新的 Next 架构所追求的首要目标,并不仅仅是单纯提升模型的智能上限,更是为了大幅度提升单位计算资源下的“智能产出效率”。也就是探索如何用更少的算力消耗,去完成同样甚至更加复杂的任务。对于这样一套以效能为核心导向的新架构,最适合它的练兵场和验证场,自然就是对运行成本、推理速度和吞吐量极度敏感的 Flash 级模型市场。


原生多模态:智谱的视觉编码力

在看完阿里的技术路径后,我们再来将视线转到智谱这一侧。智谱此次揭晓的 GLM-5.3-Flash 拥有 320B 的总参数量,处理时激活参数为 18B,是整个 GLM-5 系列中首个原生的多模态模型。智谱给这款模型的市场定位显得非常直白:旨在让每一个人都能以极低的成本获取前沿水平的通用智能。

在基础能力表现上,GLM-5.3-Flash 在多项基准测试以及实际的业务使用中,全面超越了参数量高出一倍的旧款模型 GLM-5.2,而它的实际定价却仅仅只有后者的十分之一。如果我们将其与智谱之前的旗舰模型 GLM-4.5 进行对比会发现,两者的总参数量相当(320B 对比 355B),但是新模型的激活参数从 32B 大幅下降到了 18B,模型的网络层数也从 92 层直接缩减到了 45 层,几乎砍掉了一半。再配合上高达 30T token 的超大规模多模态语料进行预训练,新模型相当于用更少的计算资源做出了更强的性能。

在第三方评估机构 Artificial Analysis(人工智能分析:权威的第三方模型性能与成本评测机构)发布的综合智能指数中,GLM-5.3-Flash 拿到了 57 分的高分,成功挤进了全球最顶尖的前沿模型能力区间,与 Anthropic 旗下最受市场欢迎的 Claude Opus 4.8(克劳德旗舰版大模型)得分完全持平。在智谱自研的 ZCode Code Bench(编码能力体感评估)中,它的实际编程表现也与 Claude Opus 4.8 相当。但在价格上,它的定价仅为 GLM-5.3 的十分之一(在限时折扣期间更是低至二十分之一),仅为 Claude Opus 4.8 价格的四十分之一。智谱在官方发布时所使用的原话是:“同样的智力,四十分之一的价格,前沿智能第一次不需要省着用。”

在模型架构的设计上,GLM-5.3-Flash 是首个采用稀疏注意力与线性注意力混合架构的开源前沿模型。该架构中的线性注意力机制主要通过递归(Recurrent)机制来捕获文本中局部的上下文依赖关系;而稀疏注意力机制则借助轻量级的索引器,负责从全局的范围中召回超长上下文。此外,为了进一步降低在 100 万 token 超长上下文场景下的延迟和内存开销,智谱还引入了名为 IndexPool(索引池)的技术,通过加权池化的方式将索引器的四个缓存向量压缩成一个。同时,模型还采用了流形约束超连接来进一步提升模型在深度和规模上的扩展能力。

根据官方公布的效率数据,相较于之前的 GLM-5.3,新模型的注意力计算量与键值缓存(KV Cache)的大小分别降低了 3.01 倍和 4.44 倍。在行业所有同等能力的基线模型中,GLM-5.3-Flash 的注意力计算量是目前最低的。不过智谱官方也坦诚地表示,其 KV 缓存的物理大小目前依然略高于 Kimi-K3 和 DeepSeek-V4-Flash,这依然是他们后续需要重点攻坚和持续优化的技术方向。

除了底层的架构优化外,GLM-5.3-Flash 这次推出的另一个核心重点在于其原生多模态能力。而且,这次多模态优化的重点并不仅仅局限于常规的“看图说话”(即图像识别与描述),而是聚焦于视觉编码(Visual Coding: 将视觉信息深度融合进代码生成与验证循环的开发模式)。视觉编码能力的提升,本质上拓展的是模型在编程开发中所能触及的物理边界。在前端开发、游戏开发以及 3D 仿真等高度依赖视觉呈现的领域中,大模型最终输出的产物是用户可以直接感知和交互的界面、动态交互逻辑或者是一个逼真的虚拟世界。

当视觉理解能力被原生集成进大模型的内部后,模型在执行编程任务时,能够自主地判断在什么时候需要去“观察”运行结果,并利用实时的视觉反馈来指导自己下一步的代码修改行动。为了强化这一能力,智谱团队专门开发了一套数据合成流水线,聚焦于训练模型在测试阶段(Test-Time)的自我视觉判断与自我改进能力,并积极探索了基于真实环境反馈的强化学习(Reinforcement Learning: 通过与环境交互并获得奖惩信号来优化策略的机器学习方法)算法。

官方在发布会中展示了一个非常震撼的实操案例:在不提供任何外部图形素材的情况下,GLM-5.3-Flash 仅凭自主运行了 16 个小时,就在专业 3D 创作软件 Blender(开源三维计算机图形软件)内部完全用代码搭建出了一套约 400 平方米的专业主厨住宅与测试厨房。要在 Blender 这种高度复杂的软件中构建出一个完全连贯的 3D 场景,模型必须将几何结构、材质贴图、光照阴影以及空间透视知识,转化为在不同视角和镜头下都保持高度物理一致性的 3D 几何结构。在某种意义上,Coding(编写代码)已经成为了大模型用来表达并检验其对真实物理世界知识认知的一种高效途径。

在智谱自研的编码平台 ZCode 内部,通过引入 Browser Use Agent(浏览器调用智能体)和 Computer Use Agent(计算机操作智能体),模型可以在代码编辑器、Web 浏览器和操作系统图形界面之间实现多模态的协同工作。模型在生成代码后,可以直接在后台进行渲染和运行,通过视觉能力观察并验证自己的输出结果。因为在真实的开发过程中,有许多隐藏的逻辑 bug 只有在实际渲染、用户交互或者试玩游戏的过程中才会暴露出来。

除了在技术要求极高的 3D 建模和软件开发领域大显身手外,这种原生多模态视觉能力也被广泛应用到了日常的办公场景中。在处理诸如 PPTX 幻灯片、PDF 复杂排版文档等任务时,新增的视觉理解能力可以让模型像人类设计师一样,去检查自己排版输出的审美效果并进行微调;在金融领域,该模型能够覆盖从金融市场研究、自动化报告生成到复杂数学建模分析的完整业务流程,且每一步决策都做到了有据可查;在法律服务方面,模型不仅可以审查合同条款,还能按照专业律师的习惯进行批注留痕,甚至起草可以直接交付的律师函和诉讼文书。目前,该模型已经正式接入 ZCode 编码平台,并被纳入了智谱的“GLM Coding Plan”扶持计划,每天限量向开发者发放一万张免费体验卡。


集群正循环:国产芯片与推理时代

在智谱这次的发布会中,除了模型架构本身的升级外,国产芯片在大规模生产环境中的落地部署,无疑是包含信息量最大、也最受行业瞩目的部分之一。在过去的一周内,智谱首次在其面临的最大规模日均调用流量中,全部采用国产芯片集群来提供稳定的 API 服务。这些国产芯片主要是通过智谱自研的高带宽互联网络进行集群连接的。

然而,在实际的工程部署中,工程师们面临着极大的硬件物理制约。由于单张国产芯片的绝对算力以及显存容量相对有限,要用它们来支撑起 100 万 token 的超长上下文推理,在工程上面临着巨大的挑战。为了克服这一难题,智谱的工程团队在开源推理框架 SGLang 的基础上,专门构建了一套专用的国产硬件推理引擎,并实施了极为激进的内存与通信优化策略。

在具体的工程手段上,他们采用了“以算力换带宽、以通信换显存”的思路,配合节点内的张量并行(Tensor Parallelism)技术以及混合缓存量化技术。在集群的系统架构层面,他们采用了生产级的“编码-预填充-解码”三分离式架构(Disaggregated Architecture),将多模态数据编码、预填充阶段以及逐个 token 的解码阶段,拆分成了可以完全独立进行调度和独立水平扩缩容的专用硬件池。

在这个艰巨的推理引擎构建过程中,还有一个非常瞩目的细节:整个系统的开发和调优工作,很大程度上是由一个以 GLM-5.3 驱动的 Infra Agent(基础设施运维与优化智能体)协助完成的。这个 AI 助手协助人类工程师进行底层的算子开发与编译优化、诊断分布式训练与推理中的性能瓶颈,并不断改进和重构部署服务栈,最终在工程上实现了一个闭环的“模型优化系统”。

这种由高级模型反哺底层计算系统的正向循环,最终带来了惊人的效能提升。与同一国产硬件平台上的初始基线方案相比,智谱这套自研引擎将端到端的服务性能提升了整整 3 倍。在实际的运行指标中,其硬件的整体利用效率以及单 token 的推理成本,已经达到了与行业主流的英伟达 GPU 相当的水平。这轮由国产大模型引发的架构与工程变动,还向整个半导体与云计算产业外溢出了一个非常强烈的时代信号。

进入2026年,全球超大规模云计算厂商在人工智能领域的资本开支(CapEx)结构中,推理端的资本开支历史性地首次超越了训练端的资本开支。整个行业的核心技术矛盾,也正式从早期的“绝对算力大小与超大集群规模”,转变成了如今推理时代的“显存内存带宽与多卡多机通信延迟”。

面对这种大模型单次调用成本持续断崖式下跌的趋势,行业内也出现了一种担忧:如果单个任务所需的算力越来越少,大模型变得越来越便宜,那么行业对 GPU 的绝对需求会不会因此出现萎缩?对于这个关于算力供需的经典疑问,资本市场在过去一年多的时间里,其实已经给出了一个极具戏剧性的历史解答。

我们可以回顾两场发生在资本市场的相反剧本。2025年1月,当 DeepSeek 刚刚发布其 R1 模型时,由于该模型展现出了极高的效能与极低的训练成本,市场一度形成了一种“大模型变便宜意味着算力需求将大幅减少”的悲观共识。这直接导致全球算力巨头英伟达的股价在单日内暴跌了近 17%,市值瞬间蒸发了约 5890 亿美元,创下了美股历史上单只股票单日市值的最大跌幅纪录。然而,到了 2026 年 4 月,当 DeepSeek 拿出能力更强、且运行成本更加低廉的 V4 模型时,资本市场却做出了截然相反的反应:英伟达在当日股价大涨 4.3%,总市值重新站上了 5 万亿美元的历史巅峰。

这前后十六个月的戏剧性反转,向整个科技行业证明了一个深刻的经济学规律:在人工智能的实际应用中,每一次将单次任务的调用成本做便宜之后,企业和开发者通常并不会选择把省下来的 IT 预算收起来,而是会选择将 AI 部署到更多、更复杂的业务环节中。更便宜的单次调用,不仅不是 GPU 需求的终点,反而往往是推理总需求迎来指数级爆发的起点。

回到这场正在上演的价格战本身,竞争显然还远远没有结束。在调价之后,DeepSeek 的手中其实依然握着一张极具杀伤力的王牌,那就是其极高的缓存命中率(Cache Hit Rate)。按照 DeepSeek 调整后的最新峰谷分时价格,其 V4-Flash 模型在闲时每百万缓存命中 token 的收费仅为 0.007 美元,折合人民币大约只需要 5 分钱;在高峰时段也仅收 0.014 美元,大概一毛钱。而作为对比,智谱 GLM-5.3-Flash 在享受五折限时折扣后的缓存输入价格为 0.015 美元,折合人民币大约一毛一分钱。

虽然这两者之间在绝对数字上看起来只有几分钱的微小差距,但如果我们将这个价格差距放入到一个需要反复调用、自我迭代数十轮的 Agent 循环流中,成本差距就会被成倍地放大。因此,不同大模型的应用场景也开始走向了深度的分化。如果用户的具体业务任务具有极高的缓存重复率,即上下文在不同请求之间存在大量的重复,那么 DeepSeek 依然是目前市面上最便宜的选择;而当用户的业务场景中,新输入的信息以及模型实时输出的内容占比极高时,Qwen 与 GLM 的低价优势就会变得更加明显。究竟哪一款模型才是真正的低价模型,开发者必须等整个业务任务实际跑完之后,去核算最终的账单才能得出结论。

如今纵观全局,通义千问和智谱 GLM 显然是在用 DeepSeek 曾经最擅长的方式——即通过制造效能斩杀线的方式,去制造新的斩杀线。而他们这第一刀所瞄准的目标,无一例外都直指 DeepSeek。不过,在技术竞争如此惨烈的今天,这条效能斩杀线的所有权,在未来显然还会不停地在各大厂商之间继续迁移。当纯粹的资金补贴不再是降价的可持续来源时,唯一能够真正压低推理成本的,就只剩下大模型底层的架构创新本身。大模型竞争的核心战场,也已经从最初的“不计成本提升智能水平上限”,彻底转变成了如今的“如何用最低的计算成本,向用户交付足够强大的智能”。

📌 文中提及的人物和组织

关键字: llm-architecture cost-optimization attention-mechanism inference-efficiency