历史永远在重演。
开源模型千问、Kimi、DeepSeek 越来越强,大部分人都是在比较和争吵哪个模型更厉害,谁是第一,谁蒸馏了谁?
聪明钱早就已经发现,开源模型让拥有算力的供应商从卖算力到卖智能,相同成本利润上升,提前布局。在 Kimi 发布的第一天,我已经开始布局,现在还在早期,不晚
回想起 2022 年 GPT 3.0 问世,大部分人都在用 GPT 问答,聪明钱通过 GPT 寻找背后的英伟达,悄悄地赚麻了
保存的原文
美研芒格君 · X 阅读
按原发时间浏览 · 时间显示为 Toronto 当地时间
保存说明:除条目另有标注外,正文尚未人工核对 · 图片未保存 · 引用或对话上下文可能不完整。
7 月 31 日的收盘价。亚马逊 271.58 美元,距 52 周高点只差 2.5%。甲骨文 129.87 美元,距高点 62.4%。
一个几乎在最高处,一个跌掉了六成。
如果这轮 AI 行情的逻辑是“谁买的芯片多谁赢”,这两个数字没法同时成立
$ORCL 是高风险和回报的标的,我有持有和 buy the dip。华尔街怕资金打水漂,折旧压上来,收入没跟上。
另外 $ORCL 信用评级被评为垃圾股,作为散户二级投资,我们精准把握让机构恐惧的机会,能够做到领先华尔街半步
$ORCL 的 2026 财年到 5 月底结束,这一年花掉 556.63 亿美元资本开支,而前一个财年只花了 212.15 亿。经营现金流没跟上,自由现金流缺口 236.86 亿美元。
填这个缺口靠的是借钱。截至 5 月底,甲骨文欠的钱是 1562 亿美元,而股东实际投进去、留在公司里的那部分只有 431 亿。借的钱是自有的 3.6 倍
可以想象一下,如果改了这么多楼,万一收不回来钱,甲骨文可就惨了
同样的卡,卖法不一样,账就不一样
保存的原文 · 长文
SaaS正在被AI 模型吞并掉。 $CRM $MNDY $HUBS 提供的产品竞争力在不断减弱,云厂商目前是最好且稳定的的机会,没有之一,99%还在吵哪个 AI 更强,聪明钱已经开始下注
强聪明模型负责规划,专用场景开元模型、小模型适合做具体任务, $MSFT 在最新的财报里提到,可有减少成本到最多 90%
$AMZN 提到出租的算力签订合同 5 年,2-3 年就能收回本,剩余两年是纯利润
AI Capex 扩张到今天也恰好到了 2-3 年的时间点,云厂商的转折点就快到了
看好 $MSFT $AMZN ,依然,这是一年的视角,不代表明天的
保存的原文
我是不是每个月交不起房租、天天吃沙县,只会发文在社媒上骗骗散户?
@upupup27499533 我周末正在用”交不起房租”的美股账户做投资,没有你这种人,大家靠认知也赚到钱,发个帐号我打赏感谢一下你
对,我就是吃沙县的。我去San Mateo吃一碗20$的面再加个8$鸡腿,对,剩下的钱全买了算力,偶尔吃点好的。您呢?
每天 600刀token 到 我见过的7000 刀,我在硅谷一线,这真不算多的。如果你真的觉得这算多,建议你打开眼睛看世界,这样才能做投资做得更准,不然会判断错误 AI 的发展方向,误以为大家都拿ai当个问答写代码
另外,哪些是被我骗了钱的?欢迎带着证据来,最好带着我私信拼图的截图每一个我给你转 500$,外加一个codex 200$订阅一年
X 评论区鱼龙混杂,不少素质低下的人和骗子。我在 X 上只有这一个号,不会私自联系大家,并没有 WhatsApp 带单
保存的原文 · 长文
@DaveSantaMonica 这是个很好的问题。从不消耗 token 到消耗 token,这是一个质变。但遗憾的是,产出没有翻倍,不过 1.3 到 1.5 倍是有的。之前我的帖子也提到过,边际效应在减小
对于销售 marketing 部门,销售额我没有具体的数据。但我看到更多的是,大部分的团队还没有走完第一阶段的质变过程
保存的原文
Marvell Tech 觉得这条很赞
保存的原文
华尔街对 AI 的奖惩逻辑拐点已经出现了,99% 的人还没有发觉。
过去一年半,华尔街对科技巨头的巨额开支有个心照不宣的套路:钱是确定花出去的,回报是不确定的,所以每次不论谁上调开支都先跌为敬。
这个季度发生了第一次转变,我认为四大云厂商的拐点就要到了
$AMZN 单日跳涨 15%。Andy Jassy在这次电话会上,说出了华尔街一直在等的:
服务器和网络设备,平均不到三年就能收回投资;而AI 产能的客户合同大多签在五年以上,也就是说设备回本之后还有两三年在净赚;至于机房本身,能用三十年以上,换五六代服务器,地和楼的钱只用花一次
$GOOG $MSFT 同理。这也是为什么,我原因再给 $ORCL 更多的时间和耐心,尽管它可能再次让人失望
AI 算力工厂一直是我布局的一个重点赛道,云厂商更是。正如我这边也分享过无数遍的,打压资本开支的公司和打压 AI 半导体的逻辑无法同时存在。这是市场交易的严重错误
保存的原文 · 长文
翻译:$MRVL 在 AI 推理的当下扮演着更重要的角色:万卡GPU集群的调度, KV cache互联, MoE模型激活方式等等
互联已经不再是一个可以被忽视的因素了
互联会越来越快,走向光。这对于企业来说,是 GPU、HBM 利用率的提升,能有效降低推理成本,会变成真金白银的收入,谁不想要?
我真说不出来市场上有比这个还确定的技术路线了 @MarvellTech 爱看你的帖子,请你多发
为了表示我的热忱,今天又加了一些,以表敬意
保存的原文
6 月一整个月不太好过。我发了许多条心理按摩,也解读了若干条市场逻辑的错误,甚至公开了自己部分的操作,例如,Meta 算力过剩时候的抄底,以及 AMAT、KLA,我的思考、埋伏逻辑以及卖出的时间点。
口说无凭,6 月持仓截图附上
说实在话,我并不认为自己是一个交易高手,可能只是运气稍好。但我是一个行业分析高手,是的,我不只分析,并且真金白银地进行交易。发帖子的背后,都是我真实的思考路径和逻辑
我做的可能比大部分普通人好一点的,就是对 AI 理解更深。AI是我的本职工作,每天我沉浸式使用 AI,8 到 10 个小时以上
在硅谷摸爬滚打多年,从刚毕业在 Meta 做 inference,到现在一线大厂带领自己的 AI大模型推理团队数十人,手握每年百万 AI 资源预算,每天和 AI 瓶颈和技术难题打交道。这让我作为技术从业者,比普通人看得更远、更深入,更知道一件事情是不是泡沫
看懂再投,这是我的策略。看不懂就等,这让我在下跌时心态更加稳定,能够冷静、快、准、狠地做出对应操作,动作不变形,此外,我有严格的现金和主仓位比例纪律加持
过段时间想统计一下,大家在投资的过程中,觉得最难的地方究竟是什么?
是心态、技术形态、基本面的把握,还是止盈策略?
我希望能收集到大家的痛点,之后把我的经验更好地分享出来。以及大家希望我怎么分享呢?通过群组、X 还是自建网站,亦或是邮箱推送?
投资最难的,其实是克服人性,策略其实有章可循。评论区、WhatsApp 还有冒充我的号的人,百分之百都是骗子。我不会私自联系大家喊单、带单
保存的原文 · 长文
下跌期间的痛苦来源于:你在向市场要确定性,而市场只出售两样东西:赔率和时间
明白自己在买什么、为什么买是非常重要的。大部分人都没有搞懂,因此赚钱的是少部分人
永远保有纪律,永远保留 40% 现金仓位。慢慢变富是投资者最大的敌人
我承认不知道“底”在哪,这是刻在我脑子里的纪律。我能确保的是在真正底部出现的时候,我还在牌桌上,还有子弹,还有执行力和纪律
今天价格不错,情绪也比较低迷,普遍都在唱空。我继续入场 $MRVL $ORCL 等等我看好的 ai 价值,按照纪律,依然是分批结合 sell put 和 short call。有朋友希望能同步看到我的全部持仓和每天的操作吗?
最近我在考虑怎么样分享出来。不过,每个人的信仰、入场时间、利润点都不同,担心大家盲目抄作业反而会吃亏
请注意评论区的 WhatsApp 都是骗人的。我在 X 只有这一个号
保存的原文 · 长文
如果最近被市场和机构反复忽悠得有点迷失了,如果甚至怀疑 AI是不是真的需要存储? 真的很推荐两周之前的这篇文章,是给价值投资者看的
“内存为王”,永远缺存储,股价会一直涨。这个逻辑其实是不完全正确还是这句话:存储在征税,存储是一堵墙,大家都想打破它
存储是不是会反弹?在急跌之后,值得关注。同样,也值得我们认真去布局打破“内存墙”的几条路线。许多玩家自身 AI infra 属性随着存储和半导体板块一起被错杀了
昨天我长文拆解了 CXL 这条主线。后续我会继续拆解其他的主线和关键结构
再等等,再等些时间,我们再来回看这条逻辑
保存的原文
现在市场上存储 ($MU, $SNDK, $WDC) 下跌的逻辑和互联网的逻辑($MRVL $ALAB) 不完全一样,要区分开。大部分人恐惧、想逃走的时候,我在其中再次看到了市场的逻辑漏洞,以及对应的长期机会
首先说一下为什么二者价格关联性达到了前所未有的水平。
据我了解,很多机构把存储和互联放到一个高贝塔(Beta)因子里,因此一个卖出或者调仓会带着另一个一起机械卖出
我从 HBM, cHBM看到了什么机会
那问题来了,如果说存储是一个周期性行业,首先我觉得按照现在的情况来看,说的没错,存储都在扩产,大厂都想打破“内存墙”。没什么门槛的存储,只要扩产了,谁都可以造。
短期涨太多了,需要杀杀估值,不然就成了华尔街喊估值倍数的游乐场——喊一句,拔高一截,完全脱离了常态。但我认为长期市场再次判断错误了。
当市场把存储已经渐渐深入了芯片定制化和 Co-design 过程(从 Anthropi、OpenAI 和存储直接合作,以及 GPU 跟存储直接合作来看),现在市场上很多人还是在讨论普通的 DRAM,但HBM, cHBM已经改变了这个普通的竞争格局,不再是谁建都可以、谁扩产都可以的阶段(下篇 article 长文,我会详细带大家走进存储真正的护城河)
市场情绪更为悲观、集体悲观情绪到达底部后,存储回归正常价值,我会持续地买入
互联下跌是不是真的符合逻辑?
逻辑上没问题,整个半导体情绪减缓,一起下跌。
但坦白讲,我没有看到任何新的业绩预警、下调指引或客户取消订单,也没有人喊互联是周期性产品。相反,互联是提高算力、榨干存储的关键路径。
资金只是在卖出拥挤的 AI 硬件和互联仓位
我的逻辑是会采用期权做保护,吃到下跌的红利,但我的正股当前还没有任何的调整,除非我真的看到了类似存储的周期见顶
请注意下面的 WhatsApp、账单都是诈骗,请保护好自己。
最后我也想问大家一句:投资是一个长期的过程。如果你问我一年之后会怎么样,我告诉你大概率会涨。那面对今天的下跌,如果告诉你明天买入之后可能还会继续下跌,你还会选择买入吗?
保存的原文 · 长文
我base 在硅谷,在一线大厂带领AI 推理团队。我们的目标是从硅谷一线视角,顺着 AI 瓶颈寻找下一个投资机会。这篇文章走访了英伟达、Marvell、Astera Labs Inc的核心工程师,带大家拆解硅谷最近很火的CXL
瓶颈在哪里, 赚钱机会就在哪里, 近期是见证存储风向的关键时期。这篇承接上文,继续拆解打破内存墙的重要路径,也是争议最大的一条:CXL。看完后你会彻底心中有数
1994 年 12 月,弗吉尼亚大学的 William Wulf 和 Sally McKee 写了一篇只有几页的论文,题目叫 《Hitting the Memory Wall》。它后来在 1995 年 3 月正式发表。
那时还没有 ChatGPT,也没有今天这种由许多服务器组成、动辄使用几万张 AI 计算芯片(GPU)的集群。两位作者担心的是一件更基础的事:处理器越来越快,内存却没有以同样速度进步。长此以往,芯片会把大量时间花在“等数据”上。计算能力再强,整台机器也跑不快。
他们把这堵看不见的墙叫作 Memory Wall,也就是内存墙。
三十年后,经典内存墙仍然存在:芯片依旧会因为等数据而停下来。AI 又在它旁边加了一堵新墙:需要保存的数据越来越多,最快的内存既贵又装不下。
Meta 在 ISCA 2026(计算机体系结构顶会)上发表《Vistara: Making CXL Real》,Meta 服务器整机寿命 3–5 年,但内存能用 7–10 年;而它约 40% 的机队没法再加内存——所以才去「捡」退役 DDR4,使用的就是 CXL
我上一篇写了行业绕过内存墙的几条路线。这一篇只讲其中争议最大的一条:CXL。
2024 年,它一度被判定“不适合 AI”。今天,Meta、微软和一批芯片公司却开始把真实程序、产品和收购资金压到这条路上。
一、先别背缩写:把这些名词放回一台服务器
如果这些名词对你来说都是第一次见,先看它们在机器里的位置。服务器可以理解为数据中心里的一台高性能电脑,里面有负责计算的芯片,也有负责临时保存数据的内存。
CPU 是通用处理器,负责运行操作系统、安排任务,也处理各种日常计算。
GPU 原本用来处理图形,如今很擅长同时完成大量相似计算,所以成为训练和运行 AI 模型的主力芯片。
DRAM 是一种内存技术。我们常说的 DDR4、DDR5,就是它的不同代际,类似同一类产品的上一代和新一代。
主机内存 说的不是另一种材料,而是位置和用途:它通常指安装在 CPU 旁边、供整台服务器使用的 DDR/DRAM。也就是说,DRAM 回答“它是什么”,主机内存回答“它装在哪里、主要给谁用”。
HBM 的全称是高带宽内存。它本质上也属于 DRAM,但采用更紧凑的堆叠方式,放在 GPU 身边。它每秒能送出更多数据,所以很快,也很贵。这里的“带宽”,可以简单理解为一秒钟能搬多少数据。
PCIe 是服务器里常见的高速连接。GPU、网卡(让服务器接入网络的设备)和 SSD(用来长期保存数据的固态硬盘),都可以通过它与 CPU 交换数据。
CXL 不是一种新内存,而是一套建立在 PCIe 之上的通信规则。中间的 CXL 控制器负责翻译两边的指令,让 CPU 能用接近本机内存的方式读写外接 DRAM。
Fabric 原意是“织物”。在这里,它指很多 CXL 连接和交换机织成的一张网络。交换机就像数据通路的路口,多台服务器通过它们连接一组共享内存,就不必让每台机器都提前装满内存。
后文还会出现 链路、互连和专用通道。这几个词都在说设备之间传送数据的路径。“专用”表示它主要服务某类设备或任务,例如 NVLink 主要让 GPU 之间高速交换数据;CXL 解决的是外部内存怎样接入服务器。两者不是同一条路。
如果把 PCIe 看作已经铺好的道路,CXL 就是让“内存数据”可以在这条路上通行的一套规则;CXL Fabric 则是道路、路口和调度系统连成的一张网。
这张图还有一条很重要的边界:目前公开落地的 CXL 产品,大多先扩展 CPU 一侧的主机内存,并不等于直接给 GPU 身边的 HBM 扩容。
从速度和容量看,一台 AI 服务器里的数据通常会被分层:最常读取、最怕等待的数据放在 HBM;其次是 CPU 旁边的本地 DRAM;不必立刻读取的数据可以放进 CXL 接入的外部 DRAM;很少使用的数据才会落到 SSD。
如果只记一句话,可以这样理解:HBM 主要追求快,CXL 主要追求多和省。 不是所有数据都要一直占着最贵、最快的位置。
二、内存墙,正在变成一张越来越贵的账单
AI 有两个主要阶段。训练,是把大量资料喂给模型,让它学会规律;推理,是模型学成以后,开始回答用户的问题。
训练时,GPU 之间要持续高速交换数据,速度最重要。到了推理阶段,容量开始变得同样重要。
模型为了记住刚才聊过什么,会在内存里保存一份临时笔记,这就是 KV cache。对话越长、同时服务的人越多,这份笔记就越大。具体大小取决于模型、上下文长度和同时处理的请求数;多条长对话一起运行时,占用几十 GB 并不罕见。GB 是容量单位,1 TB 大约等于 1,000 GB。
最常访问的内容仍然要放在 HBM。但已经看过、短期内不常使用、之后又可能被叫回来的内容,需要一个容量更大、成本更低的位置。
所以,今天的 AI 同时面对两种内存压力:数据送得不够快,以及容量不够、成本太高。
SemiAnalysis 的估算称,hyperscaler,也就是建设超大规模数据中心的云厂商整体,内存支出在 2023 至 2024 年约占资本开支的 8%,到 2026 年可能接近 30%。这里的资本开支,就是它们建设数据中心、购买服务器和芯片的钱。
这不是各家公司按同一口径披露的精确预算,只能当作方向参考。但从 8% 到 30%,足以说明内存已经从服务器中的一个部件,变成管理层必须单独盯住的大额支出。相信各位在 $MU $SNDK 就能看出来
另一组数字来自微软 Azure。
CPU 内部有许多可以同时执行任务的计算单元,这些单元叫作 CPU 核心。如果一台云服务器的核心先被客户租完,剩余内存即使闲着,也不能自动挪给另一台服务器。微软追踪 100 个通用生产集群、共 75 天的数据后发现,在个别高利用率集群中,被困在原服务器里的 DRAM 比例超过 30%。论文的成本模型还假设,DRAM 约占未采用内存池的服务器总成本一半。
这两个数字不能直接相加。超过 30% 是少数异常点观察到的闲置比例;50% 是论文为了计算成本采用的模型假设。它们共同说明了一个现实问题:一种很贵的部件,可能同时有相当一部分无法被别的机器使用。
内存便宜时,这种浪费还能忍。内存又贵又缺时,让几台服务器共享一组内存,以及回收旧内存,就有了经济意义。
三、CXL 当年为什么会被“判死刑”
2024 年唱空 CXL,并不荒唐。2026 年,你该重新重视起来
当时 AI 基础设施的中心任务是训练大模型。成千上万张 GPU 必须持续交换数据,任何一段连接变慢,整组机器都可能停下来等。
买方最关心的是 GPU 之间的极限速度。英伟达 NVLink 这样的 GPU 专用连接,以及 InfiniBand、高速以太网这类数据中心网络,都在解决这类问题。CXL 做的却是把外部内存接进服务器,它并不是为 GPU 之间的最高带宽而生。
2024 年 3 月,SemiAnalysis 直接写下《CXL Is Dead in the AI Era》。它当时认为,芯片能够接出多少高速通道、能给这些通道分配多少电力,都是有限的。如果这些资源优先给 NVLink 等更快的 GPU 连接,留给 CXL 的空间就会变少。
更现实的问题是,整套配套也没准备好。CPU 能识别 CXL 还不够;安装芯片的主板、开机时运行的软件、操作系统和 CXL 内存卡必须彼此兼容。卖方很积极,真正掏钱建设 AI 集群的买方却不急。
所以,当时真正的问题是:CXL 能不能成为 GPU 之间、服务器之间的主要数据通道。到今天,答案仍然是否定的。CXL 的任务是扩展内存,不是取代 GPU 高速连接。
四、它不是突然翻案,而是终于遇到适合自己的问题
CXL 重新回到视野,背后有三处变化。
第一处变化:AI 从集中训练走向持续推理
训练更看重速度。推理除了速度,还要计算每次回答占用多少内存、能同时服务多少用户,以及每次回答的成本。
CXL 外接内存比 HBM 慢,但通常比 SSD 快得多,而且 CPU 可以按内存方式读写。只要软件能分清哪些数据急着用、哪些可以晚一点取,它就能把后一类数据放到 CXL 内存中。
目前公开部署主要扩展 CPU 的主机内存。KV cache 能否从 HBM 移到 CXL,还取决于 GPU 如何访问这部分内存,以及软件能否自动安排数据位置。插上一张 CXL 卡,并不会自动完成这些工作。
第二处变化:旧内存开始值得被重新利用
目前公开资料中,Meta 的 Vistara 提供了最完整的一组生产部署数据。
Meta 没有发明新的内存。它把退役服务器里的 DDR4 拆下来,通过自研 CXL 芯片接到使用新一代 DDR5 的服务器上。操作系统再负责判断:频繁访问的数据留在本地 DDR5,不常访问的数据放到外接 DDR4。
按 Meta 的 Vistara 论文,公司约 40% 的服务器会先碰到内存容量上限;在论文采用的全生命周期模型中,DRAM 内存条占服务器各部件碳排放的 69%;内存条通常能用 7 到 10 年,而服务器大约 3 到 5 年就会更新。
这意味着,服务器退役时,里面的内存往往还没有到寿命终点。
Vistara 已进入 Meta 的生产系统,用于 AI 推理、数据处理、数据库和软件编译测试。在部分把计算与内存分开部署的 AI 服务中,它最多减少 25% 的服务器。在分布式缓存场景中,因为更多数据可以留在本机,不必通过网络去其他服务器读取,平均访问延迟反而降低了 29%。
这里要说清楚:论文称 Vistara 进入了一个拥有数百万台服务器的基础设施,并不是说 Meta 已经部署了数百万台 Vistara。
代价也写在论文里。在 Meta 这套配置中,CXL 扩展内存的带宽约为本地内存的十分之一,访问一次数据要等待的时间高约 60%,多出约 150 纳秒。(纳秒是十亿分之一秒,在芯片世界里已经足以拉开明显差距)。这不是所有 CXL 产品的固定表现,但说明 CXL 内存不能随便放数据。Meta 只把不急着读取的内容放进去,把常用数据继续留在本地内存。
Vistara 难在芯片和软件必须一起做。软件要持续判断哪些数据常用、哪些数据暂时不用,再把它们放到合适的位置。不适合的程序,系统就直接关闭外接内存。
幸运的是,如果你了解最近软件的动向,你会发现各家厂商都在朝着 KV cache offload 发力,我本人从事 AI 推理,这点看的很清楚。
第三处变化:底层连接变快,买方开始测试
2025 年 11 月,微软把采用 CXL 内存的 M-series 云服务器放入定向预览,只向部分客户开放测试。Astera Labs 的 Leo CXL 2.0 控制器单颗最多可以连接 2 TB 内存,官方称可把服务器内存容量提高到原来的 1.5 倍以上。
这还不是全面商用,但已经从“听产品介绍”走到“让客户把真实程序放上去跑”。Azure 与 Astera 的定向预览 说明 CXL 已从实验室测试进入客户验证,距离全面开放仍有一段路。
同月,CXL 4.0 规范正式发布,把每条通道的最高信号传输速率从每秒 640 亿次提高到 1,280 亿次,也就是从 64 GT/s 提高到 128 GT/s。新规范还允许把多个端口组合使用,并加强内存的纠错和故障处理。标准升级不代表收入马上出现,但至少说明处理器厂商、云厂商和芯片公司仍在投入兼容工作。
五、CXL 会先变成什么生意
CXL 的愿景很大,但商业化不会一步到位。
直连扩容:先给一台服务器加内存
一台服务器接上一张 CXL 内存卡,就能绕过服务器内部有限的内存条插槽,继续增加容量。目前公开可见的部署和产品,主要集中在这一层。
内存池化:让几台服务器共用一组内存
多台服务器通过 CXL 交换机连接一组外部内存。交换机可以理解为数据通路的路口,软件则决定哪台机器在什么时候拿多少容量。
微软的研究认为,小规模池化可以减少相当一部分 DRAM 浪费;但池子越大,连接层级、等待时间和硬件成本也会上升。共享并不是免费午餐。
CXL Fabric:把共享范围拉到更多机架
机架是数据中心里摆放多台服务器的柜子。当多个机架中的服务器、交换机和内存池连成一张更大的 CXL 网络,就进入 Fabric 阶段。内存不再固定属于某一台机器,而可以在更大范围内分配。
目前最稳妥的判断是:直连扩容已经出现生产部署,Meta Vistara 是明确案例;池化正在验证,跨机架 Fabric 仍是远期方向。
六、CXL 不会替代 HBM,也不会替代 NVLink
很多人一听 CXL 重新受到关注,马上问:HBM 会不会被替代?
我的答案是:不会,至少这不是 CXL 当前的任务。
HBM 位于 GPU 身边,负责最常被读取、最怕等待的数据。CXL 目前更适合扩展 CPU 一侧的容量,存放对等待时间不那么敏感的数据。两者不是同一种产品,也不在同一个位置。
如果未来的平台能稳定地把部分 KV cache 等不急着读取的数据,从 HBM 移到较慢、较便宜的内存层,新增推理业务对 HBM 的需求可能不会与推理总量同步增长。但这仍是推论;现有商业数据还没有证明 CXL 会明显削弱 HBM 需求。推理总量继续扩大时,两者完全可能一起增长。
NVLink 的边界也很清楚。它负责 GPU 之间的高速数据交换;CXL 负责外部内存如何接入、扩容和共享。
所以我不会问“CXL 能不能打败 HBM”。更准确的问题是:哪些数据必须留在 HBM,哪些数据可以放到更便宜的内存层。
七、这条链上的钱,会按什么顺序出现
目前更接近商业化的是 CXL 控制器,但厂商普遍没有单独披露这部分收入。
Astera Labs 的 Leo、Marvell 的 Structera X、澜起科技的 MXC,都在做这颗“翻译芯片”。每张扩展卡都需要它,速度、稳定性、压缩能力和平台兼容也会拉开产品差异。因此,控制器比单纯组装内存条更有机会保留利润。
下一层是 CXL 内存模组。三星的 CMM-D、美光的 CZ120、SK 海力士的 CXL 模组,都是把控制器和 DRAM 做成可插入服务器的产品。对内存厂来说,这是新的 DRAM 出货入口,但未必自动变成全新的高利润市场。
当直连走向池化,CXL 交换机 开始重要。它把多台服务器和多组内存连起来,还要处理访问顺序、故障和不同客户之间的隔离。这个市场仍早,验证周期也会比单机扩容更长。
硬件接上以后,还要有 软件 判断数据该放在哪里。热数据放错位置,省下来的内存成本可能很快被速度损失吃掉。Meta 能自己设计芯片、修改 Linux 操作系统,大多数企业做不到,所以它们还需要数据分层、内存分配和监控工具。
再往后才是 光互连。
CXL 的速度越高,电信号通过铜线时越容易衰减。在服务器内部和机柜附近,铜仍然简单、便宜;如果内存池要跨过多个机架,距离、功耗和布线空间会逼着系统考虑用光纤传输。
公开演示已经把这类光连接从约 20 米 拉到 100 米,但两次演示的规格并不相同。它们证明技术可以工作,还没有证明客户会大规模采购。
所以,用于 PCIe/CXL 的光连接今天仍处在演示和工程准备阶段,还不是成熟订单。
八、为什么我要把 Marvell 单独拎出来
Marvell 尚未单独披露 CXL 业务收入,但它已经在直连扩容、池化交换和远期光互连上做了布局。
Marvell 在单机扩容层的核心产品是 Structera X 2404。
这颗 CXL 2.0 内存扩展控制器 最多支持 12 根 DDR4 内存条,并带硬件压缩,可以直接在芯片中把部分数据压小,提高同样容量下的实际可用空间。它瞄准的正是旧 DDR4 再利用:服务器退役后,内存不必同时退出数据中心。这款产品主打的价值,是让客户少买一部分新的 DRAM。
池化这一层,Marvell 通过收购 XConn 补上交换机。
Marvell 于 2026 年 2 月 10 日完成收购,交易在宣布时估值约 5.4 亿美元。XConn 已有产品进入生产,下一代产品当时处于送样阶段,也就是把样品交给客户测试。
Marvell 预计 XConn 在 2027 财年第三季度开始贡献收入,第四季度达到约 5,000 万美元年化收入,也就是按当季收入速度折算成全年;2028 财年约 1 亿美元。这里的“财年”按 Marvell 自己的会计日历计算,并不等同于同名自然年。这些都是管理层预期,不是已经实现的收入。
Marvell 随后推出的 Structera S 30260 提供 260 条高速通道,可以同时接入更多服务器和内存设备,目标是连接更大规模的内存池。截至本文撰写时,产品仍计划在 2026 年第三季度送样。送样、量产和形成可识别收入,是三件不同的事。
最远的一层是 Celestial AI。
2025 年 12 月公告交易时,Marvell 给出的前期对价估值约为 32.5 亿美元;如果 Celestial AI 未来达到约定的收入目标,还可能再支付最多 22.5 亿美元。Celestial AI 用光来传输芯片之间的数据,目前首先服务 AI 集群内部的高速连接;把这项技术用于远端内存池,仍是未来设想。
因此,Celestial AI 目前还不是成熟的“光学 CXL 产品”。Marvell 此时收购它,是先把跨机架光连接的技术能力买下来,等待未来需求出现。
Marvell 给出的目标同样激进:Celestial 相关业务在 2028 财年第四季度达到 5 亿美元年化收入,2029 财年第四季度达到 10 亿美元年化收入。这是公司目标,不是锁定订单。
图里的三层并不处在同一成熟度:Structera X 是当前产品;XConn 已有在产交换机,Structera S 仍计划送样;Celestial AI 则是更远期的光连接能力。
Marvell 不是最纯的 CXL 标的。Astera Labs 更集中在控制器;Rambus 把芯片中的 CXL 接口模块设计好,再授权给其他芯片公司;内存厂则通过模组销售更多 DRAM。Marvell 的不同之处,是同时拥有控制器和交换机,并通过 Celestial AI 保留了远期光连接能力。
Marvell 2027 财年第一季度 收入为 24.18 亿美元,同比增长 28%;数据中心收入为 18.33 亿美元,占总收入 76%。但官方所说的“数据中心收入”还包括以太网、存储、通用服务器和数据中心之间的连接,不能全部算成 AI,更不能算成 CXL。
我接下来主要看 Structera X 能否先从单机扩容获得收入,以及 XConn 是否会按公司指引完成客户验证。
九、接下来的瓶颈,是整套系统能不能一起工作
CXL 最容易被讲成“插一张卡,内存就能无限扩容”。现实没有这么简单。
CPU 能识别 CXL,只代表硬件有了入口。主板、启动软件、操作系统和管理工具都要配合,上面运行的程序也必须能承受额外等待时间。
池化以后,系统还要决定哪台服务器拿多少内存,并保证一台机器出故障时不会拖累其他机器。跨机架以后,光连接能否长期稳定运行,又要重新验证。
所以,接下来我只看三件事:Azure 会不会把 CXL 云服务器从定向测试推向全面开放;交换机能不能从送样走到客户采购并形成收入;光连接能不能离开演示台,在跨机架环境中长期稳定运行。
在这些信号出现之前,我会把 CXL 分成两部分看。单机直连扩容已经有真实部署;内存池化和跨机架 Fabric 仍要等待客户验证。
它目前的用途很具体:HBM 继续处理 GPU 身边最常用的数据,CXL 把容量更大、价格更低的 DRAM 接进服务器。控制器已经最先进入市场,交换机、软件和光连接还要随着共享范围扩大,一步步证明自己。Marvell 的布局,也是在押这个顺序。
两年前,市场说 CXL 在 AI 时代没有位置。现在更合适的判断是:它不会接管 GPU 高速互连,却已经找到扩展主机内存的用途。 接下来,订单和长期使用数据会告诉我们,这个用途究竟能长成多大的生意。
毋庸置疑,存储下一步怎么走,直接决定了我们的投资机会,后续我会继续拆解这条主线,同时继续拆解其他打破内存墙的方式
资料与延伸阅读
Wulf 与 McKee:Hitting the Memory Wall
Meta:Vistara,从芯片、操作系统到超大规模部署
Microsoft Azure:CXL 内存池的设计取舍
Astera Labs:Azure M-series CXL 内存定向预览
CXL Consortium:CXL 4.0 规范
Marvell:Structera X 内存扩展控制器
Marvell:完成收购 XConn
Marvell:Structera S 30260 CXL 交换机
Marvell:收购 Celestial AI
免责声明:本文是个人行业研究与科技科普,不构成任何投资建议。文中市场估算、公司指引和产品路线来自撰稿时的公开资料,后续都可能变化。
保存的原文 · 长文
内存是一堵墙,在征整个行业的税。下一个阶段的瓶颈,不是造更多内存,而是让全世界已经买下的内存,别再睡大觉提高利用率,这几乎是板上钉钉、没有被市场完全定价的部分
$MRVL 趁所有人不注意,把整条链买齐。我对它的方向始终看多,并且有完善的逻辑链,拆解给你看⬇️
MRVL 2018 年买 Cavium 拿网络处理;2019 年买 Avera 拿定制芯片设计(今天帮云巨头做自研 AI 芯片的本钱:50 多个项目、10 多个客户);2021 年买 Inphi 拿光互连。这才有了今天的MRVL
2025 年 12 月到 2026 年 1 月,连续有两次动作
第一枪:底价 32.5 亿美元(里程碑达成最高 55 亿)买下 Celestial AI——用光把芯片和内存连起来(Photonic Fabric)的明星创业公司。
注意,Marvell 自己做硅光已经八年多,它买的不是光技术本身,而是一个特定架构:把「访问内存的那条路」光纤化。远景是 33TB 以上的统一内存池;收入预计 2028 年底起量、2029 年底冲到年化 10 亿美元——而 AWS 已提前签下认股权协议,第一个大客户实质锁定
第二枪:5.4 亿美元买下 XConn——业内第一家把 CXL 交换机做成商用产品的公司,也几乎是唯一从第一天就原生支持 CXL 的交换机厂(这个市场此前被一家大厂垄断了十几年)。收购官宣仅两个月后,Marvell 就端出 260 通道的 CXL 交换机 Structera S 30260:单台管理最多 48TB 共享内存、连接 16 到 32 颗 CPU/GPU,2026 年 Q3 客户送样。
现在把它的 CXL 全家桶摆开,你会看到一条完整的物流链:
Structera X=翻译官(控制器)其中 X 2404 这颗专门干 Meta 那种「拆旧翻新」的活:最多插 12 条从退役服务器拆下的 DDR4、1.5TB 物理容量,硬件压缩后有效容量约 3TB——据报道谷歌、甲骨文都在讨论这类方案。
Structera A=近内存计算:16 颗 Arm 核直接安在内存旁边,货不动、算力过去。
Structera S=总调度台(交换机),池化的钥匙。
Alaska P=信号接力员(retimer),给马路延长有效距离。 硅光 + Celestial AI=光干线,通往织网终局。
这周我会发布我的最新文章《CXL 正在复活:拆解内存危机的下一条关键路径,谁在闷声收钱?》。耗时将近两周,走访了英伟达和 Marvell 的工程师团队。
为大家详解 CXL 为什么是下一代的解药,里面的关键玩家以及可能的竞争者,以及 CXL 整体的局限性和替代方案,比其他人再多走一步
保存的原文 · 长文
这篇文章跑断了双腿,用尽人脉,走访了十余家硅谷一线做光模块、互联、存储的公司,和一线 Manger, RD 深入交流,陆陆续续写了 4 周。相信是你在别的地方看不到的
我不仅聊,也跟着真金白银地下注。口说无凭,截图奉上。
请注意,大家不要盲目跟单,评论区冒充我的都是骗子。我在WhatsApp 也不会分享任何策略。
存储大家最近肯定都有关注。东西贵了总会回落,偏偏这一次,没那么简单
我拆解了AI 疯狂消耗存储底层的三把结构性短缺锁。有人认为,只要 AI 投资不掉头,这场紧张会一路拖过 2028 年。我同意
既然贵又缺,那就想办法少用它——开始挖一条条绕开这笔税的路。这,才是这篇文章真正想带你看的东西。
内存墙是一个词,其实是两个毛病
第一个毛病是装不下(容量):KV 缓存、模型权重,HBM 里塞不下
第二个毛病是搬不快(带宽):数据从内存搬到 GPU 的速度跟不上
「省内存容量」和「互联传得快」解药,也是新瓶颈,熟悉我的《三层逻辑》的读者都知道,这是新玩家、机会
文章深度拆解了三条路线
📷第一条路,用便宜的料,去顶替贵内存 HBF: 「容量大得多、但慢一些」: SNDK, SK 海力士
📷第二条路·砍掉数据搬运
>「近内存计算」AI 推理的核心运算是矩阵乘法,做进内存芯片里— SK,三星等
> 光 HBM: 光模块搬存储:MU, MRVL等
> 3D 堆叠
📷第三条路:软件智能管理
>冷热数据分层:猜得准
>共享内存(CXL协议):三星、SK、MRVL,ALAB
小众方式:SRAM
我的观点 三条路不是竞争,是分工。说到底,我在观察的是一件什么样的事:当一种东西又贵、又缺、还降不回来,一整套「绕开它」的技术生态,会怎样整体地长出来,这是凭空冒出来的新曲线、新资金
我在硅谷一线大厂,每天从事 AI 推理训 ,把行业掰开揉碎讲给你听。欢迎回看,节选⬇️
06-24《要看懂万亿光互联,Credo很关键》
06-02 《迈威尔+50%, 不看懂怎么能安心?深入解读原》
05-26《美光...下个产业机会流向》-> amat, kla
05-28 《40小时呕心沥血!MRVL光模块+AI推理布局解析》
05-21 《深度拆解ALAB互联27年布局, 这次别踏空!》
05-10 《耗时一周调研,带你彻底读懂 MRVL底层逻辑》
05-03 《压箱底的 AI 主线 下一“瓶颈”标的》
04-29 《MXL》
04-28 《MRVL进入关键时期》
04-27 《Marvell 取消 POET 是必然+5 层光模块解析》
保存的原文 · 长文
$MU 财报双beat,盘后大涨13%,带动了amat/mrvl等一系列ai股
我一直的观点:短期缺算力,长期缺存储,永远需要更快的互联
存储和互联、以及存储的卖铲人都有谁,在之前的文章和帖子已经阐述多次了。时间会检验文章的前瞻性
恭喜各位infra/存储股东,盘后反转如此快。耐心、看懂、纪律,足够帮助我们穿越短期下跌。将价格下挫视作礼物
"We expect a sustained, substantial multi-decade memory demand cycle to begin in the latter part of this decade."
很多人忽略了physical ai的爆发和需求,我这周会提供完整报告给大家。
和之前一样,用通俗易懂的语言让大家都能看懂。
MU也带动了一系列美光HBM的卖铲人,可以看我之前的文章
也切勿半场香槟,各位长线投资者,我们的路还有很长
保存的原文 · 长文
$MRVL 这是很多人忽略的一条线
DDR5 一年涨 3–4 倍,大家都扛不住了
Marvell 的解法不是让你买更多内存,而是让你少买: CXL 挂便宜内存 + 硬件压缩 2:1 + 旧 DDR4 回收。
Micron 卖的是内存稀缺,Marvell 卖省着用,帮大家真金白银的省钱
互联是解放算力和存储的最终解
保存的原文
$MRVL 心态和纪律,比灵机一动的小聪明更加重要
说句心里话,MRVL我拿了三年,中间一度跌到 70$,那时候人人喊打,天天都在跌。近乎腰斩,
但我相信,算力之间的互联必将是一个千亿甚至万亿的市场。我忍着大家的骂声和嘲讽,默默地加仓,一直拿到了现在
很难熬。但如果真的看懂了,心里反而会异常的平静。
因为你知道,自己似乎领先了市场半步,而现在能做的就是耐心等待。
我的 follower 中,很多朋友是因为我的帖子了解到了 MRVL,也有不少是 MRVL 的老股东。
任何时候,我都会问一句:我看好 MRVL 的观点是否发生了变化?业绩是否发生了转向?英伟达是否暂缓了和 MRVL 的合作?
回答好了这些问题,我才会进行下一步的操作。
保存的原文 · 长文
06/24 MRVL,为什么连续两天、连续一周,MRVL 都在下跌?有朋友问。我对 MRVL 和光互联的看法有任何变化吗?
需求到底有没有发生变化?我的回答是没有,没有见到任何变化。没有人能看清明天或者下周的价格变化,但如果从长线的视角拨云见雾,是可以把握住趋势的。
这篇帖子来聊聊今天我的纪律和看法
1/ 首先按照纪律,正如上个帖子所说,今天继续下跌我会卖出 put。
因此我今日sell 18 天后行权的215 PUT,收获权利金 8000$
2/ 看法
6 月 23 日:不是 Marvell 单独爆雷,而是整个芯片交易发生“踩踏”
当天真正的导火索来自存储芯片和韩国科技股:
韩国 KOSPI 大跌约 10%;
SK 海力士和三星电子均跌逾 12%;
美光和闪迪均跌约 13%;
费城半导体指数整体跌了 7.9%;
Marvell 并不是存储芯片公司。 它被卖掉,主要因为市场把它视作“AI 数据中心资本开支+定制芯片+高速互连”的高贝塔代表。存储价格担忧只是点火器,真正被平仓的是整个高涨幅 AI 半导体组合。我之前的帖子有讲
6 月 24 日为什么继续跌?
MRVL 并不是开盘就因为坏消息暴跌。它开盘约 281.25 美元,一度升至约 287.24 美元,随后才快速反转至约 266 美元附近。
反弹失败 → 前一天抄底盘止损 → 趋势和量化资金继续减仓 → 获利盘利用反弹出货
如果硬要说:
当天确实有一个对 Marvell 相对不利的产业消息:OpenAI 正式展示了与 Broadcom 联合开发的首款定制推理芯片 Jalapeño,并称这是多代定制芯片平台的第一步,计划在 2026 年年底前部署。
这条消息不能解释全部跌幅,因为:
1. OpenAI 与 Broadcom 的合作此前已经公布;
2. MRVL 当天最初仍然上涨;
3. 没有证据表明 Marvell 刚刚失去了一个已经计入预测的 OpenAI 订单。
但它强化了一个现实问题:
AI 定制芯片总需求可以非常旺盛,但最终订单未必平均分给 Broadcom 和 Marvell
3/ 更深层的原因:深层原因不是“AI 需求已经消失”,而是 MRVL 的股价此前把未来成功率定得太满了。
我个人观察的最接近的行业催化剂是 美光 6 月 24 日收盘后的财报。市场尤其会看 HBM 需求、供需紧张程度、价格持续性以及对 2027 年的评论。强劲指引可能修复整个 AI 半导体组合;任何关于价格见顶、扩产过快或利润率低于预期的表述,都可能令卖压延续
对于 MRVL,我在等的是:
公布或确认新的大型云厂商定制芯片项目;
提高近期数据中心或定制芯片收入指引;
证明现有项目按计划进入量产;
在 Broadcom 获得明显项目进展后,Marvell 给出自己的客户和量产证据
保存的原文 · 长文
最后重申一遍,X 的评论区有的时候乌烟瘴气,每篇帖子下面都有 AI bot在进行诈骗 。说实话,这些是拉黑不完的,请大家注意保护好自己。
我在 X 上只有这一个账号,我不会让大家跟买,只是分享我的个人投资经验,也没有任何的 WhatsApp。谢谢大家支持
保存的原文