Tigris | 会讲课教授是好老师 · 2026-01-01 · 帖子

今年过节不收礼，收礼只收DeepSeek的“大红包” 人家过节发钱，DS梁文峰发论文。这不是小修小补修个函数算法，这次是又一次震撼性的系统级的训练方面大升级 我尽可能浅显易懂讲清楚拆解出核心的对于26年AI训练和半导体意味什么？搞研究搞投资必读啊 以前训练大模型，有点像修一条很长的高架。 每一层高架只有一个接口，一辆车一路往前开，稳定是稳定，但你能做的路况调度很有限。 论文呢想法很激进： 把每一层高架改成多层立交，直接开四个车道，允许车在不同车道之间换道分流。信息流动更自由，理论上模型更聪明。 但自由是要付代价的。 立交越复杂，越容易“失控”：有的层把车流放大成拥堵，有的层把车流抽干成断流，层层叠加，训练就容易崩。 这篇论文最关键的价值，是给这套“多车道立交”加了一套硬规则：每次分流只能按比例分配，不能凭空把车变多，也不能把车搞没。结果就是两件事同时成立：训练更稳，效果也更好。 更重要的是，它没有停在“理论很美”那一步。这么搞整体训练成本只多了大约 6.7%，但换来的，是可训练性和性能上的提升。 这篇论文背后的信号是什么： 首先模型训练的竞赛远没有停滞。推理更重要但训练还在继续抬高上限可能性。 算法的时代结束了吗？没有。算法敢不敢设计得更激进，工程能不能把它撑住。谁能把“想法”变成“跑得起来的训练吞吐”，谁就拿到下一轮领先。 再次验证了一个老结论：今天最大的瓶颈依旧不是算力本身，而是带宽和内存。 对应到现实，就是高带宽内存、互联、通信、内核优化这些硬东西。 所以，这篇论文并不会让 HBM 需求消失。相反，它在告诉你：架构越进化，带宽和内存越成为核心约束，软件和硬件会继续互相逼迫、互相推动，形成滚动式升级。 把它当成 2026 的第一份开年礼就行。 它预示的不是“又一个模型更聪明了”，而是更大的趋势： AI 的天花板还在上移，而且这次上移的方式是系统工程把算法托上去。 新年第一份论文红包，收下。 今年 AI 还会继续把高度往上拔。