--- author: Best Partners TV date: '2026-07-08' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=y7vVEs9Bl0w speaker: Best Partners TV tags: - open-source-ai - mixture-of-experts - model-training - hardware-software-co-design title: 英伟达为什么做开源大模型？对话 Nemotron 掌门人布莱恩·卡坦扎罗 summary: 本期由大飞解读英伟达应用深度学习研究副总裁布莱恩·卡坦扎罗的深度专访。内容探讨了英伟达投入巨资研发并开源 Nemotron 大模型的底层商业与技术逻辑，深入剖析了4位精度预训练、混合架构、隐式 MoE 等前沿技术突破，并分享了关于开源安全、中美 AI 竞争及奇点理论的独特见解。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: [] companies_orgs: - NVIDIA products_models: - Nemotron media_books: [] status: evergreen --- ### 访谈背景与引入 **大飞**: 大家好，这里是**最佳拍档**，我是**大飞**。一家全球顶尖的芯片公司，为什么要投入数百名顶尖AI研究员，花大价钱训练自己的大模型，最后还免费开源给所有人用呢？这个问题估计很多关注AI的朋友都好奇过。最近**英伟达**应用深度学习研究副总裁，也就是**Nemotron**系列模型的掌门人**布莱恩·卡坦扎罗**（**Bryan Catanzaro**）在**MAD**播客做了一场深度专访，把这个问题从商业逻辑、技术细节到组织文化，彻底给讲清楚了。这场访谈里不仅聊了很多技术干货，还有很多反常识的行业判断，比如**开源AI其实比闭源更安全**，再比如所谓的奇点理论，其实忽略了智能最核心的属性等等。今天我们就来拆解一下这场访谈的核心内容，看看芯片巨头下场做模型，背后的真实逻辑究竟是什么。 ### 开源与闭源之争 **大飞**: 访谈一开始，主持人先抛出了一个所有人都关心的问题。现在开源AI的发展速度越来越快，就在**Nemotron-3 Ultra**登顶美国开源模型榜首没多久，**GLM-5.2**也紧接着发布，开源和闭源之间的差距到底还有多大呢？布莱恩没有直接回答差距的数字，反而先聊起了互联网的历史。他说，很多人可能都忘了，互联网最早也有过封闭的阶段，当年的**美国在线**、**Prodigy**都红极一时，但最终彻底改变世界的，是开放的互联网。不同的行业可以用完全不同的方式利用互联网，零售业、医疗业、制造业的落地形态天差地别，但是都因为开放的技术完成了彻底的变革。在他看来，AI和互联网一样，是一项颠覆性的基础技术，它需要在千差万别的场景里落地，而开源就是支撑这种普惠创新的基石。看到全球这么多组织都在持续投入开源AI，他其实非常振奋。至于开源和闭源的差距，他觉得这个问题本身有点制造对立的意味。整个AI行业不管闭源还是开源，都在以惊人的速度往前跑，过去三个月的进展放在几年前根本不敢想象。在一个高速爆发的领域里，**整个赛道的整体推进速度，远比两个阵营之间的差距重要得多**。 ### 开源发展的动力 **大飞**: 主持人接着问，推动开源AI持续进步的核心动力到底是什么？是社区的力量，是大厂的支持，还是和中国的全球竞争呢？布莱恩说，最根本的动力其实是真实的需求。现在越来越多的企业都希望把AI深度整合到自己的业务流程里，要做深度定制，这件事本质上就离不开开源模型。除此之外，开放协作本身就是开发技术的最佳方式。过去几十年的软件行业已经反复证明了，在开放环境里迭代的技术，进步速度就是更快。当所有人都能互相学习、互相借鉴的时候，整个行业的效率都会被拉高。 ### 蒸馏与技术垄断 **大飞**: 聊到这里，主持人问了一个比较尖锐的问题。现在社区里很多人都觉得，开源模型的进步很大程度上是在蒸馏闭源模型的能力，现在**OpenAI**、**Anthropic**这些公司都开始限制和阻断蒸馏了，开源的进步速度会不会因此慢下来呢？布莱恩的回答很坚定。他说，当整个科技行业都在对AI这项颠覆性技术投入巨资的时候，飞速进步是必然的结果，这项技术绝对不可能被一小撮人垄断，科技行业从来就不是这么运作的。他本人非常认可闭源API的产品力，也很尊重这些实验室的工作，但它们绝不是世界上仅有的AI实验室。全球有无数的研究机构，有无数才华横溢的研究者在产出新的想法，从来没有哪个小团体能垄断所有的好创意。随着时间推移，这种社区导向的AI开发模式只会越来越壮大，这是人类文明发展到今天，创造伟大技术的一贯规律。 ### 中国AI的创新力 **大飞**: 顺着这个话题，主持人又问到了中美竞争的问题。现在网上有一种很普遍的说法，说中国AI的进展很多都是抄闭源模型，或者靠蒸馏闭源模型做出来的，这到底是博眼球的言论，还是真有其事呢？布莱恩作为曾经在中国公司工作过的研究者，怎么看中国同行的创新能力呢？布莱恩说，他可能和很多人不一样，他曾经在**百度**的硅谷人工智能实验室工作过两年半，当时和**吴恩达**（**Andrew Ng**）还有**达里奥·阿莫代伊**（**Dario Amodei**）一起共事。我很确定的是，把一个国家的技术成就简单归结为山寨心态，是完全错误的。当然，整个科技行业本来就一直在互相学习、互相借鉴，这是行业常态。他反而觉得，中国AI社区对研发成果保持这么开放的态度，是全世界的好事。正因为有这些开源成果，无数公司才能构建出原本做不出来的产品，整个AI生态的技术进步都被推动了。他甚至直言，**在社区协同构建AI技术这件事上，中国其实一直处于领先地位**，而世界其他地区正在慢慢赶上。比如之前OpenAI发布GPT开源模型，还有谷歌的**Gemma**，包括英伟达自己做的Nemotron，其实都是在往这个方向走。 ### 开源对企业的价值 **大飞**: 聊完行业大环境，主持人又问了一个很实际的问题。站在企业客户的角度，现在选择开源模型的核心优势到底是什么？布莱恩的回答落到了每个企业的核心机密上。他说，每家公司之所以能成立，本质上都有自己的核心秘密，可能是独有的知识产权，可能是独特的业务流程，也可能是对客户需求的独家理解。而AI的价值高低，极度依赖输入的数据质量。当AI能和企业的核心机密深度结合的时候，产生的价值才是最大的。但这些核心数据，往往涉及商业机密、商业模式，甚至有监管合规的要求，必须非常谨慎地处理。如果用开源模型，企业可以自己掌控数据的处理方式，自己定义安全护栏，自己根据客户需求做深度定制。就像当年互联网在不同行业长出了完全不同的形态一样，未来AI要深入到经济的每个角落，这种深度定制的需求只会越来越强，这也是开源模型最大的价值所在。 ### 布莱恩的职业经历 **大飞**: 讲完了行业层面的判断，话题开始落到布莱恩个人和英伟达身上。主持人请他聊聊自己的职业经历，怎么从一个研究并行计算的学生，走到今天领导英伟达整个基础模型团队的位置。布莱恩说，他是2008年加入英伟达的，那时候他还是个研究生，一直在琢磨怎么用并行计算做人工智能。他当时就觉得GPU有机会彻底改变AI的计算方式。现在回头看，2008年的时候做这件事简直是逆潮流而动。他记得当年去参加国际机器学习大会，发表了第一篇讲在GPU上训练模型的论文，现场有人直接问他为什么来这个会议，说这里都是研究高深数学的，算力根本不重要。他当时只能解释说，算力如果能让我们训练出更大、更强的模型，就能解决更多以前解决不了的问题。但大部分人都只是敷衍地点点头，甚至还有人说，GPU不就是用来打游戏的吗？布莱恩的回应很有意思。他说GPU是什么，其实是英伟达定义的。1995年的时候GPU的核心任务是图形渲染，但从很久之前开始，它的核心使命就已经变成了加速AI计算。加入英伟达之后，他做了很多编译器和算法库的工作，比如催生了后来的**cuDNN**，也就是英伟达第一个深度学习加速库。但他一直希望能更直接地了解AI的实际落地，所以当吴恩达邀请他一起去百度建硅谷AI实验室的时候，他立刻就答应了。那时候的百度在AI落地业务上已经非常超前了，对他来说是个非常难得的机会。 ### 与达里奥共事往事 **大飞**: 主持人顺势问，那时候和年轻的达里奥·阿莫代伊共事是什么感觉？当时有没有想到他后来会成为Anthropic的掌门人，成为AI行业的领军人物？布莱恩说，达里奥从一开始就才华横溢。他当时面试达里奥的时候，对方还在做生物信息学，根本没接触过深度学习，但他学习速度极快，思考深度也远超常人。最让他佩服的是达里奥那种纯粹又坚定的信念。他自己因为学术训练的原因，一直对AI抱着谨慎的态度，甚至当年大家都更愿意说机器学习而不是人工智能，就是怕别人觉得AI是忽悠。但达里奥从一开始就坚信AI会彻底改变世界，这种对技术趋势的洞察力非常罕见。 ### 英伟达的长期定力 **大飞**: 2016年，**黄仁勋**给布莱恩打了个电话，问他要不要回英伟达组建一个应用研究实验室，他毫不犹豫就答应了。布莱恩说，英伟达最特别的地方，就是极强的长期定力。做**CUDA**是这样，做深度学习是这样，做光线追踪也是这样。这家公司愿意花五到十年的时间投入研发，就为了真正改变世界，这种信念感和执行力，是他最看重的。回归之后，他参与的第一个项目就是后来的**DLSS**，也就是实时图形AI超分辨率技术。简单来说，就是不用计算每一帧的每一个像素，而是用AI来推断生成剩下的画面，效率能提升十倍。现在的DLSS 5已经是全生成式的版本了，算下来是整整十年研究的成果。几乎在同时，他们还启动了**Megatron**项目，也就是后来支撑了全世界绝大多数大模型训练的框架。那是2017年，**Transformer**架构刚出来，还没有火遍全球，但布莱恩结合之前在百度的经验，判断语言理解能力会带来推理能力的飞跃，进而推动AI在所有领域落地，于是就启动了这个项目，向整个行业证明，在GPU上也能训练最大规模的Transformer模型。 ### 芯片公司为何做模型 **大飞**: 聊完了历史，终于进入了整场访谈的核心：Nemotron模型。主持人问了那个所有人都想问的问题，英伟达明明是一家芯片公司，为什么要费这么大劲自己做大模型呢？布莱恩给出了两个非常清晰的使命。第一个使命，是帮助英伟达构建未来的计算系统。英伟达是做加速计算的公司，要从第一性原理出发拆解世界上最难的计算问题，然后设计出对应的软硬件系统。而要做到这一点，就必须深刻理解AI运作的每一个细节，这样才能做好软硬件的协同设计。简单说，**只有自己亲手做过模型，才知道什么样的芯片才是真正好用的芯片**。摩尔定律失效之后，芯片的性能提升不能再靠单纯的工艺缩小，只能靠极致的专业化，而专业化就来源于对工作负载的深刻理解。这就是Nemotron的第一个核心任务，帮英伟达做出更好的核心产品。第二个使命，是支撑整个开发者生态。英伟达这么多年最宝贵的资产，就是全球范围内用英伟达技术做AI的开发者社区。英伟达有责任持续提供开放的AI技术，让整个生态持续繁荣。Nemotron从来没想过要做唯一的开源模型，反而非常欢迎其他公司的贡献，因为每一次AI技术的突破，最终都会带动英伟达的业务增长。繁荣生态对英伟达的商业有利，但英伟达不想做生态里唯一的技术提供商，它的目标是让所有大大小小的公司，都有能力构建和部署自己的AI。 ### 摩尔定律的失效 **大飞**: 说到摩尔定律，主持人顺势追问，现在大家都在说摩尔定律已死，这到底是不是行业共识？为什么现在摩尔定律走不通了呢？布莱恩解释说，**摩尔定律**本质上是个经济规律，每隔一段时间，我们就能用同样的成本，在芯片上放下两倍的晶体管。但这个规律其实已经失效五到十年了。现在晶体管还在继续变小，但是成本下降的速度已经跟不上了，甚至造价越来越贵。以前做下一代芯片，只要把现有设计等比例缩小就行，现在这条路走不通了。我们必须想办法把系统每个部件的潜力都压榨到极致，这也是为什么加速计算在今天越来越重要，因为从晶体管到算法再到应用的全链路协同优化，才是现在真正的性能来源。 ### Nemotron的版本演进 **大飞**: 接下来主持人聊到了Nemotron的版本演进。很多人以为Nemotron是2023年才启动的项目，但其实历史要早得多。最早的初代Nemotron是2021年左右英伟达和**微软**合作训练的5300亿参数模型，当时叫**Megatron-Turing NLG**，后来他们把这个算作Nemotron 1。之后迭代了好几个版本，一直到Nemotron 3。中间**Llama**发布之后，他们还把自己的技术融入Llama，做了Llama Nemotron 1，是第一个基于Llama的推理优化模型。到了Nemotron 2的时候，因为没有做混合专家模型，也就是**MoE**，在当时越来越多的MoE模型面前显得竞争力不足，于是他们立刻决定把MoE加进去，这就有了Nemotron 3。这里还有个有意思的小插曲，他们现在正在做下一代的**Nemotron-4**，但其实2024年他们已经发布过一个叫Nemotron-4的3400亿参数模型，两个版本完全不一样，这个命名的问题到现在还没完全理顺。布莱恩说，其实比版本号更重要的，是英伟达对这件事的长期承诺，就像当年花十几年做CUDA一样，现在他们也在以同样的恒心做Nemotron。过去一年模型进步特别快，一方面是因为全公司越来越多的团队意识到了这件事的重要性，更多人才和创意涌入进来；另一方面，他们也大幅增加了投入的算力资源，因为他们坚信这是公司未来的关键。 ### 联盟与版本布局 **大飞**: 今年三月的时候，英伟达还成立了Nemotron联盟。主持人请他解释一下这个联盟是做什么的。布莱恩说，Nemotron的定位做服务生态，而不是和行业竞争，那不如在模型开发阶段就和合作伙伴一起做，从一开始就把大家的需求考虑进去，这样最终的模型集成起来也更顺畅。这个联盟不是排他性的，所有合作伙伴都可以继续做自己的业务，大家只是因为都希望开源模型越来越好，所以一起参与进来，贡献自己的需求、评估标准和运行环境，最终把模型做得更适配产业需求。讲完了整体定位，终于落到了产品本身。现在Nemotron家族有**Nano**、**Super**、**Ultra**三个版本，分别对应不同的部署场景。Nano总参数300亿，激活参数30亿，适合不需要复杂推理的轻量任务。Super总参数1200亿，激活参数120亿，是目前最受欢迎的版本，在成本和能力之间找到了最好的平衡。Ultra总参数5500亿，激活参数550亿，面向要求最高的复杂场景。布莱恩说，他们做这种小中大的家族化布局，就是为了匹配不同客户的部署需求，而他们最终的目标，是**打造最适合智能体工作流的模型**，让AI能真正帮用户自动处理复杂任务。 ### 4位精度预训练突破 **大飞**: 主持人总结说，听起来Nemotron的核心思路就是速度优先，主打效率 and 智能体场景，这个概括对不对呢？布莱恩非常认可。因为英伟达本质上就是一家加速计算公司，一定会从计算的第一性原理出发去思考模型设计。而Nemotron 3系列最有代表性的技术突破，就是用**4位精度完成了预训练**。很多人可能对4位精度没什么概念，布莱恩做了个很直观的类比。4位格式只能表示16个不同的数值，就像把一张彩色图片做色调分离，减少可用的颜色数量，画面肯定会受影响。当然实际的块缩放格式会更复杂，一组数值会共享一个缩放因子，不用细究。之所以要做4位格式，首先是因为它在**Blackwell** Ultra架构上能带来成倍的吞吐量提升，更重要的是，它能节省惊人的能源。布莱恩在这里抛出了一个核心判断：**我们终将会逼近计算的极限**。不管是经济上的极限，因为没那么多钱买服务器，还是能源上的极限，比如供电能力有上限。当我们已经运行在极限上的时候，想要获得更强的智能，唯一的路径就是提升效率，不能再靠大力出奇迹了。4位格式的数据传输成本低，占内存小，不管是数据移动还是计算本身，能耗都大幅降低，这就是整个行业都在往这个方向投入的核心原因。现在推理用4位量化已经很成熟了，但是预训练用4位难度要大得多，因为优化器对数值精度非常敏感，稍微处理不好模型就会发散，整个训练直接报废。英伟达花了大量的精力做算法创新，才最终实现了用**NVFP4**格式完成预训练，这也是他们最引以为傲的技术突破之一。 ### 混合架构技术优势 **大飞**: 除了低精度训练，Nemotron另一个核心特点就是混合架构，也就是把Transformer和**Mamba**状态空间模型结合到一起。布莱恩解释说，他们早在2024年的论文里就证明了，把状态空间模型和注意力机制结合，能得到效果更好的模型。他们做了大量的参数搜索，最后发现最优的组合是以状态空间模型为主，搭配少量的注意力机制。背后的逻辑也很好理解。状态空间模型擅长对长序列做全局的、整体的理解，它不会像注意力机制那样随机访问整个序列，而是把每一步的信息都汇总到一个固定大小的缓存里，相当于把整个序列压缩到恒定的空间里，这种约束反而让它在处理需要全局理解的任务时表现更好。而注意力机制的优势是精准提取细节，不会有信息损失。两者结合起来，效果比单独用任何一种都好，而且这还不只是速度优势，纯粹是模型本身变得更聪明了。从那之后，很多实验室都得出了同样的结论，**现在用状态空间模型加注意力的混合架构，已经成了行业共识**。除此之外，这种架构还能带来巨大的速度提升，因为状态空间的缓存大小和序列长度无关，内存占用更低，就能让GPU跑更大的批次，一直保持高负载运行，效率提升非常明显。 ### 混合专家模型与硬件 **大飞**: 聊完了混合架构，自然就聊到了混合专家模型，也就是MoE。布莱恩解释说，MoE的本质是利用神经网络的稀疏性。我们训练模型的时候，希望它学遍全天下的知识，但回答一个具体问题的时候，根本不需要调动所有的参数，就像你去图书馆查资料，不需要把整个图书馆的书都看完，只要找到相关的几本就行。MoE就是这个思路，模型里有很多个专家网络，每一个Token经过的时候，有一个可学习的路由器，决定把它发给哪几个专家来处理，每次只有一小部分参数被激活。这种架构对硬件设计的影响非常深。比如Blackwell架构之所以在MoE推理上表现这么好，还有专门的**NVL72**技术支持最多72个GPU高速互联读写内存，就是因为英伟达在设计硬件的时候，已经对MoE的运作逻辑有了非常深刻的理解。他们把不同的专家分到不同的GPU上，Token在层间传递的时候，就在GPU之间动态路由，这就对GPU之间的通信速度要求极高，而NVL72就是为这个场景量身定做的。主持人问到了隐式MoE的概念，布莱恩解释说，这是Nemotron-3里的一个创新，核心是把Token的向量先做压缩再通过网络传输，到另一端再解压，这样能节省大量的网络带宽，同样的推理成本下，专家数量可以翻四倍，相当于图书馆的藏书量直接翻了四倍。主持人问，MoE是不是已经成了前沿AI的默认架构呢？布莱恩给出了肯定的答案，因为它在推理成本和智能水平之间找到了最好的平衡点。当然它也有短板，比如非常吃内存，如果内存有限，稠密模型反而效果更好；另外它要么在单请求的场景下表现好，要么在超大规模数据中心的高并发下表现好，中间的规模反而比较难优化。 ### 上下文与多预测技术 **大飞**: 除了架构本身，Nemotron-3 Ultra还有一个很受关注的特性，就是**100万Token的上下文窗口**。布莱恩说，上下文越长，模型能解决的问题就越复杂，你可以把整个代码库、一整本手册都丢给模型，让它基于这些信息处理任务。长远来看，每个人都应该有一个专属的大模型，能读完自己所有的邮件和文档，随时解答问题，能附加给模型的信息越多，它的价值就越大。当然长上下文的推理成本也会更高，所以这是一个不断平衡和突破的过程。而对于智能体工作流来说，长上下文更是基础。虽然上下文压缩也能用，但原生支持长上下文的模型，本质上用处还是要大得多。接下来聊到的多Token预测技术，布莱恩说这是他觉得非常能体现加速计算魅力的一项技术。很多人可能不知道，当我们用小批次甚至单批次跑模型的时候，GPU其实有很多闲置的算力，因为这个场景下，大部分时间都花在了从内存里读取权重上，真正做计算的时间占比并不高。如果让模型一次预测多个Token，比如一次预测5个，读取一次权重就能完成多步的计算，花费的时间几乎是一样。当然，第一个预测的Token是确定正确的，后面的几个不一定全对，所以在下一轮前向传播的时候，模型会验证这些预测的Token对不对，对的就直接采纳，错的就扔掉重来。这样做的好处是，完全不会损失准确率，因为所有的预测都会被校验，但却能带来非常可观的速度提升。模型越聪明，预测的准确率就越高，加速效果就越好，相当于**模型越聪明，推理就越快、越便宜**，这也是为什么英伟达必须把这项技术研究透，因为它直接决定了未来推理场景的效率，也直接影响硬件的价值。 ### 多教师蒸馏技术 **大飞**: 再往后就是多教师蒸馏技术，也就是**MOPD**。这是Nemotron后训练阶段用到的核心技术。布莱恩说，在Nemotron 3 Ultra里，他们大概用了10到15个不同领域的教师模型，有的擅长科学理解，有的擅长数学证明，有的擅长编程，有的擅长智能体交互。每个教师模型只需要在自己的领域做到极致，然后通过蒸馏技术，把所有领域的能力都融合到一个学生模型里。用强化学习的方式做蒸馏，每一个Token都能得到密集的奖励信号，模型学习的速度非常快，最终能在所有任务上都达到和教师模型相当的水平。有意思的是，这项技术不止是技术上的突破，还解决了组织协作的问题。以前几百个人一起优化一个模型，很容易出现不同团队往不同方向拉的情况，最后变成拔河比赛，总有人的工作要被牺牲；而多教师蒸馏的模式，每个团队可以专注打磨自己领域的教师模型，最后再融合到一起，大家的工作都能体现价值，团队协作的效率也高了很多。 ### 合成数据与强化学习 **大飞**: 聊到后训练的数据来源，布莱恩说他们主要有两个途径：一个是向专业的数据公司采购商业数据集，只要有开源再分发的权限，他们都会随模型一起开源出去；另一个就是合成数据，他们用大量的算力运行模型生成合成数据，用来提升模型在特定领域的能力，其中很多也会同步开源。当然合成数据也不是万能的，垃圾进垃圾出是AI的铁律，必须花很大的功夫保证数据质量，才能真正帮到模型。主持人接着问，现在AI已经在编程和数学领域做得很好了，接下来能不能在法律、咨询这些行业也达到同样的水平？强化学习接下来的发展方向是什么？布莱恩说，编程确实是很特殊的领域，既有海量的训练数据，又有明确的验证标准，所以AI在这个领域的进步还会持续加速。而接下来真正的趋势，是强化学习的学习环境会变得越来越复杂、越来越多样。当AI能在更真实的环境里学习，更深刻地理解行动和结果之间的关联，它解决实际问题的能力就会越来越强。现在的训练环境还相当初级，未来几年一定会有非常大的发展。 ### 英伟达内部研发协作 **大飞**: 聊完了技术，话题转向了英伟达内部的研发组织。很多人都好奇，几百个顶尖研究员一起做一个大模型，到底是怎么协作的？布莱恩说，英伟达不是靠组织架构图来运作的，他们常说一句话，叫**使命即老板，而不是职位即老板**。做Nemotron的不止一个团队，全公司大概有10个团队都深度参与，有做企业软件的，有做AI软件的，甚至还有设计GPU硬件的团队，大家都是为了同一个使命协作。当然跨团队协作很难，人天生就有部落属性，对不熟悉的人很难立刻建立信任。Nemotron这个名字本身就是协作的产物，以前有做AI软件的Nemo团队，还有做大模型系统的Megatron团队，后来两边打破壁垒一起合作，就把名字合成了Nemotron。之后越来越多的团队加入，他们甚至在公司内部开放志愿者机制，只要对做AI有想法，都可以参与进来。他们还搭了内部的创意分享网站，所有人都可以提想法，然后由负责不同模块的负责人评估，好的想法就会落地到下一轮模型迭代里。在布莱恩看来，**未来能做好AI的公司，一定是懂得协作的公司**，那些天天争谁拥有AI控制权的组织，只会浪费大量的精力。 ### 内部算力资源分配 **大飞**: 主持人又问， Kev 就算是英伟达，也不可能有无限的GPU，那算力到底是怎么分配的呢？布莱恩坦言这是整个行业都头疼的难题。他们内部有层级化的项目体系，项目群下面设具体项目，每个项目提资源申请，每两周审查一次预算，然后做分配决策。这个过程非常难，因为每个研究员都坚信自己的想法能改变世界，都想要更多的算力，但现实的约束就摆在那里。他们能做的就是尽量吸纳不同的视角，让大家至少理解决策背后的逻辑，客观上就算拿不到足够的资源，也能明白为什么优先级是这样的。当然他自己的首要目标，还是争取到更多的GPU，这样就能支持更多项目。关于基础研究和应用研究的平衡，布莱恩提出了一个自举的概念。做研究本质上是个先有鸡还是先有蛋的问题。当你的想法已经被证明很厉害的时候，拿资源很容易；但在那之前，你没有资源怎么证明想法厉害呢？答案就是小步迭代的自举模式，先做个小实验拿到正向结果，展示给大家看，然后申请多一点资源，再往前推进一步，再拿结果换更多资源，慢慢滚雪球。只要迭代足够快，就能靠自己一步步把想法做大，还能吸引更多人加入。 ### 创业精神与团队协作 **大飞**: 主持人问，英伟达那些登月级别的项目，都是这么自下而上起来的吗？布莱恩说，是自下而上和自上而下的结合。黄仁勋当然也有很多绝妙的想法，公司响应也非常快，但公司本质上是由志愿者组成的，大家都是因为认同使命才聚在一起。比如NVFP4预训练就是自上而下的战略决策，领导层决定大力投入FP4硬件，但具体的技术实现方案，全都是研究员自己摸索出来的。研究的核心永远是人，你不能教研究员怎么解决问题，那就不叫研究，叫工程了。主持人感慨说，英伟达成立三十多年了，居然还能保持这么强的创业精神，非常难得。核心原因之一是领导层的任期足够长，黄仁勋已经执掌公司33年了，还有很多资深领导都在公司待了三十年以上，他们经历过公司创业的阶段，有很强的主人翁意识。而且英伟达的文化里有一句话，叫**没有人会独自失败**。加速计算是个全链路的事情，编译器不行，芯片再好也没用，任何一个环节掉链子，整个系统的价值就归零了。大家一荣俱荣，一损俱损，这种共识是驱动所有人紧密协作的核心动力。 ### 奇点理论与外部大脑 **大飞**: 访谈的最后，聊到了更宏观的行业趋势。主持人问，很多人说布莱恩不相信奇点理论，是真的吗？为什么？布莱恩说，他觉得智能这个东西是极度多元化和情境化的。比如一家公司选CEO，不会去找国际奥数冠军吧？奥数冠军的智商当然极高，但管理公司需要的是完全不同的能力。再比如做音乐、做艺术，需要的也是完全不同的才智。原始智力就像发动机的马力，但没有轮子的引擎，哪儿也去不了。智能能产生多大的影响力，很大程度上取决于它所处的环境和平台。而奇点理论最大的问题，就是忽略了智能的多元性和情境性，把智能当成了单纯的马力堆叠。他当然相信AI会继续高速发展，会释放巨大的经济潜力，但他不认为会出现那种瞬间失控的技术奇点。他更倾向于用**外部大脑**来比喻AI。正如人类早就有了外置的器官，比如厨房就是人类的外部胃，它帮我们消化了很多原本消化不了的食物，最终催生了农业，催生了城市，彻底改变了人类文明。而现在我们正在创造的AI，就是人类的外部大脑，它会帮我们处理很多原本处理不了的复杂问题。它的影响一定会和农业的诞生一样深远，只是现在我们还没办法完全预见。人类历史上已经经历过很多次这样的技术变革，最终都找到了适应的方式，这一次也一样。我们面临的所有难题，不管是气候变化还是不平等，最终都需要更多的智慧来解决，而AI就是我们能创造的、提升集体智慧的终极工具。 ### AI安全与开源选择 **大飞**: 主持人又问，现在社会上好像有一股对AI的抵触情绪，这是行业的沟通问题吗？布莱恩说，公众对新技术的接受是有过程的。当AI还是一个抽象概念的时候，大家很容易产生恐惧和抵触；但当AI融入到日常工具里，变成导航、修图、写代码的辅助功能，大家就不会再刻意想着这是AI了，只会觉得这是个好用的工具。接受度永远是建立在实际体验上的，用得越多，就越习以为常。访谈的最后一个问题是关于AI安全的。现在大家都在讨论AI安全，开源和闭源到底哪个更安全？布莱恩的观点非常反常识，他认为**开源技术通常更安全**，因为阳光是最好的防腐剂。当有更多的人去审视一项技术的安全性，去评估它的风险，去迭代优化它，本质上就比一小撮人替所有人做安全决定要可靠得多。而且AI本质上是对思想的探索，多样性永远比单一文化更安全。尤其是在那些争议最大、最硬核的问题上，让大家用不同的方式去探索，远比建一个围墙花园，自上而下规定什么想法安全、什么危险要稳妥得多。这不是什么新道理，人类社会已经有几百年的经验了——**信仰自由、言论自由**。不是因为我们没试过管控思想，而是试过之后发现，单一管控的模式远比多元主义更危险。所以他坚信，构建人工智能最安全的方式，就是拥抱开源。 ### 总结与展望 **大飞**: 整场访谈听到这里，其实我们就能完整回答最开始的那个问题了：英伟达为什么要做开源模型？它不是要和大模型公司抢生意，而是要站在更底层的位置，用模型研发反哺硬件设计，同时用开源技术繁荣整个生态，最终让所有AI创新都跑在英伟达的算力之上。这是一种更高维度的商业逻辑，也是英伟达能一直站在AI浪潮核心的根本原因。不知道你怎么看待开源比闭源更安全这个观点？欢迎在评论区留下你的看法。感谢收看，我们下期再见。