访谈背景与引入
大飞: 大家好,这里是最佳拍档,我是大飞。一家全球顶尖的芯片公司,为什么要投入数百名顶尖AI研究员,花大价钱训练自己的大模型,最后还免费开源给所有人用呢?这个问题估计很多关注AI的朋友都好奇过。最近英伟达应用深度学习研究副总裁,也就是Nemotron系列模型的掌门人布莱恩·卡坦扎罗(Bryan Catanzaro)在MAD播客做了一场深度专访,把这个问题从商业逻辑、技术细节到组织文化,彻底给讲清楚了。这场访谈里不仅聊了很多技术干货,还有很多反常识的行业判断,比如开源AI其实比闭源更安全,再比如所谓的奇点理论,其实忽略了智能最核心的属性等等。今天我们就来拆解一下这场访谈的核心内容,看看芯片巨头下场做模型,背后的真实逻辑究竟是什么。
开源与闭源之争
大飞: 访谈一开始,主持人先抛出了一个所有人都关心的问题。现在开源AI的发展速度越来越快,就在Nemotron-3 Ultra登顶美国开源模型榜首没多久,GLM-5.2也紧接着发布,开源和闭源之间的差距到底还有多大呢?布莱恩没有直接回答差距的数字,反而先聊起了互联网的历史。他说,很多人可能都忘了,互联网最早也有过封闭的阶段,当年的美国在线、Prodigy都红极一时,但最终彻底改变世界的,是开放的互联网。不同的行业可以用完全不同的方式利用互联网,零售业、医疗业、制造业的落地形态天差地别,但是都因为开放的技术完成了彻底的变革。在他看来,AI和互联网一样,是一项颠覆性的基础技术,它需要在千差万别的场景里落地,而开源就是支撑这种普惠创新的基石。看到全球这么多组织都在持续投入开源AI,他其实非常振奋。至于开源和闭源的差距,他觉得这个问题本身有点制造对立的意味。整个AI行业不管闭源还是开源,都在以惊人的速度往前跑,过去三个月的进展放在几年前根本不敢想象。在一个高速爆发的领域里,整个赛道的整体推进速度,远比两个阵营之间的差距重要得多。
开源发展的动力
大飞: 主持人接着问,推动开源AI持续进步的核心动力到底是什么?是社区的力量,是大厂的支持,还是和中国的全球竞争呢?布莱恩说,最根本的动力其实是真实的需求。现在越来越多的企业都希望把AI深度整合到自己的业务流程里,要做深度定制,这件事本质上就离不开开源模型。除此之外,开放协作本身就是开发技术的最佳方式。过去几十年的软件行业已经反复证明了,在开放环境里迭代的技术,进步速度就是更快。当所有人都能互相学习、互相借鉴的时候,整个行业的效率都会被拉高。
蒸馏与技术垄断
大飞: 聊到这里,主持人问了一个比较尖锐的问题。现在社区里很多人都觉得,开源模型的进步很大程度上是在蒸馏闭源模型的能力,现在OpenAI、Anthropic这些公司都开始限制和阻断蒸馏了,开源的进步速度会不会因此慢下来呢?布莱恩的回答很坚定。他说,当整个科技行业都在对AI这项颠覆性技术投入巨资的时候,飞速进步是必然的结果,这项技术绝对不可能被一小撮人垄断,科技行业从来就不是这么运作的。他本人非常认可闭源API的产品力,也很尊重这些实验室的工作,但它们绝不是世界上仅有的AI实验室。全球有无数的研究机构,有无数才华横溢的研究者在产出新的想法,从来没有哪个小团体能垄断所有的好创意。随着时间推移,这种社区导向的AI开发模式只会越来越壮大,这是人类文明发展到今天,创造伟大技术的一贯规律。
中国AI的创新力
大飞: 顺着这个话题,主持人又问到了中美竞争的问题。现在网上有一种很普遍的说法,说中国AI的进展很多都是抄闭源模型,或者靠蒸馏闭源模型做出来的,这到底是博眼球的言论,还是真有其事呢?布莱恩作为曾经在中国公司工作过的研究者,怎么看中国同行的创新能力呢?布莱恩说,他可能和很多人不一样,他曾经在百度的硅谷人工智能实验室工作过两年半,当时和吴恩达(Andrew Ng)还有达里奥·阿莫代伊(Dario Amodei)一起共事。我很确定的是,把一个国家的技术成就简单归结为山寨心态,是完全错误的。当然,整个科技行业本来就一直在互相学习、互相借鉴,这是行业常态。他反而觉得,中国AI社区对研发成果保持这么开放的态度,是全世界的好事。正因为有这些开源成果,无数公司才能构建出原本做不出来的产品,整个AI生态的技术进步都被推动了。他甚至直言,在社区协同构建AI技术这件事上,中国其实一直处于领先地位,而世界其他地区正在慢慢赶上。比如之前OpenAI发布GPT开源模型,还有谷歌的Gemma,包括英伟达自己做的Nemotron,其实都是在往这个方向走。
开源对企业的价值
大飞: 聊完行业大环境,主持人又问了一个很实际的问题。站在企业客户的角度,现在选择开源模型的核心优势到底是什么?布莱恩的回答落到了每个企业的核心机密上。他说,每家公司之所以能成立,本质上都有自己的核心秘密,可能是独有的知识产权,可能是独特的业务流程,也可能是对客户需求的独家理解。而AI的价值高低,极度依赖输入的数据质量。当AI能和企业的核心机密深度结合的时候,产生的价值才是最大的。但这些核心数据,往往涉及商业机密、商业模式,甚至有监管合规的要求,必须非常谨慎地处理。如果用开源模型,企业可以自己掌控数据的处理方式,自己定义安全护栏,自己根据客户需求做深度定制。就像当年互联网在不同行业长出了完全不同的形态一样,未来AI要深入到经济的每个角落,这种深度定制的需求只会越来越强,这也是开源模型最大的价值所在。
布莱恩的职业经历
大飞: 讲完了行业层面的判断,话题开始落到布莱恩个人和英伟达身上。主持人请他聊聊自己的职业经历,怎么从一个研究并行计算的学生,走到今天领导英伟达整个基础模型团队的位置。布莱恩说,他是2008年加入英伟达的,那时候他还是个研究生,一直在琢磨怎么用并行计算做人工智能。他当时就觉得GPU有机会彻底改变AI的计算方式。现在回头看,2008年的时候做这件事简直是逆潮流而动。他记得当年去参加国际机器学习大会,发表了第一篇讲在GPU上训练模型的论文,现场有人直接问他为什么来这个会议,说这里都是研究高深数学的,算力根本不重要。他当时只能解释说,算力如果能让我们训练出更大、更强的模型,就能解决更多以前解决不了的问题。但大部分人都只是敷衍地点点头,甚至还有人说,GPU不就是用来打游戏的吗?布莱恩的回应很有意思。他说GPU是什么,其实是英伟达定义的。1995年的时候GPU的核心任务是图形渲染,但从很久之前开始,它的核心使命就已经变成了加速AI计算。加入英伟达之后,他做了很多编译器和算法库的工作,比如催生了后来的cuDNN,也就是英伟达第一个深度学习加速库。但他一直希望能更直接地了解AI的实际落地,所以当吴恩达邀请他一起去百度建硅谷AI实验室的时候,他立刻就答应了。那时候的百度在AI落地业务上已经非常超前了,对他来说是个非常难得的机会。
与达里奥共事往事
大飞: 主持人顺势问,那时候和年轻的达里奥·阿莫代伊共事是什么感觉?当时有没有想到他后来会成为Anthropic的掌门人,成为AI行业的领军人物?布莱恩说,达里奥从一开始就才华横溢。他当时面试达里奥的时候,对方还在做生物信息学,根本没接触过深度学习,但他学习速度极快,思考深度也远超常人。最让他佩服的是达里奥那种纯粹又坚定的信念。他自己因为学术训练的原因,一直对AI抱着谨慎的态度,甚至当年大家都更愿意说机器学习而不是人工智能,就是怕别人觉得AI是忽悠。但达里奥从一开始就坚信AI会彻底改变世界,这种对技术趋势的洞察力非常罕见。
英伟达的长期定力
大飞: 2016年,黄仁勋给布莱恩打了个电话,问他要不要回英伟达组建一个应用研究实验室,他毫不犹豫就答应了。布莱恩说,英伟达最特别的地方,就是极强的长期定力。做CUDA是这样,做深度学习是这样,做光线追踪也是这样。这家公司愿意花五到十年的时间投入研发,就为了真正改变世界,这种信念感和执行力,是他最看重的。回归之后,他参与的第一个项目就是后来的DLSS,也就是实时图形AI超分辨率技术。简单来说,就是不用计算每一帧的每一个像素,而是用AI来推断生成剩下的画面,效率能提升十倍。现在的DLSS 5已经是全生成式的版本了,算下来是整整十年研究的成果。几乎在同时,他们还启动了Megatron项目,也就是后来支撑了全世界绝大多数大模型训练的框架。那是2017年,Transformer架构刚出来,还没有火遍全球,但布莱恩结合之前在百度的经验,判断语言理解能力会带来推理能力的飞跃,进而推动AI在所有领域落地,于是就启动了这个项目,向整个行业证明,在GPU上也能训练最大规模的Transformer模型。
芯片公司为何做模型
大飞: 聊完了历史,终于进入了整场访谈的核心:Nemotron模型。主持人问了那个所有人都想问的问题,英伟达明明是一家芯片公司,为什么要费这么大劲自己做大模型呢?布莱恩给出了两个非常清晰的使命。第一个使命,是帮助英伟达构建未来的计算系统。英伟达是做加速计算的公司,要从第一性原理出发拆解世界上最难的计算问题,然后设计出对应的软硬件系统。而要做到这一点,就必须深刻理解AI运作的每一个细节,这样才能做好软硬件的协同设计。简单说,只有自己亲手做过模型,才知道什么样的芯片才是真正好用的芯片。摩尔定律失效之后,芯片的性能提升不能再靠单纯的工艺缩小,只能靠极致的专业化,而专业化就来源于对工作负载的深刻理解。这就是Nemotron的第一个核心任务,帮英伟达做出更好的核心产品。第二个使命,是支撑整个开发者生态。英伟达这么多年最宝贵的资产,就是全球范围内用英伟达技术做AI的开发者社区。英伟达有责任持续提供开放的AI技术,让整个生态持续繁荣。Nemotron从来没想过要做唯一的开源模型,反而非常欢迎其他公司的贡献,因为每一次AI技术的突破,最终都会带动英伟达的业务增长。繁荣生态对英伟达的商业有利,但英伟达不想做生态里唯一的技术提供商,它的目标是让所有大大小小的公司,都有能力构建和部署自己的AI。
摩尔定律的失效
大飞: 说到摩尔定律,主持人顺势追问,现在大家都在说摩尔定律已死,这到底是不是行业共识?为什么现在摩尔定律走不通了呢?布莱恩解释说,摩尔定律本质上是个经济规律,每隔一段时间,我们就能用同样的成本,在芯片上放下两倍的晶体管。但这个规律其实已经失效五到十年了。现在晶体管还在继续变小,但是成本下降的速度已经跟不上了,甚至造价越来越贵。以前做下一代芯片,只要把现有设计等比例缩小就行,现在这条路走不通了。我们必须想办法把系统每个部件的潜力都压榨到极致,这也是为什么加速计算在今天越来越重要,因为从晶体管到算法再到应用的全链路协同优化,才是现在真正的性能来源。
Nemotron的版本演进
大飞: 接下来主持人聊到了Nemotron的版本演进。很多人以为Nemotron是2023年才启动的项目,但其实历史要早得多。最早的初代Nemotron是2021年左右英伟达和微软合作训练的5300亿参数模型,当时叫Megatron-Turing NLG,后来他们把这个算作Nemotron 1。之后迭代了好几个版本,一直到Nemotron 3。中间Llama发布之后,他们还把自己的技术融入Llama,做了Llama Nemotron 1,是第一个基于Llama的推理优化模型。到了Nemotron 2的时候,因为没有做混合专家模型,也就是MoE,在当时越来越多的MoE模型面前显得竞争力不足,于是他们立刻决定把MoE加进去,这就有了Nemotron 3。这里还有个有意思的小插曲,他们现在正在做下一代的Nemotron-4,但其实2024年他们已经发布过一个叫Nemotron-4的3400亿参数模型,两个版本完全不一样,这个命名的问题到现在还没完全理顺。布莱恩说,其实比版本号更重要的,是英伟达对这件事的长期承诺,就像当年花十几年做CUDA一样,现在他们也在以同样的恒心做Nemotron。过去一年模型进步特别快,一方面是因为全公司越来越多的团队意识到了这件事的重要性,更多人才和创意涌入进来;另一方面,他们也大幅增加了投入的算力资源,因为他们坚信这是公司未来的关键。
联盟与版本布局
大飞: 今年三月的时候,英伟达还成立了Nemotron联盟。主持人请他解释一下这个联盟是做什么的。布莱恩说,Nemotron的定位做服务生态,而不是和行业竞争,那不如在模型开发阶段就和合作伙伴一起做,从一开始就把大家的需求考虑进去,这样最终的模型集成起来也更顺畅。这个联盟不是排他性的,所有合作伙伴都可以继续做自己的业务,大家只是因为都希望开源模型越来越好,所以一起参与进来,贡献自己的需求、评估标准和运行环境,最终把模型做得更适配产业需求。讲完了整体定位,终于落到了产品本身。现在Nemotron家族有Nano、Super、Ultra三个版本,分别对应不同的部署场景。Nano总参数300亿,激活参数30亿,适合不需要复杂推理的轻量任务。Super总参数1200亿,激活参数120亿,是目前最受欢迎的版本,在成本和能力之间找到了最好的平衡。Ultra总参数5500亿,激活参数550亿,面向要求最高的复杂场景。布莱恩说,他们做这种小中大的家族化布局,就是为了匹配不同客户的部署需求,而他们最终的目标,是打造最适合智能体工作流的模型,让AI能真正帮用户自动处理复杂任务。
4位精度预训练突破
大飞: 主持人总结说,听起来Nemotron的核心思路就是速度优先,主打效率 and 智能体场景,这个概括对不对呢?布莱恩非常认可。因为英伟达本质上就是一家加速计算公司,一定会从计算的第一性原理出发去思考模型设计。而Nemotron 3系列最有代表性的技术突破,就是用4位精度完成了预训练。很多人可能对4位精度没什么概念,布莱恩做了个很直观的类比。4位格式只能表示16个不同的数值,就像把一张彩色图片做色调分离,减少可用的颜色数量,画面肯定会受影响。当然实际的块缩放格式会更复杂,一组数值会共享一个缩放因子,不用细究。之所以要做4位格式,首先是因为它在Blackwell Ultra架构上能带来成倍的吞吐量提升,更重要的是,它能节省惊人的能源。布莱恩在这里抛出了一个核心判断:我们终将会逼近计算的极限。不管是经济上的极限,因为没那么多钱买服务器,还是能源上的极限,比如供电能力有上限。当我们已经运行在极限上的时候,想要获得更强的智能,唯一的路径就是提升效率,不能再靠大力出奇迹了。4位格式的数据传输成本低,占内存小,不管是数据移动还是计算本身,能耗都大幅降低,这就是整个行业都在往这个方向投入的核心原因。现在推理用4位量化已经很成熟了,但是预训练用4位难度要大得多,因为优化器对数值精度非常敏感,稍微处理不好模型就会发散,整个训练直接报废。英伟达花了大量的精力做算法创新,才最终实现了用NVFP4格式完成预训练,这也是他们最引以为傲的技术突破之一。
混合架构技术优势
大飞: 除了低精度训练,Nemotron另一个核心特点就是混合架构,也就是把Transformer和Mamba状态空间模型结合到一起。布莱恩解释说,他们早在2024年的论文里就证明了,把状态空间模型和注意力机制结合,能得到效果更好的模型。他们做了大量的参数搜索,最后发现最优的组合是以状态空间模型为主,搭配少量的注意力机制。背后的逻辑也很好理解。状态空间模型擅长对长序列做全局的、整体的理解,它不会像注意力机制那样随机访问整个序列,而是把每一步的信息都汇总到一个固定大小的缓存里,相当于把整个序列压缩到恒定的空间里,这种约束反而让它在处理需要全局理解的任务时表现更好。而注意力机制的优势是精准提取细节,不会有信息损失。两者结合起来,效果比单独用任何一种都好,而且这还不只是速度优势,纯粹是模型本身变得更聪明了。从那之后,很多实验室都得出了同样的结论,现在用状态空间模型加注意力的混合架构,已经成了行业共识。除此之外,这种架构还能带来巨大的速度提升,因为状态空间的缓存大小和序列长度无关,内存占用更低,就能让GPU跑更大的批次,一直保持高负载运行,效率提升非常明显。
混合专家模型与硬件
大飞: 聊完了混合架构,自然就聊到了混合专家模型,也就是MoE。布莱恩解释说,MoE的本质是利用神经网络的稀疏性。我们训练模型的时候,希望它学遍全天下的知识,但回答一个具体问题的时候,根本不需要调动所有的参数,就像你去图书馆查资料,不需要把整个图书馆的书都看完,只要找到相关的几本就行。MoE就是这个思路,模型里有很多个专家网络,每一个Token经过的时候,有一个可学习的路由器,决定把它发给哪几个专家来处理,每次只有一小部分参数被激活。这种架构对硬件设计的影响非常深。比如Blackwell架构之所以在MoE推理上表现这么好,还有专门的NVL72技术支持最多72个GPU高速互联读写内存,就是因为英伟达在设计硬件的时候,已经对MoE的运作逻辑有了非常深刻的理解。他们把不同的专家分到不同的GPU上,Token在层间传递的时候,就在GPU之间动态路由,这就对GPU之间的通信速度要求极高,而NVL72就是为这个场景量身定做的。主持人问到了隐式MoE的概念,布莱恩解释说,这是Nemotron-3里的一个创新,核心是把Token的向量先做压缩再通过网络传输,到另一端再解压,这样能节省大量的网络带宽,同样的推理成本下,专家数量可以翻四倍,相当于图书馆的藏书量直接翻了四倍。主持人问,MoE是不是已经成了前沿AI的默认架构呢?布莱恩给出了肯定的答案,因为它在推理成本和智能水平之间找到了最好的平衡点。当然它也有短板,比如非常吃内存,如果内存有限,稠密模型反而效果更好;另外它要么在单请求的场景下表现好,要么在超大规模数据中心的高并发下表现好,中间的规模反而比较难优化。
上下文与多预测技术
大飞: 除了架构本身,Nemotron-3 Ultra还有一个很受关注的特性,就是100万Token的上下文窗口。布莱恩说,上下文越长,模型能解决的问题就越复杂,你可以把整个代码库、一整本手册都丢给模型,让它基于这些信息处理任务。长远来看,每个人都应该有一个专属的大模型,能读完自己所有的邮件和文档,随时解答问题,能附加给模型的信息越多,它的价值就越大。当然长上下文的推理成本也会更高,所以这是一个不断平衡和突破的过程。而对于智能体工作流来说,长上下文更是基础。虽然上下文压缩也能用,但原生支持长上下文的模型,本质上用处还是要大得多。接下来聊到的多Token预测技术,布莱恩说这是他觉得非常能体现加速计算魅力的一项技术。很多人可能不知道,当我们用小批次甚至单批次跑模型的时候,GPU其实有很多闲置的算力,因为这个场景下,大部分时间都花在了从内存里读取权重上,真正做计算的时间占比并不高。如果让模型一次预测多个Token,比如一次预测5个,读取一次权重就能完成多步的计算,花费的时间几乎是一样。当然,第一个预测的Token是确定正确的,后面的几个不一定全对,所以在下一轮前向传播的时候,模型会验证这些预测的Token对不对,对的就直接采纳,错的就扔掉重来。这样做的好处是,完全不会损失准确率,因为所有的预测都会被校验,但却能带来非常可观的速度提升。模型越聪明,预测的准确率就越高,加速效果就越好,相当于模型越聪明,推理就越快、越便宜,这也是为什么英伟达必须把这项技术研究透,因为它直接决定了未来推理场景的效率,也直接影响硬件的价值。
多教师蒸馏技术
大飞: 再往后就是多教师蒸馏技术,也就是MOPD。这是Nemotron后训练阶段用到的核心技术。布莱恩说,在Nemotron 3 Ultra里,他们大概用了10到15个不同领域的教师模型,有的擅长科学理解,有的擅长数学证明,有的擅长编程,有的擅长智能体交互。每个教师模型只需要在自己的领域做到极致,然后通过蒸馏技术,把所有领域的能力都融合到一个学生模型里。用强化学习的方式做蒸馏,每一个Token都能得到密集的奖励信号,模型学习的速度非常快,最终能在所有任务上都达到和教师模型相当的水平。有意思的是,这项技术不止是技术上的突破,还解决了组织协作的问题。以前几百个人一起优化一个模型,很容易出现不同团队往不同方向拉的情况,最后变成拔河比赛,总有人的工作要被牺牲;而多教师蒸馏的模式,每个团队可以专注打磨自己领域的教师模型,最后再融合到一起,大家的工作都能体现价值,团队协作的效率也高了很多。
合成数据与强化学习
大飞: 聊到后训练的数据来源,布莱恩说他们主要有两个途径:一个是向专业的数据公司采购商业数据集,只要有开源再分发的权限,他们都会随模型一起开源出去;另一个就是合成数据,他们用大量的算力运行模型生成合成数据,用来提升模型在特定领域的能力,其中很多也会同步开源。当然合成数据也不是万能的,垃圾进垃圾出是AI的铁律,必须花很大的功夫保证数据质量,才能真正帮到模型。主持人接着问,现在AI已经在编程和数学领域做得很好了,接下来能不能在法律、咨询这些行业也达到同样的水平?强化学习接下来的发展方向是什么?布莱恩说,编程确实是很特殊的领域,既有海量的训练数据,又有明确的验证标准,所以AI在这个领域的进步还会持续加速。而接下来真正的趋势,是强化学习的学习环境会变得越来越复杂、越来越多样。当AI能在更真实的环境里学习,更深刻地理解行动和结果之间的关联,它解决实际问题的能力就会越来越强。现在的训练环境还相当初级,未来几年一定会有非常大的发展。
英伟达内部研发协作
大飞: 聊完了技术,话题转向了英伟达内部的研发组织。很多人都好奇,几百个顶尖研究员一起做一个大模型,到底是怎么协作的?布莱恩说,英伟达不是靠组织架构图来运作的,他们常说一句话,叫使命即老板,而不是职位即老板。做Nemotron的不止一个团队,全公司大概有10个团队都深度参与,有做企业软件的,有做AI软件的,甚至还有设计GPU硬件的团队,大家都是为了同一个使命协作。当然跨团队协作很难,人天生就有部落属性,对不熟悉的人很难立刻建立信任。Nemotron这个名字本身就是协作的产物,以前有做AI软件的Nemo团队,还有做大模型系统的Megatron团队,后来两边打破壁垒一起合作,就把名字合成了Nemotron。之后越来越多的团队加入,他们甚至在公司内部开放志愿者机制,只要对做AI有想法,都可以参与进来。他们还搭了内部的创意分享网站,所有人都可以提想法,然后由负责不同模块的负责人评估,好的想法就会落地到下一轮模型迭代里。在布莱恩看来,未来能做好AI的公司,一定是懂得协作的公司,那些天天争谁拥有AI控制权的组织,只会浪费大量的精力。
内部算力资源分配
大飞: 主持人又问, Kev 就算是英伟达,也不可能有无限的GPU,那算力到底是怎么分配的呢?布莱恩坦言这是整个行业都头疼的难题。他们内部有层级化的项目体系,项目群下面设具体项目,每个项目提资源申请,每两周审查一次预算,然后做分配决策。这个过程非常难,因为每个研究员都坚信自己的想法能改变世界,都想要更多的算力,但现实的约束就摆在那里。他们能做的就是尽量吸纳不同的视角,让大家至少理解决策背后的逻辑,客观上就算拿不到足够的资源,也能明白为什么优先级是这样的。当然他自己的首要目标,还是争取到更多的GPU,这样就能支持更多项目。关于基础研究和应用研究的平衡,布莱恩提出了一个自举的概念。做研究本质上是个先有鸡还是先有蛋的问题。当你的想法已经被证明很厉害的时候,拿资源很容易;但在那之前,你没有资源怎么证明想法厉害呢?答案就是小步迭代的自举模式,先做个小实验拿到正向结果,展示给大家看,然后申请多一点资源,再往前推进一步,再拿结果换更多资源,慢慢滚雪球。只要迭代足够快,就能靠自己一步步把想法做大,还能吸引更多人加入。
创业精神与团队协作
大飞: 主持人问,英伟达那些登月级别的项目,都是这么自下而上起来的吗?布莱恩说,是自下而上和自上而下的结合。黄仁勋当然也有很多绝妙的想法,公司响应也非常快,但公司本质上是由志愿者组成的,大家都是因为认同使命才聚在一起。比如NVFP4预训练就是自上而下的战略决策,领导层决定大力投入FP4硬件,但具体的技术实现方案,全都是研究员自己摸索出来的。研究的核心永远是人,你不能教研究员怎么解决问题,那就不叫研究,叫工程了。主持人感慨说,英伟达成立三十多年了,居然还能保持这么强的创业精神,非常难得。核心原因之一是领导层的任期足够长,黄仁勋已经执掌公司33年了,还有很多资深领导都在公司待了三十年以上,他们经历过公司创业的阶段,有很强的主人翁意识。而且英伟达的文化里有一句话,叫没有人会独自失败。加速计算是个全链路的事情,编译器不行,芯片再好也没用,任何一个环节掉链子,整个系统的价值就归零了。大家一荣俱荣,一损俱损,这种共识是驱动所有人紧密协作的核心动力。
奇点理论与外部大脑
大飞: 访谈的最后,聊到了更宏观的行业趋势。主持人问,很多人说布莱恩不相信奇点理论,是真的吗?为什么?布莱恩说,他觉得智能这个东西是极度多元化和情境化的。比如一家公司选CEO,不会去找国际奥数冠军吧?奥数冠军的智商当然极高,但管理公司需要的是完全不同的能力。再比如做音乐、做艺术,需要的也是完全不同的才智。原始智力就像发动机的马力,但没有轮子的引擎,哪儿也去不了。智能能产生多大的影响力,很大程度上取决于它所处的环境和平台。而奇点理论最大的问题,就是忽略了智能的多元性和情境性,把智能当成了单纯的马力堆叠。他当然相信AI会继续高速发展,会释放巨大的经济潜力,但他不认为会出现那种瞬间失控的技术奇点。他更倾向于用外部大脑来比喻AI。正如人类早就有了外置的器官,比如厨房就是人类的外部胃,它帮我们消化了很多原本消化不了的食物,最终催生了农业,催生了城市,彻底改变了人类文明。而现在我们正在创造的AI,就是人类的外部大脑,它会帮我们处理很多原本处理不了的复杂问题。它的影响一定会和农业的诞生一样深远,只是现在我们还没办法完全预见。人类历史上已经经历过很多次这样的技术变革,最终都找到了适应的方式,这一次也一样。我们面临的所有难题,不管是气候变化还是不平等,最终都需要更多的智慧来解决,而AI就是我们能创造的、提升集体智慧的终极工具。
AI安全与开源选择
大飞: 主持人又问,现在社会上好像有一股对AI的抵触情绪,这是行业的沟通问题吗?布莱恩说,公众对新技术的接受是有过程的。当AI还是一个抽象概念的时候,大家很容易产生恐惧和抵触;但当AI融入到日常工具里,变成导航、修图、写代码的辅助功能,大家就不会再刻意想着这是AI了,只会觉得这是个好用的工具。接受度永远是建立在实际体验上的,用得越多,就越习以为常。访谈的最后一个问题是关于AI安全的。现在大家都在讨论AI安全,开源和闭源到底哪个更安全?布莱恩的观点非常反常识,他认为开源技术通常更安全,因为阳光是最好的防腐剂。当有更多的人去审视一项技术的安全性,去评估它的风险,去迭代优化它,本质上就比一小撮人替所有人做安全决定要可靠得多。而且AI本质上是对思想的探索,多样性永远比单一文化更安全。尤其是在那些争议最大、最硬核的问题上,让大家用不同的方式去探索,远比建一个围墙花园,自上而下规定什么想法安全、什么危险要稳妥得多。这不是什么新道理,人类社会已经有几百年的经验了——信仰自由、言论自由。不是因为我们没试过管控思想,而是试过之后发现,单一管控的模式远比多元主义更危险。所以他坚信,构建人工智能最安全的方式,就是拥抱开源。
总结与展望
大飞: 整场访谈听到这里,其实我们就能完整回答最开始的那个问题了:英伟达为什么要做开源模型?它不是要和大模型公司抢生意,而是要站在更底层的位置,用模型研发反哺硬件设计,同时用开源技术繁荣整个生态,最终让所有AI创新都跑在英伟达的算力之上。这是一种更高维度的商业逻辑,也是英伟达能一直站在AI浪潮核心的根本原因。不知道你怎么看待开源比闭源更安全这个观点?欢迎在评论区留下你的看法。感谢收看,我们下期再见。