大飞: 大家好,这里是 Best Partners,我是大飞。过去一年来,市场上最激烈的争论,是人工智能的收入是否真的能够证明如此庞大的资本支出是合理的。一方面,泡沫的呼声越来越高;另一方面,分析师对英伟达营收的共识预测在一年内大幅上调。这两件事不可能同时正确。
两天前,黄仁勋第三次作客由 Altimeter Capital 创办人 Brad Gerstner 和合伙人 Clark Tang 主持的科技投资播客 BG2。在录制的前一天,黄仁勋刚刚获得了国家科技创新奖章。在长达一小时的谈话中,每个人最想听到的就是他对那个问题的回答。
他的回应是,大家找错了方向,只专注于 OpenAI 和 NVIDIA,以为它们承担了所有运算能力的费用——这是一个巨大的错误。这两家公司甚至不需要达到接近 1 兆美元的营收就能取得巨大的成功。今天,我们就来深入探讨这个主题。
推理、外骨骼与智能成本下降
大飞: 在节目开始时,格斯特纳回顾了过去:两年前,黄仁勋表示,未来五年至少会在运算能力方面投资 2 兆美元,而这个数字已经超过了。他曾说过,推理能力将使运算需求增加十亿倍,而且在 ChatGPT 流行起来之前,他就预测人工智能代理的时代即将到来。今天,马斯克、奥特曼和哈萨比斯都说我们站在起跑线上。那么,我们现在究竟处于什么阶段呢?
黄仁勋说:“推理思考和解决问题需要的远不止是回忆自己记住的东西。”早期的 ChatGPT 模型将知识压缩到模型中;当你提出问题时,它本质上是在回忆,这就是为什么它会编造事情——那就是幻觉。下一步是先进行搜索,检索可验证的事实,然后综合得出答案。
真正有趣的工作需要循序渐进的推理。例如,提出几个方案,模拟每个方案,思考哪个结果最好,选择一两个方案继续执行,并舍弃其余方案。他说,优秀的策略家喜欢保持战略选择的开放性,不愿过早做出承诺,但由于资源有限,必须做出权衡;这就是人工智能现在正在做的事情。
这些探索和思考都需要计算,它们以两层堆叠起来:每个任务消耗更多的计算,而且由于它做得更好,我们给它分配更多的任务——就像雇用它做更多的工作一样。对第二层的需求自然且非线性成长。
他还表示,去年最大的发现是为大型模型配备了外骨骼,本质上是为大脑装上了身体。尺度定律仍然适用,但这种外骨骼带来了两个重大突破。首先,短期记忆已转化为长期记忆,形成知识图谱。人们在睡眠中会忘记无用的东西,重新专注于需要的东西;人工智能现在正在执行这种离线压缩和整理作业。
接下来是工具的使用;当机器人进入你的家时,它会使用现有的工具,而不是从头开始建造一套新的工具。从浏览器和 Word 到 Photoshop 和 AutoCAD,这些制作精良的软件程序将成为经纪人的得力助手,前提是经纪人首先要学会如何使用它们。
第一个突破出现在编码领域,不是因为程序码有明确的对错之分,而是因为使用者本身就是工程师,他们能够容忍一些有用但笨拙的东西,并且总是能找到让它们运转的方法。下一步是设计和创意工作;他提到 OpenAI 于 9 月发布的 GPT-4o 非常出色——你可以拍张照片,它可以直接将其转换为 CAD 图纸,因为它已经在内部以这种方式使用了。设计师、创造者和科学家都将获得解放;真正的挑战在于如何安全地将代理商部署到全球各地的企业。
关于运算能力,他提到,今年的突破是在 OpenAI 和其他公司各自拥有 2 到 3 吉瓦的运算能力的情况下取得的——那么明年呢?它们的运算能力可能会提高三到五倍。OpenAI 的模型刚刚解决了流体动力学中一个存在了千年的难题:纳维-斯托克斯方程式。回首往事,这将是我们未来会使用的“最糟糕”的情报。
他首先澄清说,OpenAI 并不是从零开始解决这个问题的;它是建立在许多科学家和数学家的肩膀上。他的逻辑很简单:如果这个问题只需要一个人想到一个基本原理,那么这个问题早就解决了;人类非常聪明,之所以花了这么多年时间,是因为这需要在庞大的搜索空间中进行详尽的探索。许多领域都正处于这样的转折点;透过将人工智能的穷举搜寻应用于现有成果,突破将会接踵而至。
然而,这需要强大的计算能力;这项特定任务使用了 10,000 个代理,计算成本约为 400 万美元,但几年后,同样的事情成本将降低 5 到 10 倍。他认为,未来几年情报成本将会迅速下降。他以摩尔定律为例,指出计算成本在过去 30 年里每年都下降一半;他希望情报成本每年能降低两倍甚至二十倍,销量成长足以弥补价格下降带来的影响。
他随意估计,虽然最初训练 GPT 花了 1.2 亿美元,但如今训练一个 GPT-1 可能只需要大约 100 美元。同时,食欲也成长了;目前模型使用数万亿甚至数十万亿个参数,其使用量可能比十年前增加了一百万倍。他认为这种趋势不会停止,因为人们对知识的需求几乎是永无止境的。
目前,我们无法回避一个广为流传的说法,即人工智能会降低人类的智力。黄仁勋表示他完全不同意。你越聪明,就越会想到运用智慧的方法。他学得越多,就越觉得要做的事情越多;他每学到一件新事,就会有一扇新的门打开,门后会展现出更多的机会和问题。对大多数人来说,智力会带来更多机会,如果人们有抱负,他们就会去追求。他反问:“哪个父母不希望自己的家人过上更好的生活?”他们只是缺乏机会,而这些技术将释放这些机会。
格斯特纳接过话茬,指出凯恩斯在 1930 年预测,经济将在 100 年内成长八倍,人们每周只需要工作 15 小时。经济确实成长了八倍,但每周 15 小时的工作制却始终没有实现;他认为凯因斯低估了人性——工作是目的,发现也是目的。
黄说他现在比以前更努力工作,也比以前更快乐;前几代人是为了生计而工作,而他工作是因为他想工作。
格斯特纳补充说,自动驾驶技术已经被炒作了十年,现在人们正在体验特斯拉 FSD 和 Waymo。当被问及今天早上的通勤情况时,他无法回答,因为他一上车就开启了 FSD(完全自动驾驶),并且一路都在工作。医疗和教育的好处也显而易见,但大众却感受不到。
大华表示,其中一个原因是人工智能是软件——它是无形的、无触觉的;搜寻、购物、观看 Netflix 和快递服务都在后台依赖人工智能和加速运算。只是这个行业没有把这个故事讲好;他说,如果关闭资料中心和人工智能系统一个周末,我想每个人都会注意到。
实体人工智能与安全对齐
大飞: 克拉克随后将话题转向了机器人技术。黄仁勋今年稍早表示,机器人领域的“ChatGPT时刻”已经到来,这可能是英伟达下一个千亿美元市场。这一次,他的说法改变了:“一千亿美元还是低估了。”
今年上半年,英伟达在实体人工智能领域的收入达到了 100 亿美元。去年是该公司营收首次突破 100 亿美元,比前一年的 50 亿美元大幅成长。如果他们今年能达到 200 亿美元,那谁知道呢?
简单来说,实体人工智能就是能够与物理世界互动的人工智能。它包括光子学、CT扫描、生成式成像、雷达、下一代 5G、机器人技术、自动驾驶、操纵杆和卫星。从可见光到不可见光,人工智能已经在整个电磁光谱范围内发挥作用。展望未来,我们将讨论能够学习分类的机器、帮助你铺床的家用机器人,甚至是完全自主的手术室。他说,我们是全球最大的实体人工智能公司,因为对我们来说真正重要的东西最终都必须在现实世界中实现。
马斯克将汽车产业转变为电脑产业;不久之后,每一家汽车公司和每一家物流公司都将成为科技公司。联邦快递和沃尔玛将成为人工智能公司。
人们通常将英伟达归类为芯片公司。他表示,英伟达实际上深度涉足物流、医疗保健、汽车、电信和生命科学领域。很长一段时间以来,英伟达本质上就是一家娱乐公司。或许有一天,人们不再将其归类为芯片公司。
对于实体人工智能,你需要三台电脑:一台用于训练大脑,一台用于创建数位孪生体供机器人在虚拟世界中学习,最后一台安装在机器人或汽车内部。NVIDIA 做到了这三点;它是世界上唯一一家这样做的公司。
这一次,他非常详细地讨论了安全问题,从“建造”这个词开始。他说这是一个工程术语;在建造阶段,工程师和研究人员必须先解决安全问题。如果不能安全建造,那就根本不应该建造。
谈到一致性时,他说:“帮助他人获得成功”是任何人都可以说的话,但由于每个人的文化和背景都不同,他们的理解也大相径庭。因此,对齐是一个长期存在的问题。如果我们必须等到完美契合才能实现安全,那么我们将永远无法达到安全。
解决方法是像对待新员工或孩子一样对待它:从零信任开始,授予最小权限,随着测试和信心的增长逐步扩大边界——这就是隔离控制。
第二种是监控,它必须是带外监控——这意味着它在系统本身之外运作。原因很简单:人们在被注视时的行为与无人注视时的行为不同。监控不能依赖被监控对象本身的表现,如果侦测到违反政策的行为,必须能够升级处理或关闭系统。
英伟达最近发布的 OpenSHARP 正是朝着这个方向发展的,目前已有超过 100 家公司加入。他反对将人工智能技术与安全分开,就像你不能说安全气囊和刹车与汽车无关一样;整车都是汽车技术,加速人工智能发展意味着同时加速安全发展。他也发表了非常强烈的声明:如果我们不能安全地进行人工智能开发,那么人工智能产业根本就不会存在。
他也重新定义了“赢”这个词——它不仅仅指科技业;每个产业、每个普通人的成功都算得上是成功。
基础设施瓶颈与太空数据中心
大飞: 随后,谈话转向了计算能力。SemiAnalysis 的 Dylan Patel 估计,明年全球将新增 43 吉瓦的 AI 运算能力,超过目前全球 AI 总容量,后年还将新增 40 多吉瓦。审批、供应链和当地抗议等因素会阻碍进展吗?
黄仁勋表示,市场需求肯定存在,而且只会成长;困难在于如何从数位世界过渡到实体世界。这需要购置土地、获得批准、建造发电厂,还需要大量的建筑工人和水管工,而他们的技能很难被取代。对于一个价值 500 亿美元的资料中心来说,某些环节需要找到最优秀的人才。他预测,明年土地、电力、设施和建筑资源将是最大的障碍。
英伟达的策略是广泛覆盖;它服务于所有云端供应商和新兴云端供应商,世界上所有代工厂都为其工作。如果某个资料中心发生故障,由于需求远远超过供应,他们只需调整供应链即可。他也提到,英伟达是一家全球性企业,在欧洲、中东、东南亚、拉丁美洲和非洲都有新计划。他不想看到美国落后,但如果不能在美国建造,世界上其他国家都乐意承建。
克拉克随后提出了一个市场观点,虽然已经宣布了超过 50 吉瓦的芯片项目,但只有 35 到 40 吉瓦的项目拥有实际的土地、电力和设施来部署。黄不等他说完,就插话说,因为他的架构每瓦能产生最多的代币,一旦电力紧张,客户就会转向最高效的解决方案。
这些执行长对明年的收入抱有很高的期望,股东们也指望他们能够实现这些期望,因此资源越稀缺,对英伟达的需求就越大。
他指出,英伟达的市占率已经非常高了,而且出乎所有人意料的是,它还在继续成长。每千兆瓦电力可安装的英伟达产品数量也在增加。从一家 GPU 公司发展成为最大的网络公司,很快又成为最大的 CPU 公司之一,加上储存和安全产品,每几瓦的价值已经从大约 180 亿美元增长到超过 400 亿美元,而且还在继续增长。六年前,英伟达在全球资本支出中所占比重不到 10%。现在,云端服务供应商的比例约为 40%,非云端客户的比例约为 80%。这两家企业各占一半,并且每年都在翻倍成长。
接下来是马斯克的话题。两周前,马斯克在孟菲斯安装了超过 20 万个 H100 型水泵。现在他正在筹集另外 400 亿美元,很可能是为了购买数百万个 GPU,目标是在 2027 年底前达到数十万个。SpaceX 会成为全球最大的 AI 云端服务供应商吗?
詹森表示,马斯克先前在英伟达的财务报告中被列为企业客户,但现在由于规模庞大,他被归类为云端服务供应商。他使用英伟达显卡训练自己的模型,GPU 使用率飙升,他还出租运算能力——这三件事他都做了,就像谷歌一样。
目前,SpaceX 和英伟达正在共同探索一个新市场:在太空中建立资料中心。双方的工程团队正在合作设计新的伺服器架构。格斯特纳提到,上周星舰完成了首次轨道交会,并发射了一批 V3 卫星。Jensen 开玩笑说,他迫不及待地想体验一次“有效载荷”的感觉,虽然不是亲自上阵。
他问格斯特纳,到 2028 年或 2029 年,我们能否在太空中拥有类似的运算能力?Jensen 回答说,这一定是英伟达的运算能力。原因不只是技术,还因为英伟达的投资报酬率非常高,以至于上市成本只占很小一部分。发射成本不低,所以你不会选择廉价的计算方式;你只会把最有价值的东西送上去。
当被问到我们能否在 2029 年实现 500 exaflops 的运算能力时,他说让马斯克自己来回答这个问题。如果一颗卫星在轨道上运行,但没有人租用,它就会闲置。但任何人都可以租用英伟达的运算能力,而且这种能力经久耐用;我们仍在这为八年前购买的产品更新软件。他说,综合所有因素来看,英伟达是 SpaceX 最完美的酬载。
算力账本拆解与资本开支论争
大飞: 接下来是这次会议中最尖锐的问题:格斯特纳指出,今年,两家前沿实验室加上几家推理公司的总收入约为 2,000 亿美元。为了收回数兆美元的资本支出,明年必须翻一番,达到 4,000 亿美元,后年必须翻一番,达到 8,000 亿美元。它们真的能每年翻倍或两番吗?
黄仁勋表示,人们误解了,因为英伟达约占全球人工智能基础设施收入的 80%;它的商业结构就是电脑世界的结构。它大致分为三个部分。
第一种是传统计算,包括资料处理、物理模拟、量子化学、电脑图形学、Visa 和 Mastercard 用于欺诈检测的经典机器学习,以及向您推荐新闻的推荐系统。除人工智能外,该产业约占三分之一,每年成长 30% 至 40%;即使没有任何人工智能实验室,英伟达也不会一无所有。
第二部分是人工智能实验室。别人看到的是两家公司,他看到的却是 56 家。Meta 的 Llama 去年业绩为零,但现在业绩非常好;Grok 三年前还不存在,基本上是今年才开始与英伟达合作的。这部分约占四分之一到三分之一。
第三部分包括数千家新兴新创公司,它们致力于开发消费产品、实体人工智能、生物人工智能、材料科学人工智能,以及贝佐斯的新公司 Prometheus。它们都租用英伟达的运算能力,约占三分之一,很像下一代 AWS。
因此,仅仅指出这几家公司就认为它们承担了整个基础设施的费用,这是一个很大的错误。这些新创公司中有 80% 采用开放式模式;他们并没有与前沿实验室正面竞争,而是在实体人工智能、制造业和医疗保健等领域开辟了新的领域。前沿实验室将建构通用人工智能(AGI),而垂直产业公司将利用专有数据,在其各自领域内将开放模型转化为超级智慧。
Clara Ta 也做了计算。如果以 1 吉瓦发电量可产生 400 亿美元的收入计算,那么明年新增 40 吉瓦发电量将意味着 1.6 兆美元的收入。然而,你肯定不能那样计算;你必须考虑需求和接受速度。有人担心实验室收入成长将会放缓,供应超过需求,导致泡沫破裂。
黄仁勋说我们必须回归基本原则;大家推测的每年超过 1000 亿美元的收入,仅仅是整个资料中心建设成本的一小部分。几年拆他曾表示,到本时期结束时,资料中心每年将需要 3 兆至 4 兆美元的投资,更接近 4 兆美元。假设其中 1.5 兆美元是纯粹的运算能力,考虑到人工智能出现之前只有 5,000 亿美元,那么在六到八年内成长到 1.5 兆美元并非不合理。
此外,摩尔定律已经终结;以前,如果你想要两倍数量的晶体管,你只需要花同样的钱等一年。现在,无论你等多久,都无济于事;想要双倍的价格,就得付双倍的钱。即使没有人工智能,半导体产业也注定成为世界上最大的产业。他说他很久以前就谈过这些事,但大家都忘了。
格斯特纳补充说,在摩尔定律下的通用计算时代,1 吉瓦的成本为 50 亿美元,而如今,1 吉瓦的价值为 500 亿美元。
黄的结论是,没有必要指望任何一个实验室能达到数兆美元的收入。
格斯特纳指出,就在昨天,市场还在争论 OpenAI 的收入是 700 亿美元还是 500 亿美元,导致基础设施类股出现回调。明年新增的 40 吉瓦电力中,三分之一将用于替代通用运算,三分之一将用于新的云端运算和新创企业,剩下的三分之一不仅仅是用于两个实验室;市场给他们施加了太大的压力。
黄仁勋表示,这两家公司将成为史上最具影响力的科技公司,并且会取得巨大的成功,但他们并不需要达到近 1 兆美元的收入才能成功。
供应链壁垒与商业模式拓展
大飞: 格斯特纳也提到了英伟达之前的获利预期。英伟达曾表示,明年芯片需求将远超过供应,但由于供应限制,其营收成长预期仍为 70%。
黄先生说,那是他当时手上所有的库存。他解释了为何必须公开上市:所有云端服务供应商、伺服器制造商以及大大小小的公司都已经下了订单。英伟达及其客户共同预测需求,顶级客户甚至提前两年下单。他手头上有大量的订单,但实际上能分配到的数量远低于客户的需求。如果他不公开此事,大家都会猜测自己是否被克扣了薪水。他说:“这是我处理每一次令人失望的谈话的方式。”自那时起,几乎每周、每天都有新订单涌入。供应瓶颈在于土地、电力和资料中心。
几周前,英伟达宣布在澳洲启动一个 2 吉瓦的计划;英伟达的 2 吉瓦电力价值约 800 亿美元。上游的压力同样很大;先进封装基板的尺寸越来越大,精度要求越来越高,而热膨胀和堆叠会导致翘曲和各种缺陷,甚至光子装置也供不应求。用他的话来说,还有什么不短缺的呢?全球供应量正在增加,但订单量成长更快,这种缺口在未来几年内将难以弥补。
Gerstner 也展示了另一张图表,显示一年前分析师对英伟达的普遍预期现在已经上调了 100% 到 200%。他说,在他从事这个行业的二十多年里,很少见到如此严重的预期落空。
黄指出,对于一家规模如此庞大的公司来说,还能继续扩大市场份额,这显示他们的优势有多么显著,而且他们的护城河还在不断加深。让我们做一个思想实验:假设你必须开一张 1000 亿美元的支票来订购下一代产品;是时候下单了。客户对订购产品充满信心,因为 NVIDIA 自行生产产品;大家都知道他们会做得更好,他们信任英伟达,因为他们的软件堆叠非常出色。这些机器运作的工作负载过于复杂,无法透过单一基准测试进行评估;他很乐意合作,但这需要一个庞大的资料中心,而且需要两年时间进行改造。否则,你敢把 500 亿美元的订单交给谁?他说:“我们是唯一一家;光是把它建成本身就是一个奇迹。”
同样的逻辑也适用于英伟达与台积电的关系;NVIDIA 将 100% 的业务都交给了台积电,因为只有台积电才能让他们提前五年进行规划,并知道下一代晶体管将更胜一筹。只有台积电才能跟上英伟达的大幅波动;任何其他规模只有他们十分之一的公司都会举步维艰。
他说英伟达已经转型成为基础设施公司;无论模型架构如何变化,它们都基于 CUDA 运作。无论未来需要更多的预训练还是智能体推理,NVIDIA 都能轻松应付;如果你想出租一半的运算资源,那也没问题。其他公司想拓展到欧洲或日本市场,但英伟达已经进入这些市场了。一年前,市场预期英伟达到 2027 年将维持平稳甚至萎缩;现在,普遍预期成长率为 74%。
这时,他自己也笑了,“女士们先生们,我已经解释清楚了。”他补充说:“专业化是概括化的敌人,也是持久性的敌人。”只要性能一流,通用性和耐用性就意味着更容易租赁、更容易融资,最终实现最低的总拥有成本。
Gerstner 提到 NVIDIA 正在进行史上规模最大的股票回购,而 Jensen Huang 表示 NVIDIA 的投资和融资合作关系旨在建立两项新业务。
首先是软件授权;大型云端服务供应商运行自己的软件,NVIDIA 向他们提供软件授权或开源服务。许多公司缺乏软件部门,需要英伟达来维护软件。人工智能正在从训练阶段过渡到部署阶段,这需要长期服务协议。他粗略地计算了一下:每块 GPU 每年收费几千美元,每年出货 2,000 万块,其中一半销往企业,加起来就是一大笔钱。
第二项业务是收益分成。一些原始设备制造商依赖英伟达的全端技术、承保和融资。这些安排可能会转向收入分成,英伟达将获得前期销售收入和未来收入的一部分。
格斯特纳提到,巴菲特不喜欢科技公司,因为它们经常将利润再投资于利润低于核心业务的创业项目,而英伟达则将超过一半的自由现金流用于股票回购。黄补充说,上个季度这一比例超过了百分之六十。他表示,英伟达投资的公司都是高品质公司,因为他身处在资讯流中心,认识许多杰出人士,能够帮助这些公司取得成功。投资与现金的比例将会迅速下降,因为这样的投资机会就不会再出现了。
计算产业重建与终局信心
大飞: 最后,格斯特纳指出,虽然有些人认为泡沫将在两年内破裂,但他个人认为这是全球电脑产业的彻底重建。
黄仁勋只用了两个字回答:“永远”。世界每年在这方面的投资约为 1 兆美元;未来,它将达到 3 兆美元、4 兆美元,然后是 5 兆美元。他说:“如果你告诉我每年的新建项目规模将达到 10 兆美元,我一点也不会感到惊讶。”
格斯特纳对五年后的世界有多大的信心?黄回答说:“99.9%”。为了向一位好朋友致敬,他不会使用 100%。他说,太多人真心在乎结果,会倾尽全力和智慧去实现目标。那些表达担忧的人并没有看到他们圈子之外的许多人正在做令人惊叹的事情。即使没有他的领导,各公司也尽力采取最明智的措施。关心他人是好事,但不该预言世界末日。这低估了人类的能力;认为只有靠自己的努力才能成功,或许是一种傲慢。
他临终遗言是:“身边有这么多来自世界各地的优秀人士,我有 99% 的信心我们能够一起实现目标。”
听完整个对话,Jensen Huang 回答有关泡沫经济的问题的方式,是他使用的账簿和你不样。另一些人则将收益与资本支出进行比较;他着眼于全球计算的全面重建、传统计算的现状、摩尔定律的终结以及数千家新创企业的新需求。
当然,他是一名计算能力卖家;所有判断都是从英伟达的角度出发的,这一点他毫不掩饰。至于哪个账目比较接近实际情况,还需要在未来几年逐项核实。
如果您也想抓住这波机遇,欢迎……