--- author: Best Partners TV date: '2026-10-24' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=0y-tXzs1phc speaker: Best Partners TV tags: - artificial-intelligence - supercomputing - robotics - datacenter title: 黃仁勳柏林GTC主題演講：人工智慧是製造業與五層架構 summary: 黃仁勳在柏林GTC大會提出AI不是軟體而是製造業，勾勒出能源、AI工廠、模型、代幣輸出及終端應用的五層架構。大會發布Rubin架構、預製AI工廠、OpenSecure安全環境、Nemotron模型家族與實體人工智慧進展。 insight: '' draft: true series: '' category: tech-trends area: tech-engineering project: [] people: - 黃仁勳 companies_orgs: - NVIDIA - OpenAI - 施耐德電機 - 西門子能源 - 台積電 - 諾基亞 products_models: - DGX-1 - Rubin - Spectrum-X - DGX SuperPOD - OpenSecure - Nemotron - RTX Spark media_books: [] status: evergreen --- 大家好，這裡是最佳夥伴，我是大飛。 ### 十年效能百萬倍躍升與進軍歐洲 十年前，黃仁勳親自將一台非常重的機器送到 OpenAI 的辦公室，這台機器需要兩個人才能抬上樓。這台機器是 DGX-1，NVIDIA 的首款 AI 超級計算機，擁有 128GB 內存和 1 petaflop 的計算能力。然而，在上周柏林舉行的 GTC 大會上，他單手舉起了一台擁有同樣 128GB 內存和同樣 1 petaflop 性能的筆記型電腦。 人工智慧的效能在此十年內提升了百萬倍。根據摩爾定律，最多只會成長 100 倍；我們今天討論的就是這額外的 10,000 倍的差異。 本次柏林 GTC 大會是 NVIDIA 首次將主舞台移至歐洲。你可能不知道，NVIDIA 在歐洲已經紮根 33 年了。RIVA 128 晶片在公司成立初期幾乎讓其破產，而這款晶片實際上是在法國製造的。當時，Silicon Graphics 是他們最大的工作站客戶，這幫助 NVIDIA 打入了圖形工作站市場。奧迪也是首家採用英偉達車載計算系統的汽車製造商。 過去一年，他們向歐洲投入了近 100 億美元，就在演講前一周宣布投資 14 家歐洲新創公司。施耐德電機和西門子能源都在與英偉達合作。SAP、Revolut、Spotify、保時捷等等——大批歐洲巨頭都在轉型為人工智慧經濟。 ### 人工智慧五層蛋糕與極端協同設計 會議像往常一樣以黃仁勳的主題演講拉開序幕。本次演講的核心重點可以用一句話概括：人工智慧不是軟體；它是製造業。 他為人工智慧產業勾勒了一個簡單的五層蛋糕：底層是能源驅動的高效能電腦；上一層是人工智慧工廠，這些電腦聚集在那裡；除此之外，這些工廠還運行模型來持續輸出代幣或智慧。最後，這些代幣被嵌入到各行各業的硬體和服務中。這五個層面都在推動就業成長和經濟發展。 施耐德電機和西門子能源在全球能源層處於領先地位，Mistral 和其他歐洲公司在模型領域佔據了一席之地，而像 Nebius 這樣的新創公司在人工智慧工廠層迅速崛起。 黃仁勳也做出了一個預測：未來，每家全球電信公司都將擁有超過 10 萬個站點，總計約 100 吉瓦的分散式電信基地台和資料中心，發展成為一個去中心化的 AI 網路。這意味著人工智慧基礎設施將不再僅僅集中在少數幾個超大規模資料中心。 那麼，NVIDIA 在這五層架構中處於什麼位置呢？大多數人首先想到的是 GPU，但如今 NVIDIA 不僅僅是一家 GPU 公司；從 GPU、CPU、網路、儲存和交換晶片到系統軟體、CUDA 庫、模型和工具，他們的產品幾乎涵蓋了所有層面。 黃仁勳是這樣定義公司的：我們是一家演算法公司，開發晶片來加速這些演算法。他提到了極端協同設計，這意味著每次架構升級不僅僅是更換更快的晶片，而是同時重新設計晶片、架構、系統外形尺寸和系統軟體演算法。新的演算法迫使它們改變架構，而新的架構又進一步推動演算法發展，進而產生滾雪球效應。這就是為什麼摩爾定律只能達到 100 倍的成長，而英偉達卻實現了百萬倍的成長。 ### Rubin 架構與預製 AI 工廠 從 2016 年的帕斯卡到現在的魯賓，六代建築師不斷突破界限。布萊克威爾的速度大約是霍普的 30 倍，兩年後，魯賓的速度又將是布萊克威爾的 30 倍。 Rubin 電腦的外觀與之前的產品完全不同；它沒有電纜，沒有電線，而且是 100% 液冷的。以前組裝一個 DGX Blackwell 節點需要兩個小時，到處都是電線，但現在組裝一個 Rubin 節點只需不到 5 分鐘。每個 GPU 擁有 20 petaflops 的運算能力，使用 NVLink 交換器將 72 個 GPU 連接成一台巨型電腦。他在直播過程中直接拿出這個東西給觀眾看，並說：「現在你們知道這不是特效了吧。」 配套的網路設備也進行了革命性的升級；Spectrum-X 是世界上首款共封裝光乙太網路交換器。傳統解決方案使用印刷電路板傳輸數據，但頻寬和訊號品質會受到嚴重影響。因此，NVIDIA 和台積電共同開發了一種將光學器件直接封裝到晶片上的工藝，使數據能夠從雷射器傳輸到收發器，然後直接傳輸到晶片，從而繞過電路板的瓶頸。目前，量產規格為 512 個端口，每個端口的傳輸速率為 200 Gbps。 人工智慧工廠的規模非常龐大，一座 1 吉瓦的工廠造價約為 500 億美元。從建造到投入運作通常需要數月時間，但黃仁勳宣布推出 DGX SuperPOD，其中整個人工智慧設施在工廠內預製完成。它包含七個液冷計算機機架，使用 17 公里的 Spectrum-X 電纜互連成一個 Rubin NVL72 計算單元。所有這些部件都在工廠內完成接線和測試，然後裝入貨櫃並運送到現場，只需連接當地電源即可啟動。 讓我們來算帳：對於一家預計年收入為 400 億美元的 AI 工廠來說，生產延遲三個月意味著損失 100 億美元。DXP 可以將從交付到代幣輸出的時間從四到五個月縮短到大約一個月。 同時還能節約用電和用水；配套的 DXS Maxlps 是一個動態控制迴路，可根據工作負載即時調節電源。在保持相同性能的同時，可節省 30% 的電量。關於散熱系統，NVIDIA 支援最高溫度為 45 攝氏度的閉環液冷系統，在合適的氣候條件下，甚至可以使用室外乾式冷卻器散熱，完全消除水的蒸發。若以吉瓦級規模計算，每天可節省約 5,400 萬公升水，相當於 18 萬戶家庭的日用水量。 ### 智慧體五要素與 OpenSecure 安全機制 當然，單靠硬體是不夠的；您還需要軟體才能讓工廠正常運作。Jensen 表示，人工智慧工廠本身就是一個奇蹟，要啟動它、為其供電並開始生產代幣，需要一個極其龐大的軟體生態系統。因為它提供了一套完整的全端軟體套件，從底層系統軟體到頂層客戶體驗，所以他隨後將話題轉向了代理商。 過去一年，人工智慧發生了真正的變革：智能體開始具備生產力。今年年初，OpenCloud 引入了開源代理的概念，掀起了全球代理擴展的浪潮。智能體開始思考、推理、迭代和使用工具；消費量飆升，對 GPU 的需求更是爆炸性成長。 然後，他給了結構定義：智能體由五個要素組成。 - 一個是模型；模型負責感知。推理、計劃和行動——這就是特工的大腦。 - 第二件是特工的背帶，他直接稱之為特工的外骨骼。模型是大腦，而其他身體部位則是框架；它用於協調工作流程、管理活動記憶、工作記憶和長期記憶，以及激活工具。 - 由於其提供的開源 NICE 支援 OC 和 HMERS，因此第三個要素是沙箱，即為該工具運行提供的安全隔離環境。 - 第四個要素是由代理知識基金會提供的知識，使代理商能夠讀取和理解企業的結構化和非結構化資料。 - 第五個要素是工具，由 C 庫的 X 庫承載，使代理能夠執行特定的計算任務。 他的判斷是，未來不會只有一個模型來運行所有任務；每家公司都會混合使用封閉模型、開源模型和客製化訓練的模型，並根據任務類型選擇最合適的模型。 然後，我們從這次演講中得知了一個非常重要的消息：OpenShare。王迅表示，目前防止代理濫用權限的方法本質上只是在提示訊息中添加一行：「請勿刪除任何內容」。他在舞台上播放了一段自嘲的視頻，視頻以這個場景開始，然後以「那不是安全」結束。 OpenSecure 是 NVIDIA 於 9 月下旬發布的開源安全執行環境，基於 Apache 2.0 授權。其核心設計理念是將安全執行置於代理本身之外。策略是在作業系統層級強制執行的，因為大型語言模型內部的安全屏障不可靠。 OpenSecure 的具體機制分為三層： 1. 第一層是策略層。您可以使用 YAML 定義每個代理程式可以存取哪些檔案以及可以連接到哪些網路端點，OpenSecure 會在系統呼叫層級強制執行這些策略。 2. 接下來是憑證；代理本身不持有任何金鑰。我們在沙箱之外運行一個獨立的程序（即監管者），以確保所有憑證的安全。只有當請求獲得策略批准時，主管才會將憑證注入到該請求中。被攻破的代理程式不可能洩漏密鑰，因為它一開始就沒有擁有過密鑰。 3. 第三層是隔離層；每個代理程式都在獨立的沙箱中運行，沒有直接的網路存取權限，所有出站請求都必須由主管檢查。 將 OpenSecure 與早期網路的瀏覽器沙箱進行比較。早期網路充斥著惡意軟體，直到瀏覽器嚴格限制了網站的功能。如今，OpenSecure 也為代理商做著同樣的事情。 在 OpenSecure 之上，還有一個名為 Sentry 的選用硬體加速層，它運行在 BlueField-4 DPU 上，與主機 CPU 完全隔離。它的工作原理是將所有代理資料流量路由到 Sentry；如果代理的行為偏離了預先定義的策略，Sentry 會在幾秒鐘內更新策略，斷開代理與模型之間的連接，並將代理隔離。 自發布以來，幾乎所有主要陣營都承諾支持，已有超過 100 個組織加入，包括微軟、甲骨文、SAP 和瞻博網路。NVIDIA 已宣布將與合作夥伴共同推出基於雲端的 OpenSecure 代理程式。 ### 開放模型策略與 Agent Knowledge Foundation 其次是開放式模式策略，這與業內大多數企業的做法不同。王迅表示，他們提供的開放模型不僅包括權重，還包括訓練資料和完整的訓練腳本。只有當你了解模型的來源以及它使用的資料進行訓練時，你才能對其充滿信心。 其中，Nemotron 是它們語言模型家族的統稱。此外，NVIDIA 還在多個領域推進模型發展，例如用於理解和生成物理世界的 Cosmos 模型、用於訓練人形機器人的 GR 模型以及用於自主導航的模型。這些模型本身可能不是最前沿的研究成果，但透過生態系統合作夥伴的後續訓練和微調，它們可以達到最先進的水平。 他舉了幾個例子：AI21 使用 Nemotron 訓練了一個模型，其性能超過了頂級標準；CoreWeave 透過 BAST 對 Nemotron 進行微調，達到了精英水平；Hippocratic AI 使用 NeMo 進行訓練後擴展，也達到了頂尖水平。他的核心論點是，客戶只需要從一個好的開源模型開始，並使用自己的資料進行後續訓練，即可產生量身定制的、針對其特定業務的自主情報。 除此之外，讓代理商真正發揮作用的關鍵不在於模型本身，而是使其能夠理解貴公司的數據。Agent Knowledge Foundation 提供了一套完整的工具：NeMo Retriever 負責從非結構化文件中提取信息，因為企業數據主要以 PDF、合約和類似格式存在，需要人工智慧來讀取和提取；NeMo-Embed 負責將查詢與向量資料庫中的知識進行匹配。NeMo Retriever 是一個多源搜尋和排名系統，它從多個來源找到與查詢相關的數據，對其進行聚合，然後按相關性進行排名。 SQL-Agent 隨後對結構化資料庫執行預測分析。他以供應鏈場景為例進行演示：假設您收到供應商缺貨通知——這是非結構化資料——而訂單資訊則儲存在 SQL 資料庫中，這是結構化資料。該系統可以預測哪些訂單會受到影響以及受影響的時間，然後使用向量資料庫搜尋來尋找替換零件的技術文件。這四種工具對應於該鏈條中的四個步驟。 接下來是 CUDA-X。黃反覆使用類比：即使是最聰明的科學家也需要實驗室，即使是最好的工程師也需要模擬器和求解器，智能體也是如此。CUDA-X 是 20 多年來累積的加速計算庫的成果，涵蓋流體動力學、粒子物理、量子化學、影像處理、資料處理和光線追蹤等 350 多個領域。 他將 CUDA 比作人工智慧產業的 SQL，認為 CUDA 對於人工智慧產業的重要性，就如同 SQL 對於全球資料庫產業的重要性一樣，就像 OpenGL 和 DirectX 對於即時電腦圖形產業的重要性一樣；CUDA 催生了人工智慧運算產業。 黃仁勳在演講中展示了三名配備工具的特工的實際效果。首先，Profluent 公司的 LIS 代理程式使用 BioNeMo 進行蛋白質設計和 RNA 優化，自主運行數百萬次虛擬篩選，然後將最佳候選者送到自主機器人實驗室進行製造和測試。整個 B 細胞療法的實驗設計由相關人員完成。DST 和大眾汽車的兩名代理商合作，將一輛高爾夫汽車的車門改裝成自動車門；NVIDIA 分析了需求，模擬器運行了模擬，在發現振動問題後，設計自動進行了修正。西門子在其埃爾蘭根電子工廠使用 Omniverse 產生合成數據，使工廠代理商能夠推薦優化的生產計劃。 黃仁勳也直接回應了人工智慧將終結軟體產業的說法。他認為恰恰相反：人工智慧到來之後，這些工具的使用者數量將比以往任何時候都多。每家工具公司都將轉型為人工智慧公司，不僅提供軟體，還提供經過專門優化的智能體，這些智能體能夠極其熟練地使用工具。 ### 實體人工智慧浪潮與三台電腦架構 接下來是實體人工智慧，這是黃仁勳定義的人工智慧浪潮。物理人工智慧是指能夠理解物理世界、對其進行推理並使用工具與之互動的人工智慧。 他首先談到了電信網絡，這是物理人工智慧的最佳例證之一。蜂巢塔可以利用無線電波感知世界、進行推理，並利用波束成形技術與世界互動，這在結構上與機器人利用攝影機和執行器所做的事情完全相同。黃將光線追蹤中使用的 AI 技術應用於無線通信，使頻譜效率提高了百萬倍。在基礎設施方面，未來全球約 10 萬個電信站點和 100 吉瓦的分散式資料中心將發展成為去中心化的 AI 網路。上週，經過近八年的合作，NVIDIA 和諾基亞在 T-Mobile 網絡上完成了首次商業通話。黃在台上說：「酷，它現在可以打電話了。」 接下來是機器人輔助放射治療。由於患者的腫瘤在治療過程中會改變形狀，機器人可以即時感知不斷變化的身體環境，精確分割腫瘤邊界，並動態調整放射方向。這不僅僅是執行預設程序，而是在感知到變化後進行推理，然後使用工具採取行動。 自動駕駛是目前實體人工智慧領域規模最大、最新實現的應用。黃仁勳觀察到一種趨勢，每家汽車製造商都希望自己的汽車加入叫車車隊。未來，像 Uber、Bolt、Grab 和 Lyft 這樣的平台將會推出無人駕駛計程車，但它們不會只來自一個品牌。建立自動駕駛系統成本極其高昂，尤其是軟體部分，因此 NVIDIA 決定創建一個標準化的架構。Hyperion 的標準配置包括 14 個攝影機、9 個雷達、3 個雷射雷達和眾多超音波感測器，全部由兩個 NVIDIA GPU 系統驅動。NVIDIA 也正在開發自動駕駛軟體，目標是建立一個可以連接到所有主要叫車平台的 Robotaxi 功能。 全球每年約有 1 兆英哩的旅行里程。機器人計程車的收費標準為每英里一到兩美元，市場規模龐大但高度分散。NVIDIA 的目標是創建任何品牌都可以加入的虛擬車隊標準。在本次演示中，四家新的 NVIDIA 合作夥伴和車型選擇加入，包括大眾汽車、沃爾沃車隊、下一代梅賽德斯-奔馳以及捷豹路虎的新車型。 繼續。接下來是人形機器人。黃仁勳指出，機器人產業的核心挑戰是碎片化；不同的任務需要不同的機器人配置，因此每種配置的體積都太小，無法形成技術飛輪。手機和個人電腦發展迅速，是因為它們具有標準化的配置。標準化帶來規模，規模推動技術進步。人形機器人有可能發展成為這種標準化的形態。它們可能不適用於每項任務，但它們可以用於許多任務，成為產量最高的機器人架構。如果能讓它們快速學習新技能，即使是沒有專業機器人團隊的中小型企業也可以使用它們。你只需要向機器人示範該做什麼，它就能學會。 H1 是 NVIDIA 和 Agility Robotics 合作開發的一款參考級人形機器人，身高 1.4 米，重 40 公斤，擁有 31 個自由度和整合運算能力，將於明年第一季度發貨。 黃仁勳也提出了一個關鍵概念：建構實體人工智慧系統需要三台電腦。 - 第一個是在雲端用來訓練人工智慧模型的。 - 第二個是 Omniverse 數位孿生平台，用於人工智慧學習和驗證技能。你不能只是寫一個人工智慧程式就把他放到現實世界；它必須先在數位世界中完成。 - 第三個是機器人本身的電腦；在自動駕駛汽車中，它被稱為 Hyperion。在人形機器人中，它指的是機器人計算機。 ### 新時代個人電腦與現場 MicroDucks 演示 最後，黃仁勳的分享回到了他的出發點：個人電腦。 1993 年，NVIDIA 開啟了個人電腦革命，發明了 GPU、可程式著色和即時光線追蹤技術，隨後又加入了 CUDA 加速技術，點燃了現代人工智慧革命。四年前，他們開始思考新時代的個人電腦應該是什麼樣子。它不僅是你的工具，更是你的私人智慧代理和助理。與它互動更像是與夥伴合作；經過與微軟四年的合作以及數千年的工程秘密研發，他們發布了 RTX Spark。這款電腦配備了 NEX 晶片，可提供高達 P4AI TOPS 的性能和高達 128GB 的統一記憶體。 正如我們之前提到的，2016 年同等運算能力和記憶體的電腦需要兩個人才能搬上樓，但現在這台電腦一隻手就能搬動。對於需要更強大效能的用戶，NVIDIA 還提供搭載 RTX Spark 的 GX Station，其效能為 20 PAI TOPS，記憶體為 754GB，運行 Windows 系統，預計將於年底上市。 最後，現場演示將這三台實體人工智慧電腦連接在一起。在演講開始時，黃仁勳播放了一段他和一隻機器鴨的短視頻，當觀眾席上有人喊道「這隻鴨子太小了」時，他笑著回答說：「我們正在製作一隻更大的鴨子。」 最後，他竟然真的把四隻活的 MicroDucks 帶上了舞台。MicroDucks 由法國公司 PRobotics 製造，開發人員使用 HermusAgent 和 GPT-6S 模型，以及 FreeCD、Blender 和 Sim 工具，在單一 RTX Spark 上完成了從 3D 建模到物理模擬的整個過程。訓練在雲端進行，數千隻虛擬 MicroDucks 同時接受訓練，因此一次互動只需一瞬間。訓練好的策略下載回 RTX Spark，經過評估後，部署到真正的機器。 然後，四隻真正的 MicroDucks 走上了舞台；詹森像一位老父親一樣，朝他們走了兩步，提醒他們「別絆倒」，然後問道：「你們能坐下嗎？」鴨子們按計劃坐了下來；他讓他們站起來跳舞，最後讓他們做個空翻，你們一遍又一遍地說：「死了。」對計算機組這三個步驟就是建構實體人工智慧系統的三台電腦。 ### 總結 事實上，在整個演講過程中，黃仁勳始終圍繞著同一個主題：利用能源驅動計算，計算產生代幣，代幣驅動代理，代理使用工具完成工作。 只不過，詹森把這條鏈條上的每一個環節都拆解開了。從 Rubin 的晶片級創新到 DXSPod 的供應鏈轉型，OpenShare 的安全架構，NO 的開放模型，CKUDAX 工具庫，以及 Hyper 和 AJL 1 的實體人工智慧應用，希望進入該領域的公司可以獲得清晰的操作順序：選擇一個好的基礎模型（專有或開源），然後用自己的資料對其進行後訓練，以獲得自訂資料模型。接下來，使用 GeFoundation 讓模型理解您的特定數據，透過 CX 為代理商配備專業工具，最後，在 OpenShare 的安全環境中運行整個系統。 他提到，建立代理並不難，只需要四、五個元件。關鍵在於你所擁有的知識和工具——這是你專業能力的體現。 最後，黃仁勳表示：「歐洲的每一家公司都將變成一家人工智慧公司，這一點毋庸置疑。」然後，他演奏了一首歐洲歌唱大賽風格的歌曲，將整個表演變成了一首抒情歌曲。歌詞將 OpenShare 描述為門戶，Blowfil 像明星一樣守護著它——一個隨時準備戰鬥的人工智慧——而機器人則在模擬器中上大學，無需償還學生貸款。 感謝觀看，下次見。