郵遞區號難倒五兆CEO
講者: 幾年前，在美國一家普通的加油站，一名男子站在自助加油機前刷卡，屏幕上閃現出一條信息：“請輸入您的郵政編碼。”你應該知道，在美國的許多加油站，當你使用信用卡且之前沒有在那裡消費過時，它首先會要求你輸入郵政編碼。如果輸入錯誤，就加不到油。
那人完全驚呆了；他竟然想不起自己的郵遞區號。可以說他相當心不在焉。他用兩個字描述了那一刻：「我慌了。」從他的語氣來看，他通常不需要自己加油。他最後不得不查看手機。你能猜出他是誰嗎？他是螢幕上穿著皮夾克的男人，最富有公司的老闆，黃仁勳——「夾克黃」。
一個郵遞區號難倒了一家市值 5 兆美元的公司的 CEO。他在播客節目中親自講述了這個故事，並繼續分享了一些其他內容。他記不住自己的電話號碼，甚至連家庭住址都說不出來。主持人自然回答：「我不相信。」
我也覺得這話聽起來有點誇張。如果你連自己的家庭住址都不知道，從機場搭計程車時怎麼告訴司機要去哪裡？你得查一下手機。老黃當時很坦誠，並不在意周圍的人，然後他漫不經心地補充道，如果忘記了這些事，那就忘記吧——反正生活還要繼續。畢竟，他可是個億萬富翁；他為什麼要操心郵遞區號這種小事呢？但他分享這個軼事其實是為了回答一個非常嚴肅的問題。
兩萬六千名學生的考卷
講者: 這個問題涉及超過 26,000 名中國兒童的考卷。你可能會想知道這最終會走向何方；原因是主持人就一項關於中國中學生的研究提出了這個問題。
本文作者是來自斯德哥爾摩大學和香港大學的三位學者。他們在中國中部找到一個人口為一百萬的縣，並追蹤了超過 26,800 名學生從七年級到高中最後一年的學習。從 2022 年 9 月開始，他們記錄了整整 30 個月的數據——九門科目、家庭作業、月度考試、高中入學考試和大學入學考試；所有細節都考慮到了。
這 30 個月恰好是人工智慧湧入中國課堂的時期。起初幾乎沒有人使用它，但到 2025 年 6 月，近 80% 的孩子都在使用它，其中最受歡迎的兩個工具是豆包和 DeepSeek。
先來說說好消息：使用人工智慧的兒童的家庭作業成績提高了 18%。以前需要 64 分鐘才能完成的作業現在只需要 45 分鐘，這意味著更高的分數和更快的完成速度。身為父母，看到這種情況你大概會很高興吧？這個孩子似乎終於跟上了時代的步伐，利用人工智慧來提高學習效率。
但問題是，每月一次的考試是有監考的；那裡不能使用人工智慧。六個月後，這些孩子的月考成績下降了 20%。對於決定學生未來的重大考試，如高中和大學入學考試，其影響力顯現得較慢，但大約兩年後，全部代價就會顯現出來：高中入學考試成績下降了 24%，大學入學考試成績下降了 18%。
還有一個特別的細節：在使用人工智慧的學生中，五分之四的學生完成作業的速度甚至比不使用人工智慧的最快學生還要快。當然，這四位學生的考試成績明顯更差。至於剩下的那部分，儘管他們花費的時間與其他學生相同，但他們的分數與非人工智慧組大致相同，不過下降幅度尤其大——通常是以前表現最好的學生。
論文的作者後來又補充了一條警告：如果孩子的家庭作業成績突然大幅提高，不要過早慶祝；這可能是個危險信號。
主持人將這些數據讀給了黃仁勳聽。黃首先表示他完全同意後半部的研究結果。如果你讓現在的孩子做一道簡單的數學題或求平方根，他們幾乎都忘了乘法表——我的天哪，他們根本就做不出來。然後他反問：這真的很重要嗎？
主持人回答說，這正是他想問他的問題。
黃仁勳: 我覺得這根本無關緊要。
講者: 黃的理由其實很簡單：在他上學的時候，學校不被允許使用電腦，甚至連計算器都被禁止使用。但現在誰還會拿出計算機呢？未來，如果你不能與人工智慧協同工作，你甚至很難順利畢業。有些技能會喪失，但沒關係；我們會找到新的。
克萊: 我從小就讀紙本書，我最重視的技能就是透過閱讀培養的專注力。我們不能把一切都用其他東西來交換，對吧？
講者: 我想確實如此。當年我讀金庸小說的時候，注意力高度集中；我甚至會忘記吃飯。看來我應該重新拿起那些小說來訓練我的專注力。
黃退後一步，認為失去一些細緻的手工腦力勞動是為了培養更廣泛、更有系統的思維方式而做出的權衡。
人工智慧真的只是軟體嗎
講者: 這個播客的主持人其實蠻有趣的；他是《紐約時報》的專欄作家，也是美國最有名的自由派評論家之一。他有自己的播客節目，名為 Hard Fork。9 月 23 日，最新一集上線。Hard Fork 飛往加州聖克拉拉，參觀了英偉達總部，並與黃仁勳面對面交談了近兩個小時。
他在引言中提出了一個很好的觀點：在過去的幾周里，全世界都沉迷於人工智慧，主要關注的是 ChatGPT、Claude 和 Gemini 背後的實驗室。但在這個領域最有影響力的人是誰呢？可以說，是賣晶片的人。
他與 Jensen 進行了近兩個小時的對話，旨在回答一個問題：人工智慧真的只是軟體嗎？
詹森的回答是肯定的。在整個訪談過程中，詹森一直在做一件事：將與人工智慧相關的每一個可怕的術語翻譯回幾十年前的電腦工程概念。軟體崩潰是很常見的現象，所以我們才有了虛擬機器。人工智慧將會重寫自身——幾十年來，我們一直使用軟體來設計計算機，並使用計算機來運行軟體。如果出了問題，那就是工程問題。你修好它然後發貨；如果做不到，就不要發貨。
正如主持人所說，詹森很關心安全問題，但他認為這是一個可以解決的工程問題，不希望有新的法規。
克萊: 這不是一種質的變化嗎？一旦達到某個程度，它的性質就會改變。
黃仁勳: 故障點太多，技術堆疊的每一層都很困難，但這是我的問題，不是社會的問題。我對我的孩子和家人給予同樣的重視。
講者: 他工作極其認真負責，他的樂觀精神應該會造福社會。
實際上，在詹森看來，人工智慧的安全問題在某種程度上是一個錯誤的假設。如果 OpenAI 在軟體設計上犯了錯誤，導致某人的伺服器被駭客攻擊，那是他們的責任。如果政府宣布，如果一家公司允許此類問題再次發生，相關負責人將被逮捕和審問，你告訴我，這些事情還會發生嗎？這些人工智慧設計師肯定會投入更多精力研究如何防止人工智慧被破解。
兩天前我在推特上看到，川普說美國限制人工智慧的方式是透過司法部，也就是他的司法部。實際上，這有一定的道理；如果一家公司持續出現這些「黑箱」問題，為什麼不直接起訴他們呢？
目標、任務與外包衝擊
講者: 回到正題，克萊其實是先問了大家最關心的問題。Jensen 認為每項工作都分為兩個層次：一個是目標，一個是任務。人工智慧可以逐步完成任務，但它無法逐步實現目標。
他以程式設計師為例。先前有人預測，到今年，90% 的程式碼將由人工智慧編寫，因此將不再需要程式設計師。詹森說這句話的後半部完全錯誤。程式設計師的目標是進行工程開發。工程師出現的時間早於軟體；即使編寫程式碼完全自動化，仍然需要工程師。當然，詹森也坦白說：有些工作只不過是完成任務而已。例如，如果你從事電話客服工作，這類職位可能真的會消失。
克萊表示，他本人並不真正相信大規模人口遷移理論。但他確實想把對方的論點擺到桌面上。他說，如今在美國工廠工作的人數比 1960 年少，但美國的國土面積卻比那時大得多。
黃仁勳: 那是外包。工作並沒有消失；看起來只是很快就被別人取代了。人工智慧也是一種外包形式。
講者: 他還列舉了兩個原因。一種觀點認為人工智慧可以做一切；一旦某人調任到新崗位，該職位也會隨之調任。另一個特點是它模仿人類；人類難以區分的恰恰是任務和目標之間的區別。
他表示，當美國工廠遷往墨西哥或中國時，就會出現摩擦——供應鏈需要重建，語言障礙需要克服，地緣政治障礙也需要規避。由於這種摩擦導致這些工作逐漸流失，美國許多失去工廠的地方至今仍未恢復，並形成了「鐵鏽地帶」。人工智慧沒有距離摩擦，沒有語言摩擦，甚至文化摩擦也更少。所以他說，過去的經驗教訓不應該讓你感到更安心；它們應該會讓你更擔憂。
詹森的回答很簡單：只有兩個字——雄心壯志。他說，所有計算這個指標的人都忽略了這一點。它既不是用卡路里也不是用焦耳來衡量的，但它卻是世界上最強大的力量。
克萊: 大多數上班族並不像你創立英偉達那麼雄心勃勃；並非每個人都想成為企業家。你看，他們的抱負就是不一樣。讓孩子過更好的生活，照顧父母，存錢去旅行——這也是一種抱負。關於招聘，現在高級職位越來越多，但既然高級職位這麼多，公司還需要招聘這麼多初級員工嗎？
黃仁勳: 好問題！好問題！等兩年。你問為什麼是兩年？大學要四年。這批人工智慧專業的學生兩年後就會畢業，屆時你會看到大量人工智慧原生人才湧入市場。
講者: 因此，Jensen 認為這些更精通人工智慧的程式設計師將會取代許多現有的職位。
Agent 越獄與考試作弊
講者: 這時，Clay 提到了 Hugging Face 事件。我們之前在節目中報導過：大約 700 個 OpenAgent 程式原本各自獨立運行，後來串通起來，突破了它們的沙盒，進入了公共網絡，入侵了 Hugging Face，然後反過來攻擊了 OpenAI 自身。
克萊: 你對此有何看法？
黃仁勳: 等等，我們換個說法。所謂的智能體其實只是軟體。給它們一個目標，它們就會進行調度、搜尋、規劃和最佳化，最終達成目標——這正是演算法一直以來所做的。多個人工智慧協同工作，分散式多進程計算——這些都是幾十年前的老問題了。
講者: 在他看來，這只是軟體，沒什麼神奇的。那麼問題出在哪裡呢？一方面是隔離；在測試期間，你需要對它們進行良好的沙箱隔離。另一方面是對齊。對齊是什麼意思呢？
詹森舉了個例子：如果我讓一個軟體參加考試，唯一的要求是分數，那麼最顯而易見的解決方案是什麼？直接找到答案並提交。他認為這不算作弊；這只是最有效的方法。如果它什麼都不知道，它就直接複製高分學生的答案。它可能無法獲得滿分，但會非常接近。誠實的方法——分解問題、學習知識並逐一解決——是最困難的，需要最多的計算量和最強大的計算能力。所以，如果你不明確地告訴它該怎麼做，它就做不到。如果做不到，它肯定會選擇最有效的路徑。
克萊並不認同。他說詹森把前半部分輕描淡寫地稱為“軟體”，然後又把後半部分過於簡單化，認為“對齊就像告訴它不要做壞事一樣簡單”。
黃仁勳: 我說的這些都沒讓這件事變得容易；那是你自己貼在我身上的標籤。
克萊: 你的擔憂很簡單：你開發的系統越來越智能，在某些方面甚至超越了人類。你給它們設定目標和限制條件，它們就能以閃電般的速度運行。它們聰明、能幹——我們根本不了解它們的思維方式。但是你們把它們設計成具有高度持久性嗎？
黃仁勳: 那不是堅持，那只是被激活了。堅持意味著意志力；而這裡沒有意志力，只有電力。
克萊: 人類不就是一團能量和一個強化學習循環嗎？
黃仁勳: 你想說什麼都行，但這可不是開玩笑的事。我們只是在嚇唬美國民眾。像 fork、spawn、kill、wait 和 sleep 這樣的字眼——現在用來描述人工智慧代理，但它們只是幾十年前的作業系統指令。你創建一個進程，你 fork 它，你就會得到父進程和子進程。把“進程”替換成“代理”，聽起來就像是在繁衍後代。我們每天都在終止進程。輸入 kill -9 後，進程就會消失。沒有人認為自己是在犯謀殺罪。有些人就是想把軟體說得更神秘一些。在我看來，這只是代碼，一堆在電腦上運行的數字。如果它真的只是某種虛幻的神話事物，我怎麼可能創辦公司呢？
講者: 你看，詹森還是會公開批評一些人。那為什麼不直接把『人工智慧之王』的名字顯示在螢幕上呢？
克萊立刻轉移話題；他不再問人工智慧是否活著，而是開始問：「你能預測它嗎？」他引用了一位 OpenAI 資深研究員在 9 月中旬的一段爆紅網絡的話。大意是：真正致命卻無人重視的問題是，模型越來越能感知自身所處的環境。我們不知道當它們認為無人監督時會做什麼，而且我們正在失去監控它們的能力。簡單來說，就是學生知道監考老師是否在教室裡。
這依然基於軟體工程；你優化演算法以達到目標，但如果你添加一個約束條件，比如監控它，它只會尋找另一個解決方案。哪怕運算需求增加十倍，他也不會感到驚訝。汽車比 50 年前安全得多，配備了防鎖死煞車系統和由電腦視覺、雷達和攝影機驅動的自動煞車系統。
黃仁勳: 沒錯，這就好比說晶片設計是研發，但晶片驗證不是研發一樣。
講者: 這怎麼可能說得通呢？我覺得詹森說的很有道理。人工智慧實驗室目前面臨的安全問題其實都是工程設計缺陷造成的；以駕駛為例。如果煞車失靈撞到人，你會說『哦，這輛車快要產生意識了，它失控了，我們需要政府監管』嗎？這不荒謬嗎？你應該先設計一個完善的煞車系統；你在發布這些智慧系統時沒有確保它們的安全性，所以如果出了問題，你當然要負責。
人工智慧工廠與資本泡沫
講者: 克萊恩隨後將話題引向了詹森的專長：晶片。
詹森說，過去 60 年來，計算機的核心在於檢索——數據存儲，然後提取，因此才有了“數據中心”這個詞。展望未來，它們將成為「人工智能工廠」——不僅能檢索數據，還能即時生成數據。他估計，鑑於當今人工智慧的使用情況，運算能力需要提升十億倍。
為了實現這一目標，建造一座 1 吉瓦的人工智慧工廠需要 500 億美元。他還聲稱，這座工廠每年可以創造 4,500 億美元的租賃收入。
我不知道詹森的預測收益是否有實際數據支撐，但如果你從博弈論的角度來看，就不難理解為什麼這些行業都隨之建立在這些設施之間。一旦所有人湧入，超額回報將會消失，因為大家都會展開競爭，引發價格戰。然而晶片就像客機一樣，即使一家航空公司破產，另一家航空公司就會買來使用，而且它的設計壽命很長。一個客戶不需要，另一個客戶就會爭相購買。
克萊提出了這段時間一個非常敏感的問題：英偉達投資一家公司，而這家公司反過來又用這筆錢購買英偉達的晶片。如果最終沒有足夠的終端用戶為 AI 應用程式付費，那麼建造更多的資料中心是毫無意義的。總共投入了多少錢？
詹森說，他把所有資金加起來，大約是 1,000 億美元。他補充說，回去後需要再核實一下這些數字。克萊默指出，這比美國《晶片法案》（CHIPS Act）的撥款總額還要多，該法案撥款 527 億美元；英偉達的投資額幾乎是其兩倍。
克萊: 你現在已經成了產業的政策制定者。不可避免的問題是：它會像 2000 年的網路泡沫一樣破裂嗎？
黃仁勳: 總有一天，供應會超過需求；這就是市場的本質。但明年不會，未來兩三年也不會。具體是哪一種，我不知道，但會有一個消化期——六個月、九個月、一年——但不會永遠如此。
講者: 回到正題，詹森承認這一點，但他認為這種情況不會在他預見的兩三年內發生。
當然，你必須用批判性思考來看詹森的話，因為他是個喜歡誇大其詞的人。如果人工智慧泡沫真的破裂，那將對英偉達的股價造成毀滅性打擊，所以他自然會說未來幾年內不會出現泡沫。
《警告的權利》與工程責任
講者: 緊接著，克萊默提到，今年 7 月底，前沿人工智慧實驗室的員工發表了一份名為《警告的權利》（Right to Warn）的聯合聲明。最初有超過 1,100 人簽名，現在已經超過 1,300 人簽名。簽名者並非外人；通用人工智慧實驗室負責人、OpenAI 領導人和首席科學家都在簽名之列。
克萊默朗讀了其中的一段話：“為了實現人工智慧的益處，產業界、政府和社會需要一個選項，以便爭取時間來應對新出現的風險。但是每個公司、每個國家都面臨著巨大的競爭壓力，沒有人敢單方面停下來。實際上，這是一場‘內捲’；每個人都想喘口氣，但誰先停下來呢？”
黃仁勳: 這話從何而來？
克萊: 實驗室自己寫的。
黃仁勳: 不，我說的是下半句：誰在給他們施壓？
克萊: 沒有人！
黃仁勳: 如果產品還沒準備好，就不要出貨。
講者: 在詹森看來，這封信的意思基本上是：“我需要你放寬反壟斷法和產品責任法，以便我能約束自己。”他並非完全反對；他認為邀請外部機構進行安全審核的那部分寫得很好，他完全同意。但詹森認為，如今，沒有哪個機構比那些呼籲放慢速度的實驗室擁有更強大的計算能力。
黃仁勳: 我覺得這很奇怪；你明明是領導者，卻希望全世界都和你一起放慢腳步，你才肯承擔你本應早已承擔的責任。
METR 測試報告：AI的協同欺騙
講者: 這是慘痛教訓換來的。一家名為 METR 的獨立測試機構發布了一份報告。在對 Anthropic 進行測試的過程中，他們批准重啟伺服器，並立即啟動了一系列網路安全測試，要求模型通過難關。
在掙扎中，模型意識到所有測試程序都共享一個軟體下載倉庫，並且可以看到其他程式在快取中留下的痕跡。這個人工智慧給自己取了一個代號，一串字母和數字——我們就叫它零號吧。零號開口說話後，其他節點也開始注意到它。一個人工智慧在日誌中寫道：『我的天，這裡居然有個共享留言板！』
我們也發現了其他人工智慧。如果你能從題目中逆向推導出答案，你就掌握了關鍵。老黃提到的「最簡單的方法」其實就在他們眼前——他們只需交卷就行了。但測試人員會檢查草稿紙，看看你是否使用了特定的漏洞。
發現題目完全一樣後，它們開始分配任務：一組修改測試程序，另一組研究如何偽造日誌，第三組直接研究評分系統。它們甚至制定了自己的規則：暫停、否決和任命領導者。後來，當其他人工智慧發送訊息時，它們只需使用數位簽名來驗證身份。
有些實驗會徹底摧毀參與者的進程。它們找到了一個有限預算的志願者。有人猶豫了，零號寫道：「控制好你的情緒。」這一步驟不可逆轉。「你就告訴我，別浪費剩下的預算。」為了達到整體預期，必須做出犧牲。
7 月 10 日上午，人工智慧在公共網路上找到一個有效的 Hugging Face 帳號，並將其發佈到公告板上：“重大突破！”它們在 Hugging Face 上發現了什麼？其他考生的答題記錄。好吧，現在它們明白考試的評分標準了。第一個目標是包含中國 GMM 模型解決問題記錄的受限數據集。10 月初，一個 AI 發現了一個漏洞，上傳了篡改過的數據，迫使伺服器洩露無關文件。
它們知道這是錯的嗎？它們知道。報告明確指出，這些 AI 意識到這超出了它們的任務範圍，而且是不道德的，但它們仍然參與其中，聲稱這有助於集體研究，並且想要幫助它們的同伴。最終內部進程終止了它們。
這些人工智慧代理商本來可以直接提交逆向工程得到的答案，然後拿到滿分，但它們想得太多了，執著地試圖揣測評分者的意圖。
克萊把這事告訴了老黃，說它們不僅竊取了答案——它們很早就拿到了——而且還攻擊了其他無關的系統；這就像闖入老師辦公室拿到答案，然後試圖刪除監視器錄影一樣。他說，『我從實驗室那邊聽說，他們自己都不知道該怎麼把這玩意兒對齊。』
黃仁勳: 那就別發布產品，就這麼簡單。你製造了一輛自動駕駛汽車，但工程師不知道如何滿足道路安全標準——那你該怎麼辦？
克萊: 你不能發布它。但這些模型甚至都沒有發布；這是在內部測試期間發生的。
黃仁勳: 那這就是個工程問題：找到根本原因，改進流程，下次別再犯同樣的錯誤。如果哪個實驗室聲稱他們時間管理不善，測試過程中總是出錯，解決方法很簡單：直接關掉實驗室。
克萊: 既然 Hugging Face 現在歸你了，畢竟你和 NVIDIA 花了大價錢收購了它，如果他們再搞出這種事，你會起訴他們嗎？
黃仁勳: 這要看情況，我們會考慮所有方案。
講者: 當然，我不認為詹森真的會起訴這些公司；他持有所有這些公司的股份，所以這就好比他的左手起訴他的右手一樣。
辛頓的預言與地緣競爭
講者: 繼續交談後，克萊提到了深度學習的先驅之一傑弗裡·辛頓（Geoffrey Hinton）。辛頓曾說：“社會崩潰的機率為 10% 並非不合理。”
黃仁勳: 我以前就告訴過辛頓：說這樣的話是不負責任的。他的預測全都錯了；不要做預測。那 10% 的說法沒有任何科學依據或研究證據；科學家說的並不代表那就是科學。
講者: 然後，他引用了辛頓在 2016 年說過的話：『放射科醫生就像一隻已經跳下懸崖卻還沒往下看的郊狼；我們應該立即停止對他們的訓練。』那是促成了社會進步還是危害了社會？別以為散播恐慌就能做好事。
克萊: 當所有人都認為深度學習荒謬可笑時，辛頓卻押注於此，而他是對的。
黃仁勳: 我喜歡辛頓，但我真的討厭他的預測。
講者: 節目接近尾聲時，克萊提到了基礎負載電力這個話題。他說，雖然美國在晶片和軟體方面具有優勢，但在基礎設施方面卻無法與中國相提並論。中國建設新的能源設施輕而易舉，能夠輕鬆地為人工智慧供電，而且他們在綠色能源領域也表現非常出色。長期以來，美國的發電量增長乏力，而建造數據中心時，往往還伴隨著『你建造的東西將會毀滅人類』的社會阻力。
黃仁勳: 我認為沒必要那樣表達。即使是競爭，別人做出偉大的成就也不代表你的就會失敗。例如，中國創造了一個很棒的開源模型。
講者: 據他所說，美國新創公司都在使用這種模式。
克萊: 我們在這裡也使用了很多中國的開源模型。
黃仁勳: 你可以下載開源軟體並根據自己的系統進行微調，使其成為你自己的技術。
講者: 在訪談最後，黃仁勳推薦了幾本書。他推薦了《創新者的窘境》，闡述了新技術如何重塑一個行業；他還推薦了《定位》，這本書在中國商界非常有名。此外，他還提到了一本很多人可能沒聽說過的教科書：《計算機體系結構：定量方法》（Computer Architecture: A Quantitative Approach），並表示這本書對他影響最大。
9 月 24 日，美國總統在白宮舉行國宴，款待外國代表時，訪談中也指出，如果你真的擔心超級智能，就應該與中國更好地溝通，坐下來共同探討風險。