--- author: Best Partners TV date: '2026-11-10' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=hbwZxsI-fXE speaker: Best Partners TV tags: - recursive-self-improvement - artificial-intelligence - scientific-discovery - automation title: Jeff Dean 对话李飞飞：拆解递归自我改进（RSI）神话与 AI 研发边界 summary: 在斯坦福 AI 会议上，李飞飞与 Jeff Dean 讨论了近期走红的递归自我改进（RSI）概念。Dean 区分了例行自我改进与真正的递归改进，强调物理计算与自然法则对无限加速的客观限制，并介绍了其新创立公司 DiscoveryLoop 的定位与科研自动化思考。 insight: '' draft: true series: '' category: ai-application area: tech-engineering project: [] people: - 李飞飞 - Jeff Dean companies_orgs: - DiscoveryLoop - Google - Stanford University products_models: - Transformer media_books: [] status: evergreen --- ### 矽谷新熱點：遞歸自我改進（RSI） 大家好，這裡是 Best Partners，我是大飛。 在過去的半年裡，一個詞在矽谷迅速走紅：遞歸自我改進（Recursive Self-Improvement，簡稱 RSI）。簡言之，就是讓人工智慧不斷自我改進，甚至變得更快，最終實現無限加速。許多人認為這是解鎖通用人工智慧的關鍵，彷彿一旦人工智慧能夠編寫自己的程式碼並運行自己的實驗，發展就會進入自我強化的良性循環。 然而，就在這片混亂之中，有兩個人走出來給它潑了點冷水。2026 年 11 月 4 日，史丹佛大學以人為中心的人工智慧研究所舉辦了一場為期兩天的會議，主題為「面對人工智慧的未來」。閉幕式邀請了兩位重量級嘉賓：首先是李飛飛，他憑藉 ImageNet 引發了深度學習革命，並且經常出席世界經濟論壇和白宮人工智慧委員會。第二位是傑夫·迪恩，這位傳奇工程師在谷歌工作了幾十年，利用 MapReduce、BigTable 和 TensorFlow 建立了大數據和人工智慧基礎設施。作為谷歌的首席科學家，他甚至與桑達爾·皮查伊一起領導過一些計畫。這兩個人都真正經歷了人工智慧的「寒冬」以及隨之而來的高峰。 李菲菲在台上說的第一句話是：「讓我們跳過公關上的花招，直接進入真正困難、實際的問題。」在整個演講過程中，他們運用簡單的工程邏輯，層層揭開了 RSI 神話的真相。 ### 什麼是真正的遞歸自我改進？ 矽谷目前對 RSI 一詞的使用非常廣泛，幾乎什麼都用它來解釋：自動參數調整稱為 RSI，搜尋神經網路架構稱為 RSI，運行一些自我實驗也稱為 RSI。但這兩者之間究竟有什麼差別呢？ 李菲菲首先回憶起她的研究生時代，指出類似的概念已經被重新包裝了好幾次。最初，它被稱為增量學習，系統會根據新數據不斷更新。後來又出現了持續學習、終身學習和元學習；在此之前的幾年裡，出現了神經架構搜尋（NAS），讓系統找到最佳模型結構，而現在，焦點集中在自我改進和 RSI 上。的確，太陽底下無新鮮事。 那麼，我們究竟該如何區分它們呢？Jeff Dean 提供了一個非常清晰的框架，以醫學影像分析為例，假設你想建立一個診斷模型來讀取 MRI 掃描影像。現在，如果你建立一個自動化流程，讓系統自行測試各種模型架構，運行評估，並最終選擇準確率最高的選項，那麼人工智慧模型的性能確實會在過程中得到提高，但傑夫說這只是一個例行的自我改進系統，根本不算遞歸。 這是為什麼？因為在這個過程中，只有用於執行任務的人工智慧模型會變得更強大；負責實驗設計、進度安排和評估的基礎研究系統從頭到尾都停滯不前，沒有任何科學進步。 真正的遞歸式自我提升其實有著更嚴格的門檻。改進結果必須回饋給負責提出這些改進方案的技術系統。只有當這個基礎系統在運作過程中能夠更好地設計實驗並提出假設時，才能真正認為這個過程已經跨越了遞歸的門檻。 一旦你了解這種區別，你就可以過濾掉市場上至少 90% 關於 RSI 的混亂言論。能夠產生更好結果的應用流程與不斷發展自身研究能力的基礎系統之間存在著巨大的技術難度差距。 ### 人類的煎蛋比喻與後設學習能力 傑夫隨後將這個問題擴展到認知層面，問道：人類本身是否算是 RSI 系統？ 他以自己學習煎蛋的經驗為例進行說明。第一次，你很可能會把鍋子完全燒焦，但透過不斷調整，第二次就會好一些，煎十次之後，你終於可以做出一道能吃的菜了。這種反覆嘗試、不斷糾錯、不斷回饋、不斷精進的過程，是自我提升最典型的形式。 但是，如果你堅持把學習煎蛋變成重複性勞損，情況就完全不同了。這意味著在煎蛋的過程中，你大腦的底層神經連接會完全重組，甚至會進化出第六根手指，更適合翻雞蛋，你的整個中樞系統會完成全面的硬體和底層升級，以應對更複雜的任務。 傑夫笑著說，人類其實同時擁有這兩種引擎。一方面，學習烹飪或學習微積分屬於為特定任務而進行的自我提升。但更重要的是，當人類學習特定技能時，我們其實也悄悄地完成另一個專案：學習如何學習。透過不斷跨越界線接觸新事物，我們逐漸弄清楚哪些資訊結構最容易吸收，哪些認知路徑最能讓我們快速掌握本質。這種學習方法本身的經驗可以直接提高我們未來掌握陌生領域的速度。他認為這種後設學習能力正是人類固有的遞歸演化屬性。 要將這種邏輯映射到人工智慧，核心挑戰就變得很明顯了：系統在解決特定問題後，能否自行總結出一種可轉移的科學方法？如果不能，那麼它就不過是個熟練工人。 ### 研發能否無限加速？物理現實的硬性邊界 在澄清了這個概念之後，兩位專家又回到了矽谷最感興趣的議題。既然人工智慧可以自行進行實驗，研發速度是否可以無限加快？ 作為世界上最博學的大型計算系統工程師之一，傑夫·迪恩給了一個非常務實的答案：自動化確實可以加速研發，但在物理現實面前，無限加速是不可能的。 他描述的情景，我想所有演算法公司都非常熟悉。在目前的研發工作流程中，研究人員會在晚上離開前提交一批實驗結果；機器實際上在凌晨 2 點就停止運作了，但是因為人類需要睡覺，所以結果會一直保留到早上 8 點，這時研究人員會帶著咖啡回到辦公桌前，查看日誌，並決定下一步行動。在這六個小時裡，運算能力和研發進展基本上處於閒置狀態。 如果使用自動化系統，實驗在凌晨 2 點結束時，系統可以立即讀取日誌，分析總體結果，並當場決定開始下一輪，完全消除人工交接和日程安排造成的停機時間，使實驗能夠全天候運行。這正是傑夫的新公司 DiscoveryLoop 的核心重點；然而，消除人類的等待時間並不意味著實驗本身所需的時間就消失了。 機器學習並非魔法；模型的每一次改進都是建立在可靠的物理計算之上的。訓練需要運算能力進行矩陣乘法，反向傳播也需要時間，資料讀取和驗證同樣受到硬體頻寬的限制。即使「決策大腦」以最快的速度運轉，底層晶片也必須盡職盡責地完成計算，尤其是在科學研究中，下一個實驗的設計完全取決於前一個實驗的結果。如果上一輪訓練耗時數小時才能完成，系統必須等待這些小時；它無法超越時間，預先判斷結果。 這實際上為自動化可以做什麼和不能做什麼劃定了明確的界限。DiscoveryLoop 目前只專注於三個領域：機器學習研究、機器學習工程和晶片設計，因為它們的整個流程都可以在純數位世界中實現閉環，從而最容易獲得自動化的全部好處。一旦你進入材料學、化學或生物學等需要實驗的領域，細胞生長和化學反應就受客觀的自然法則支配，任何演算法都無法加速這些規律的演進。因此，自動化透過消除浪費的時間為工程帶來了好處，但它永遠無法超越物理和計算的硬性限制。 ### 創立 DiscoveryLoop 的初衷與團隊背景 此時，有些人可能會問：如果傑夫·迪恩本人戳破了人工智慧泡沫，他為什麼還要另起爐灶創辦 DiscoveryLoop 呢？ 他說，這個想法其實醞釀已久。四位創始人之一早在十年前就開始進行神經架構搜索，這是一個非常早期的自我改進系統。你只要告訴它尋找更好的模型架構，它就會自動搜尋。但那時候，你必須用大量的 Python 程式碼硬編碼搜尋空間，這非常繁瑣。 現在情況不同了；模型和代理的結合使您可以直接用自然語言描述目標。你告訴系統，“幫我找到適合解釋共振圖像的模型架構”，它就可以自行運行。這種互動方式的轉變讓傑夫·迪恩覺得時機成熟了。 2026 年 8 月，他正式從谷歌辭職，並與三位前同事共同創立了 DiscoveryLoop。他們四人在谷歌的任職時間加起來超過半個世紀。他們曾主導 Google 搜尋、Google 廣告、Gmail、TensorFlow、AlphaFold、AlphaChip 和 Gemini 等專案。他們甚至領導過人數最多時達 600 人的 Google Brain 團隊，以及人數最多時達 4400 人的整個 Google 研究和人工智慧部門。 公司成立後的第一個月，他們一直在大學大道上的威尼斯咖啡館附近忙碌地工作。短短三週內，他們就進行了 400 次訪談。真正令人印象深刻的是，該公司約有 10% 的員工是圖靈獎得主，另有 10% 的員工是國際資訊學奧林匹克競賽金牌得主。 在對話開始前的一次單獨演講中，迪恩提到他們已經建立了一個內部代理操作框架，目前大約有 20 個自動化改進循環正在運行。該公司的長期目標是將領域專家的生產力提高 20 到 50 倍。然而，他也指出，這個數字仍有待驗證。 ### 科學發現的雙軌路徑：實驗主義與理論主義 一旦自動化系統投入運行，它們是否會徹底顛覆幾個世紀以來的科學發現過程？擁有物理學背景的李菲菲提出了一個科學問題。 在科學史上，存在著兩條道路：一條是實驗主義道路，另一條是理論主義道路。偉大的理論突破從來不依賴大量的實驗，而是依賴對本質的深刻洞察和數學推演。如果未來的人工智慧研究完全依賴大規模的平行試誤法，科學是否會徹底轉向粗糙的實驗主義？ 傑夫迪恩對此其實相當樂觀。他認為，當實驗規模達到一定程度時，數量上的變化將引發理論上的質的飛躍。一個系統，如果已經對數百個領域進行了大規模測試，並掌握了跨學科的經驗數據和人類學者一生都無法看到的邊界條件，那麼它有可能反向推導能夠解釋一切的最小描述理論。這種跨學科的引入不僅可以推動理論創新，甚至可以打破定義人類大學的學術障礙。 當話題轉向數學的終極前沿時，李菲菲表達了她對此事的複雜感受。不久前，人工智慧利用大規模平行搜尋來解決與納維-斯托克斯方程式相關的證明問題；雖然這引起了轟動，但也讓許多頂尖數學家感到矛盾。 為什麼數學家不能為此感到高興呢？因為機器輸出的證明通常是數百頁的形式驗證代碼。雖然電腦可以嚴格證明這段程式碼絕對正確，但對於人類數學家來說，它讀起來就像胡言亂語——他們無法從中提煉出任何簡潔、優雅或深刻的數學思想。數學家畢生追求的不僅是證明真理或謬誤，而是在證明過程中發明新的數學工具，以闡明其他未知的問題。 他展現了非常強烈的工程實用主義精神。他說，雖然蠻力驗證法可能缺乏美感，但它卻取得了真正偉大的成就。它明確地告訴人類，這個問題在現有的邏輯框架內是有解決方案的。在漫長而孤獨的科學探索之旅中，確信某個問題是可以解決的，這本身就是一種巨大的鼓舞。一旦機器掃清了前進的道路，人類學者就會受到鼓舞，投身其中，沿著這個方向尋找人類理解的最清晰、最優雅的路徑。 機器負責進行蠻力探索，而人類則負責改進工具——這是未來科學研究最具吸引力的道路。 ### 十年技術反思與年輕一代的焦慮 李菲菲突然給傑夫·迪恩出了個難題。她問：「你還記得 2017 年 6 月 12 日的特殊意義嗎？」傑夫·迪恩脫口而出，那天是 Transformer 架構論文《你只需要注意力》提交的日子。這一日期標誌著生成式人工智慧時代的開端。 基於此，兩人討論了過去十年人工智慧技術的發展。Jeff 指出，Transformer 模型、知識蒸餾和混合專家架構確實是對現代模型影響最大的技術。然而，他也坦率地承認，他之前的兩個預測完全錯誤。 第一點與混合專家模型有關。他最初認為，MoE 的出現將推動神經網路架構朝著更複雜、更多樣化，甚至是生物啟發的方向發展。然而，現在回過頭來看，如今大多數 MoE 模型仍然使用相對規則的結構，具有統一的專家模組和有序的路由邏輯，缺乏他所預期的「狂野」特徵。 第二點是程式設計能力的重要性。他並沒有完全預見到，編碼將成為大型模型解決複雜問題的關鍵能力之一。在他們的專案中，他們確實關注了模型的編碼能力，但他們沒有意識到這將成為解鎖許多其他能力的關鍵。 這時，李菲菲將話題轉移到了每個人都可能關心的話題上。她指出，史丹佛大學的學生現在普遍感到焦慮，擔心人工智慧會搶走他們的工作，以及經濟前景的不確定性。於是她問傑夫，身為一位見證了人工智慧技術崛起的業界資深人士，他有沒有什麼話想對年輕人說？ 傑夫表示，他完全理解這種不安，因為世界變化太快，讓年輕人難以規劃一個充滿不確定性的未來。他的建議很簡單：主動學習新興技術，並學習如何將它們應用到你真正熱愛的領域。無論是成為醫生、從事文學創作，或是更有效率地編寫軟體，人工智慧都能提供協助。但人的角色依然存在；我們必須自己決定我們究竟想共同實現什麼目標。 李菲菲最後補充說：「在人工智慧時代，人類的熱情永存。」 ### 結語：在工程現實與人類價值之間 回到我們最初的話題，傑夫·迪恩並不懷疑人工智慧可以加快自身的研發速度，但他認為這種加速始終會受到現實世界的限制。 研究機構 Metaculus 最近發布的數據顯示，自 2025 年 10 月以來，OpenAI 內部模型研發的進展速度比以前快了約 1.9 倍。不過，他們也提到，這種提升主要來自於人工智慧幫助工程師編寫程式碼和處理測試。它目前仍只是人機協作效率的提升，還不是一個無需人工干預即可自主運作的系統。 在圍繞人工智慧發展的這場討論中，兩位領導人最終談論的是人類希望利用這些技術實現的目標。在物理學家和工程師眼中，無限加速的錯覺和奇點的炒作，遠不如凌晨 2 點才結束的實驗、需要耐心等待的訓練週期，或者可以由自然語言驅動的智能體框架那樣切實可感。 自動化或許可以消除等待，但無法消除時間。人工智慧或許可以幫助人類更快探索真理，但如何運用這些真理的判斷權仍然掌握在人類手中。 感謝觀看，我們將