--- author: Best Partners TV date: '2026-11-04' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=kE8x3IUywNo speaker: Best Partners TV tags: - artificial-general-intelligence - career-planning - academic-research - scientific-computing - exponential-growth title: 給年輕研究人員的建議：AGI時代的科研、工具與職業選擇 summary: 演講者介紹擴散模型早期研究者雅沙·索爾-迪克斯坦在史丹佛大學的演講內容。演講指出當前算力與AI能力呈指數成長，呼籲研究人員若相信AGI即將到來，應使自身職業規劃與信念保持一致，善用AI工具、將寫作視為思考，並投身科學AI、模型可解釋性、AI安全及政策治理等具長遠價值之領域。 insight: '' draft: true series: '' category: career-development area: work-career project: [] people: - Jascha Sohl-Dickstein - Santiago Ramón y Cajal - Paul Erdős - Rishi Sunak - Barack Obama - Eric Schmidt - Richard Sutton companies_orgs: - Best Partners - Stanford University - Harvard University - METR - Google - Anthropic products_models: - Claude - BigBench media_books: - The Bitter Lesson status: evergreen --- 大家好，這裡是 Best Partners，我是大飛。 想像這樣的場景：一位能力很強的研究生與你交談，聲稱他相信通用人工智慧（AGI）可能在三年內實現。然而，幾分鐘後，他們就開始認真規劃自己的未來：幾年後完成博士學位，然後當博士後，然後申請大學教職。你有沒有覺得哪裡不對勁？ 人類學家雅沙·索爾-迪克斯坦認為，這裡有明顯的矛盾。如果你真心相信一項改變世界的科技即將問世，那麼你的其他判斷也應該與這種信念一致。 2024 年 6 月，在史丹佛大學舉行的一次物理學會議上，他發表了題為「給人類早期/晚期年輕研究人員的建議」的演講，這個標題引用了諾貝爾獎獲得者、現代神經科學創始人之一聖地亞哥·拉蒙·卡哈爾的作品。索爾-迪克斯坦是擴散模型的早期研究者之一。最近，這段演講再次被翻了出來，在社群平台 X 上引起了廣泛關注和討論。 他在演講開頭就表明了自己的演講目的：讓大家相信，未來可能與現在截然不同。人工智慧正在改變世界，而且這很可能不是微小的改變。如果你相信這一點，那麼你應該根據人工智慧將如何改變世界來決定你的職業選擇、研究項目，甚至你的人生規劃。他想強調一點：在場的每個人都對未來的方向有著巨大的影響。這或許會讓人感覺像是一場難以承受、無法控制的事件，但他表示這個想法完全錯誤。在今天的影片中，我們將全面剖析這位站在人工智慧研究前沿的人物究竟給年輕研究人員提供了哪些建議，以及他做出這些判斷的依據是什麼。 ### 指數成長與「人類世」的終結 他首先展示了全球 GDP 成長曲線。我們習慣將未來理解為現在的線性延伸。站在這條曲線上，我們感覺自己生活在一個相當正常的世界裡，有些事情會改變，但總體而言，它保持不變。但如果你用對數尺度觀察長期 GDP 變化，你會發現指數成長其實已經持續很久了。值得一提的是，人類直到 1950 年左右才穩定在目前的成長速度，而我們正在經歷的過程仍處於早期階段。 此時，他引入了一個地質學概念。地質年代是根據岩層中可觀察到的生物、氣候和地質過程的重大變化，以漫長的時間劃分的。人類已經開始對地球產生地質尺度的影響。我們目前正在造成地球史上第六次物種大滅絕，核子試驗產生的放射性物質正進入地層。即使數十億年後，這些痕跡依然能夠證明人類曾經存在過。因此，一些科學界人士提議將人類對地球環境產生深遠影響的這段時期稱為「人類世」。這個命名的有趣之處在於，隨著人工智慧能力的不斷提高，人類可能很快就不再是唯一能夠大規模改變世界的智慧力量。這個時代何時結束，很大程度上取決於人工智慧的發展情況，這也是為什麼他說人類時代可能會成為一個非常非常短暫的地質時代。 ### 算力擴展與任務解決能力 接下來是一組更難的數據：過去十年中，用於訓練最大規模人工智慧模型的運算能力增加了約 1,000 萬倍。在這張計算圖中，它標示了一個粗略的參考範圍，即人腦一生中執行的計算量。估算方法很簡單：假設每個突觸每毫秒執行一次浮點運算，那麼人腦的生命週期計算量約為一兆千萬億次浮點運算。根據這個指標，人腦一生的計算量僅比目前最大的模型略高一點，這意味著模型訓練的規模已經開始接近人類一生的計算規模。他本人強調，這種比較既不是充分條件，也不是必要條件，但至少讓這種比較更具體。 能力方面的提升同樣令人印象深刻。研究機構 METR 最近進行了一項研究，檢視了 AI 模型能夠以 50% 的成功率獨立完成的軟體任務的時間跨度。請注意，這段時間不是人工智慧完成任務所需的時間，而是人類完成相同任務所需的時間。結果顯示，該指標呈指數級增長。不到一年前，他第一次做這個演講時，還告訴聽眾，預計到 2026 年或 2027 年，模型將能夠獨立完成一整天的軟體工作。而現在，模型能夠處理的任務時間跨度已經增加了約 10 倍，直接超過了這個預測點。如果你要求更高的成功率，例如 80% 或 90%，曲線的斜率保持不變；這只是把時間線往前推了一兩年。 有人可能會說，人工智慧只能解決訓練資料中出現過的問題。他的回答很直接：如果你給模型一個稍長的句子，那麼這個句子本身就已經超出了訓練資料的範圍。該模型所做的一切實際上都是「繪畫」。在他看來，「學習」是一個階梯，從替換句子中的一個詞，到將加法演算法應用於不同的數字，再到將微積分應用於不同的問題。沒有證據顯示這個階梯在某個地方存在著智力上的「差距」——差距之下很容易，差距之上就不可能。 更為有力的證據是，人工智慧已經開始解決人類遺留下來的未解難題。保羅·埃爾德什是歷史上著作頗豐的數學家；他去世後，留下了大量未解決的猜想和問題，這些問題後來被形式化，真正的數學家們一直在努力攻克它們。在過去的七個月左右的時間裡，人工智慧模型也開始解決其中的一些問題，推動了數學研究的已知邊界向前發展。他選擇埃爾德什的問題作為例子還有另一個原因：這些問題已經被人類公認為是「好的」，因此沒有必要爭論這些標準本身。這些發展表明，人工智慧的能力不僅在於提高現有任務的效率，還在於進入以前需要人類研究人員探索和突破的領域。 ### AGI 的時間表與技術障礙 那麼，通用人工智慧究竟何時才能到來？一年前，當他在哈佛大學發表這篇演講的早期版本時，有些人認為討論通用人工智慧即將到來過於激進，但現在這是一個可以公開、嚴肅地討論的話題。英國前首相里希·蘇納克強調，人工智慧競爭具有根本性的地緣政治意義；美國前總統歐巴馬指出，人工智慧的影響將超過智慧型手機，而且到來得更快。谷歌前執行長埃里克·施密特預測，人工智慧將在幾年內達到甚至超越頂尖人類智慧水準。雖然程式設計工作還沒有完全被取代，但人工智慧已經接手了他們的許多任務，工作的性質也隨之改變。 Dijkstra 提到，如果你身處舊金山的人工智慧產業，問人們通用人工智慧（AGI）何時到來，大多數人會回答「幾年之內」。即使有人提出更長的期限，如果你追問，你會發現他們所說的「長期」實際上只有大約 10 年。這種氛圍與其他科學領域截然不同。他舉了一個自己的例子：他的妻子在生技產業工作。如果你和生物技術領域的人談論癌症何時才能被治癒，他們會花很長時間解釋這有多麼困難，以及為什麼需要很長時間。但人工智慧研究人員的反應卻截然不同；他們通常認為，目前模型與超級智慧之間沒有明顯的技術障礙。 通常情況下，最了解一項技術的人最能預見未來的障礙，然而這一次，他們卻看不到任何障礙。他說，認識到這一點很重要，他自己的經驗就說明了這一點。過去，每當提出一個新的 AI 基準，AI 可能需要十年甚至二十年的時間才能達到人類水準的表現。如今，新的基準可能在幾個月或幾年內就被超越。幾年前，他參與創建了 BigBench 基準測試；在論文正式發表之前，一些研究已經在某些任務上取得了新的最先進成果。 因此他的建議是：如果你認為人工智慧在某個關鍵能力上不會繼續進步，不要只停留在「人工智慧還不夠聰明」這樣模糊的判斷上。相反，應該將這種判斷轉化為可量化的指標，並建立基準來持續追蹤它。即使你不公開這個數字，也要私下關注它，看看它隨著時間的推移會發生怎樣的變化。如果你的測量結果確實顯示沒有進展，他會更傾向於相信你的判斷。 當然，他也承認，在通往通用人工智慧的道路上，目前的方法顯然仍然非常低效。人腦在數據利用方面可能比現有方法效率高出幾個數量級，但效率低並不意味著它就不能工作。令他反覆感到驚訝的是，即使將一些相當簡單的方法放大一個數量級，它們仍然能帶來顯著的改善。因此，他目前看不到任何明顯的、難以克服的障礙會阻止這條道路向前發展。 ### 研究選題與「慘痛的教訓」 如果你認真對待這些時間表，首先要考慮的問題是：你正在進行的研究在完成後是否仍然有價值？要注意的是：你花了兩年時間取得了一些看起來不錯的進展，但當你完成的時候，有人只需給最新的模型一個提示就能獲得比你更好的結果。因此，他建議選擇有針對性的研究項目，與他人合作盡快推進這些項目，並確保你的研究速度能夠跟上人工智慧能力的成長。 在這裡，他引用了理查德·薩頓（Richard Sutton）於 2019 年發表的《慘痛的教訓》：從長遠來看，能夠充分利用計算資源的通用方法通常比依賴人類設計的特定方法更有效。這堂課包含兩方面內容。一方面，如果你的研究能夠隨著運算能力和智慧水準的提高而不斷改進，甚至反過來推動人工智慧能力的發展，那麼它的價值可能會遠遠超出預期。另一方面，如果一個問題注定要透過擴大模型規模來直接解決，那麼你必須認真考慮，當你完成這項工作後，它是否仍然具有獨立的價值。 在實驗科學中，變化發生得比較慢，但慢的程度只是稍微慢一些。他認為機器人最終會進入實驗室承擔實際工作。具體的時間表很難預測，但他表示，如果未來 10 到 15 年內我們仍然沒有能夠取代人類進行物理實驗的機器人，他會感到驚訝。此外，理論長期以來無法有效預測實驗結果，這本身就顯示理論研究仍有改進的空間。如果人工智慧能夠提高理論的預測能力，我們將有機會減少所需的實驗次數。當然，效果取決於具體應用以及工具是否足夠用戶友好。如果使用人工智慧的互動成本超過了它帶來的效益，那麼它就很難發揮有效作用。 ### 日常科研工作流與寫作原則 既然我們已經談了這麼多關於宏觀判斷的內容，那麼讓我們來看看他每天是如何運作的。 他每天都用克勞德。對他來說，這就像和一個執行力強、積極性高的研究生一起工作，只不過這個學生的研究直覺和判斷力目前明顯不足，所以他仍然覺得自己可以發揮作用。一年前，他還需要檢查模型運行的每個細節，但現在他只需要向模型提出一個高層次的問題，讓 Claude 產生圖表，然後根據結果決定下一步該怎麼做。他認為這種工作方式將會繼續改變，一年後的模式只會更強大。他基本上不再自己寫程式碼，也很少閱讀程式碼，但他仍然每天使用程式碼來完成研究任務。 他建議大家盡可能使用現有的人工智慧工具，例如，進行腦力激盪、完善研究想法、分析數據、產生視覺化圖表以及檢查論文和研究中的漏洞。出於對某個問題的好奇，他經常讓 AI 建立客製化的儀表板並產生圖表供他分析。這項工作過去可能需要花費更多時間，但現在變得容易多了。 那麼，研究生還需要學習程式設計嗎？他的回答是，理解程式碼的運作機制仍然很重要。這意味著你需要一些編寫程式碼的實際經驗，但可能比你想像的要少得多。這有點像是從 C 語言程式設計到 Python 程式設計；使用更高階的工具意味著你不再需要了解電腦內部的每個細節，從而可以將精力集中在更高層次的問題上。關鍵在於你必須能夠質疑模型的結果。模型產生圖表後，你需要檢查圖表是否一致，結論是否合理，而不是直接接受其解釋。特別提醒研究生：不要因為報酬不高就低估自己的時間價值；你的時間非常寶貴。選擇工具的目的是為了將時間投入更有價值的事情上，而不是為了證明你能獨立完成每個技術步驟。 然後是整場演講中流傳最廣的一句話：他鼓勵大家使用人工智慧來獲得寫作回饋，但不要讓人工智慧來撰寫你的初稿。原因很簡單：寫作就是思考。如果你把寫作工作外包出去，其實就是把思考工作外包出去了。你需要自己組織語言，弄清楚你真正想表達什麼，你的論點是否站得住腳，以及你還沒有完全考慮到哪些問題。它可以幫助你發現漏洞、提出異議並檢查你的論點，這很有價值。但如果你讓它直接產生草稿，你可能會在真正理解自己的研究之前就得到一篇看似完整的文章。後來，一位觀眾質疑了這一點：既然人工智慧已經非常擅長起草，為什麼不讓它來撰寫草稿呢？他的回答是，這個建議是為了你好，並不是因為人工智慧做不到；這兩件事不應該混淆。 ### 指數初期的人生與職業規劃 現在，我們可以回到故事的開頭了；這次談話的直接導火線是他與那位研究生的對話。他不知道 10 年或 20 年後學術研究會是什麼樣子，也不知道大多數工作會是什麼樣子，但他非常肯定它們會與今天大不相同。 迪克斯特拉指出，人們通常會權衡風險和回報，即使另一條路可能帶來更高的回報，也會選擇相對安全的道路。但如果人工智慧真的有可能引發大規模的社會變革，那麼你已經面臨很高的系統性風險。傳統的安全選擇未必能降低這種風險，反而可能導致你放棄更大的潛在回報。所以他的建議是去做有趣的事情，而不是盲目地追求看起來很安全的選擇。如果你的時間有限，而未來的影響又如此巨大，你應該選擇那些能讓你感到自豪的事情。多年後回顧自己的職涯時，你會希望知道自己為一項重要的成果做出了貢獻。這也意味著我們應該專注於能夠對 AGI 的發展產生正面影響的研究，而不是僅僅追求短期結果。 有些人可能認為人工智慧的發展已經超出了個人的影響範圍，但他認為這種想法是錯誤的。依照目前的趨勢，到 2030 年，運算能力可能達到 2025 年的 10,000 倍。到那時，今天的計算規模在線性圖上幾乎與零無法區分。換句話說，我們仍處於指數成長的早期階段，在這個階段，小小的決定可能會產生非常大的長期影響。 類似的例子還有很多，例如電子郵件協議的標準化，使得不同的系統能夠交換資訊；還有哈伯-博世法，使得大規模合成氨成為可能，深刻地改變了農業和食品生產。此外，美國早期建立的醫療和法律組織也對這兩個行業的制度結構產生了長期影響。這些事態發展並非不可避免；早期的技術選擇和制度安排最終塑造了當今世界。人工智慧也是如此：你選擇研究的問題、你的工作地點、你如何評估某些能力和風險，以及你是否公開你的道德立場，所有這些都會影響科技的未來發展方向。 他對未來的設想分為兩個階段。在某個階段，人類將能夠管理和協調人工智慧代理團隊，完成過去一個人整個職業生涯都無法完成的工作。你可能只需要一週時間就能完成以前需要數年探索才能完成的任務。他認為那將是一個令人驚嘆的時期，但隨後可能會出現另一個階段，人工智慧將在越來越多的認知任務中超越人類，而人類將無法再透過自身的智慧為人工智慧提供同等水平的附加價值。所以我們應該充分利用眼前的機會，盡可能掌握這些工具，並用它們去做更有價值的事。 ### 值得投入的研究方向與結語 最後，他提出了幾個值得投資的研究方向。他強調，這份清單遠非完整，真正有影響力的研究可能是目前無人想到的。 首先是人工智慧在科學領域的應用，這意味著利用人工智慧來推進科學研究，包括材料發現、蛋白質結構研究、天氣建模和聚變反應器等領域。更了解自然界通常會帶來明顯的價值，而人工智慧有機會提高我們探索這些問題的效率。 第二種方法是直接研究人工智慧模型本身。我們可以借鑑其他學科的方法來研究人工智慧。例如，可解釋性研究可以看作是對人工智慧模型進行神經科學研究；我們也可以利用統計物理學、心理學和經濟學的方法來理解模型內部的行為和機制。 第三點是人工智慧安全。該領域仍有許多尚未明確界定的重要問題；這項研究的重要性與目前投入的研究資源不成正比，那些能夠從一開始就參與其中的人仍然有機會發現關鍵問題。 除此之外，還有人工智慧能力預測、技術公平性和資源獲取，以及政策和治理等方向。如果你有相關的技術背景，並且願意參與公共事務，你可以考慮進入政治和治理領域。各國政府其實非常需要真正了解科技的人才來幫助他們制定人工智慧監管和發展政策。頂尖人才總是流向薪資較高、政治因素較少的地方，這對學術研究人員來說是一個比較優勢；政府對你的信任方式與對實驗性產業從業者的信任方式不同。你的聲音可以以他人無法做到的方式影響事物。他也坦率地承認，這個方向可能會充滿爭議和壓力，但如果你能在批評聲中依然做出務實的決定，你對世界產生的正面影響將是驚人的。 最重要的部分是最終結論：結合自己的專業知識，思考哪些能力可以轉向研究人工智慧本身，或是幫助社會更好地應對人工智慧帶來的改變。 聽完整篇演講後，最讓我印象深刻的不是他所做的任何具體預測，而是他所要求的始終如一的態度；簡而言之，就是行動與信念的一致性。如果你相信改變即將到來，那就做好改變已經到來的準備。如果你不相信，那就把你的懷疑轉化為可衡量的指標，而不是用一句含糊的「現在下結論還為時過早」來否定它。實際上，這兩種態度都比單純的樂觀或悲觀更有建設性。 謝謝。