緣起：所有 AI 模型其實都是同一個？
大家好，這裡是最佳射手，我是大飛。
你有沒有想過，你每天使用的 GPT 模型、開源模型，甚至是自動駕駛系統中的視覺大腦，它們的核心實際上是否都是相同的克隆體？
最近一則推文在科技圈瘋傳，聲稱研究人員已經證明地球上所有的人工智慧模型其實都是同一個模型。無論是寫詩、程式設計還是開車，當科學家剖析它們的數學本質時，他們發現了一些不可思議的事情：超過 1100 種完全不同的 AI 都趨向於同一個低維形狀。
有人驚嘆人類已經觸及了智慧的宇宙引力，有人驚嘆柏拉圖的世界真實存在，有人感到困惑不解。如果花費巨資訓練的數千個大型模型本質上只是同一結構的擴展，那麼全球數千億美元的運算投資究竟意味著什麼？
今天，我們將以這篇論文為線索，重建背後的學術背景。
通用權重空間假設 (UWS) 與奇異值分解
故事始於約翰霍普金斯大學。一個電腦科學團隊在 arXiv 上發表了一篇題為「通用權重空間假設」（簡稱 UWS）的論文。該團隊由電腦視覺領域的傳奇人物領銜，學者 Alan Yuille 和 Ramanathan 收集了 1200 多個完全訓練好的神經網絡，其中包括 500 個 M7B LLM、500 個 ViT、50 個 Llama 模型，以及 GPT-2 和經典卷積網絡 (CNN)。
這些模型的任務完全不同；例如，有人負責辨識腫瘤影像，有人負責解決 Python 問題，有人可能在教導小學生背誦詩歌。根據傳統觀點，每個大型模型都是一個擁有數十億個參數的高維龐然大物。你可以把它想像成一個有數十億個旋鈕的巨型控制台。考慮到不同的訓練資料、初始狀態和多樣化的任務，每個模型的旋鈕組合在邏輯上應該就像流星在高維度空間中漫無目的地飛行一樣。
但是，當團隊將這些參數矩陣堆疊並拉伸到奇異值分解 (SVD) 的數學工具箱中時，頻譜分析曲線立刻讓實驗室鴉雀無聲。即使任務截然不同，幾乎所有模型重量的變化都受到一種無形力量的控制，被不可能地擠壓到一個狹窄的結構中。
研究人員將這種現象命名為「通用子空間」，論文提供了一種稱為截斷零中心共享高階 SVD 的具體提取演算法。此方法包括將所有模型的權重張量堆疊起來，透過減去平均值來使中心化，然後對每個維度執行稀疏 SVD，僅保留滿足累積解釋變異數閾值的方向作為共享因子。每個模型最終都可以重建為均值加上其在該組因素上的投影；簡單來說，它將 500 個模型的重量差異分解為幾個主要方向，每個模型只需要儲存其沿這些軸的座標。
然而，該論文在其核心結論之前包含了一個關鍵的限定詞：「在共享架構內」。這意味著研究範圍被嚴格限定在特定系統內，而不是對所有模型進行隨機比較。
輿論炒作與一線工程師的冷思考
論文發表後，許多科技界的意見領袖開始大肆宣傳，很快就忽略了其中複雜的線性代數公式。剩下的就只有一項非常引人注目的數字：16 個維度。
一些知名部落客開始製作精美的資訊圖，並配上聳人聽聞、煽情的文案。有人聲稱，無論人工智慧是在高速公路上開車還是在深夜寫十四行詩，其核心參數結構只需要包含 16 個主要方向即可；另一些人則認為架構定義了宇宙，而訓練資料只是將模型推入這個引力井中。
一般讀者不禁會想：所有智慧模型的基礎真的只是常數 16 嗎？
在社群媒體上鋪天蓋地的驚嘆聲中，一線工程師們卻出奇地冷靜。工程師 Gursewak Dhatt 在一次討論中留下了一個生動的比喻：不同的人上班走的路線完全不同，但最終，他們都把車停在同一個狹窄的地下車庫裡。同一個車庫，不同的路線，絕對不代表他們開的是同一輛車。
破除神話的三個關鍵事實
拋開誇張的炒作，回到論文本身，「所有人工智慧都是一樣的」這種觀點實際上忽略了三個關鍵的前提條件。
第一個事實是，所謂的 16 維空間純粹是任意截斷點的結果。當研究人員將 500 個模型的權重矩陣合併成一個聯合矩陣時，他們觀察到了極其明顯的冪律衰減：前幾個方向很強，而隨後的方向迅速減弱。在某些特定的網絡層中，前 16 個主成分確實可以解釋很大一部分變異數。
然而，論文的技術附錄明確指出，在許多關鍵層（如深度注意力機制和全連接層）中，即使取 40 個維度，解釋的變異數也僅在 35% 到 50% 之間。剩餘的 50% 或更多則分散在數百個細小但至關重要的方向上。因此，僅僅因為前 16 個方向很重要，就斷言智能只需要 16 個維度，這是牽強的。這就像說因為人體 60% 是水，所以每個人本質上都只是一灘自來水一樣荒謬。
那些只佔方差 1% 的極其微不足道的權重波動，可能正是分水嶺，使模型能夠準確識別毒蘑菇或正確編寫最後一行關鍵程式碼。
第二個事實：這 500 個模型皆源自於同一來源。一組基本權重——本文研究的 500 個 LLM 模型均為 LoRA 模型。LoRA 技術本身涉及在原始大型模型的權重旁邊注入兩個非常平坦、低秩的矩陣。根據數學定義，模型的更新從一開始就嚴格限制在極少數維度上，通常 R 設定為 8 或 16。這 500 個模型都是在同一個開源基礎模型 LLaMA-7B 上進行微調的。換句話說，這些模型並非獨立產生，而是基於一組預訓練權重進行的局部調整；它們的參數更新集中在原點附近的局部切空間內。但這並不意味著從頭開始訓練的全新模型也會落入同一個子空間。
第三個事實：架構各不相同，子空間是獨立的。作者在正文和後續討論中明確強調了一個前提條件：架構依賴性。ViT 等視覺模型找到的子空間與 LLaMA 等語言模型找到的子空間在幾何座標系中沒有對應關係。不僅是跨模型通訊出現問題；即使在同一模型中，第一層的子空間和第二十層的子空間也是完全不同的世界。
是的，所謂的「統一」立刻被限制在極度狹窄的範圍內。在相同的架構和相同的預訓練參數下進行細微調整時，人工智慧確實傾向於只在幾個固定的房間內重新擺放椅子。
跨模態實驗與適用性評分
至此，關於人工智慧普遍相似性的過度神話在技術事實面前已經崩潰。
然而，儘管這些 LoRA 模型有著共同的起源，但論文的實驗並沒有就此止步。該團隊還從 Hugging Face 中提取了約 500 個預訓練模型。這些模型涵蓋了醫學成像、衛星遙感和合成資料等各個領域，使用了不同的損失函數、最佳化器和初始化方法。團隊明確表示，沒有進行任何過濾操作。
此外，還有 177 個 GPT-2 模型、50 個 LLaMA-3-8B 模型、T5 系列，甚至還有 20 個 StyleGAN2 產生的模型和 20 個 3D 幾何分佈模型。從辨別式到生成式，從視覺到語言和 3D，共同子空間的現像在不同的模態和目標中不斷湧現。
該論文還引入了一種與數據無關的評估指標，該指標使用層次排序指數來確定一組模型是否適合公共子空間近似，從而綜合出一個適用性評分。StyleGAN2 模型批次的分數僅為 0.0572，這相當低。然而，在使用共享基進行重建後，影像品質仍然相當，這表明雖然「所有人工智慧都一樣」的說法是誇大其詞的謠言，但模型權重收斂到共享的低維空間的趨勢是一個值得認真考慮的現象。
內在維度與損失曲面的數學根源
因此問題就出現了：為什麼數百個不相關的任務，經過微調後，都堅持擠進同一組很小的方向？
答案其實早在多年前優化理論中就已有所預示；早在 2021 年，Aghajanyan 等人（Meta AI）發表了一篇經典論文，解釋了透過內在維度進行語言模型微調的有效性。他們進行了一項看似不可思議的實驗：使用一個具有 3.5 億個參數的句子分類語言模型，他們故意凍結了所有 3.5 億個參數，並在外部附加了一個高度隨機的投影矩陣。這一結果震驚了整個學術界——透過在僅 d = 200 維的微小隨機空間中進行最佳化，他們能夠恢復超過 90% 的全參數微調的最佳性能。
更令人驚訝的是接下來的定理：模型的預訓練規模越大，它看到的未標記資料越多，微調所需的內在維度就越小。
為什麼會發生這種情況？答案在於神經網路損失曲面的二階導數，特別是 Hessian 矩陣。在深度學習的損失空間中，過度參數化的模型表現出極度帶狀的特徵值分佈，這意味著超過 99% 的方向是廣闊的、平坦的平面，曲率幾乎為零。在這些方向上，無論你如何調整參數，模型的損失值幾乎完全保持不變。只有十幾個孤立的、尖銳的突出山峰形成了陡峭的刀刃狀峽谷；即使這些參數發生微小的變化，也會導致模型性能急劇下降。
真相大白了：M7B 的 500 個微調適配器從一開始就錨定在同一個預訓練參數原點上；他們腳下的地形圖完全相同。無論微調的目標是編碼還是翻譯，反向傳播演算法計算出的梯度更新在數學上都受到骨幹架構已經決定的陡峭低維路徑的約束；在二階曲率約束下，矩陣優化中的這種數學收斂規律是超大規模矩陣的幾何必然性。
本文也提供了理論支持；定理 3.7 證明，從有限數量的任務中學習到的共享子空間收斂於真實的群體子空間。每個任務的估計誤差以 T 的負一次方的速度衰減，而 Wedin 擾動定理進一步控制算子誤差向子空間誤差的傳播——特徵值間隙越大，子空間恢復效果越好。該論文還引入了投影風險的概念，證明學習到的子空間在表示新任務時近似最優，剩餘的誤差僅來自不可避免的採樣。當然，論文坦誠地承認這只是一個有條件的動機，而不是普遍性的嚴格證明。
極端壓力測試：陰影假設與退化現象
既然收斂性有數學根源，如果我們將其推向極端會發生什麼事？
研究員史蒂文湯普森決定在他自己的開源專案「op」中對這一假設進行極端壓力測試。他收集了一批經過程式碼訓練的 LoRA 轉接器，提取了全球共享的基礎，然後進行了一項極其殘酷的實驗。他強行將原本編碼能力很強的滿秩適配器投射到提取出的低維基上，切斷了所有不屬於該基底的參數。
結果是所有幾何測量儀器都閃爍紅色，相對 L2 誤差高達 98% 至 99%。這個重量矩陣已經完全扭曲變形，與原先的高精度模型相比幾乎面目全非，就像把一輛精密的布加迪 Chiron 用液壓機強行壓成一個生鏽、破損的鐵盤一樣。
根據傳統的工程直覺，這個模型到這個時候應該已經完全胡說八道了。但當他將這個幾乎崩潰的模型連接到程式碼評估基準 HumanEval 進行效能測試時，奇蹟發生了：分數幾乎保留了所有原始值，並且它編寫的程式碼在邏輯上仍然清晰且功能齊全。
對照實驗的結果更令人毛骨悚然：如果使用完全隨機生成的基底進行投影，模型的性能會立即降至零；只有使用這組提取出來的奇異方向，即使參數被徹底打亂，功能也能像山一樣穩定。
這就是湯普森稱之為「陰影假設」的怪異現實，即高維權重空間中參數的精度與大型模型的宏觀智慧輸出之間存在嚴重的結構性脫鉤。在傳統機械中，如果齒輪錯位 1%，機器就會散架。然而，在人工神經網路中，即使破壞 99% 的參數，只要保留那少數核心動態，路徑和功能也能完全不受影響。研究人員將這種現象稱為「退化」，即模型的參數結構與其實際功能之間存在難以想像的高水平冗餘和脫鉤。
論文本身的實驗數據也證實了這一發現：將 500 個微調模型投影到 16 維通用子空間後，它們在已知任務上保持了 94.1% 的準確率，而原始全參數訓練的準確率為 94.4%。對於未見過的任務，它的準確率保持在 90.7%，而原版為 91.3%。對於九個獨立訓練的 RN50 模型，儘管相容性得分僅為 0.0183，但它們在分佈外任務上仍然保持了 77.91% 的準確率，而原始模型的準確率為 81%。
即使是 20 個 StyleGAN2 產生的模型和 20 個 3D 幾何分佈模型，在使用共享基底重建時，也能保持可比較的影像品質和幾何形狀。研究人員還將通用子空間方法應用於 DiffusorXL 的文本到圖像任務，其中某些風格的 CLIP 評估分數甚至超過了原始版本，這可能是因為投影過程的作用類似於去噪。
工程前景：大模型產業的 MP3 時刻
這些發現引出了一個非常實際的問題：如果同一架構下的多任務更新本質上只是調整這組共享子空間內的參數，那麼整個模型的儲存、傳輸和計算邏輯將被重寫。
有人稱之為大型模型產業的「MP3時刻」。二十年前，音樂檔案通常有幾十兆位元組。MP3 編碼技術精確地識別了人類聽覺的極限，大幅減少了冗餘數據，將音樂檔案壓縮到只有幾兆位元組，開啟了數位音樂時代。如今的大型模型就像過去臃腫、原始的 WAV 音訊檔案一樣。
過去，如果一家公司為客戶定制 500 個行業特定的精細化模型，伺服器僅加載這些權重就會消耗數十萬美元的顯存。未來，伺服器可能只需要託管一個基礎模型，以及一組通用的底層方向基，而每個新任務只需要數千個輕量級係數標量。模型權重可以從之前的幾 GB 壓縮到僅僅幾百 KB。
論文以一個通用子空間模型取代了 500 個精細調整的模型，將記憶體使用量壓縮了 100 倍。這是目前已知第一個能夠將 500 多個位置合併成一個子空間模型的作品。至於 LoRa，它可將記憶體效率提高 19 倍，只需凍結共享的鹼基即可學習新任務。與全面訓練所需的 8,600 萬個參數相比，一般子空間方法只需要一個參數。
本文也將這種通用子空間融合方法與六種主流的無梯度模型融合技術進行了比較，包括 RMtask、AristaticTD 等。通用子空間方法無需任何迭代調整或驗證資料即可獲得更高的平均精度。過去，直接融合多個模型常常面臨特徵衝突和效能下降的問題；透過在統一的子空間座標系中進行操作，多任務融合從黑箱參數平均轉變為更可追蹤的向量投影。
潛在風險：單一栽培危機與安全隱憂
然而，除了其工程前景之外，這種機制也暴露出系統性的安全風險。
如果一個由反向傳播驅動的大型模型族不可避免地滑入同一個低維盆地，那麼它們不僅繼承了相似的參數結構，而且還繼承了相同的盲點、偏差和脆弱性。
在農業領域，這被稱為單一栽培危機，這意味著如果世界各地的田地只種植一種水稻基因品種，那麼一種特定的病毒就可能導致全球糧食系統在一夜之間崩潰。在人工智慧領域，如果無論我們如何改變訓練資料或微調提示，所有模型都被 Transformer 架構牢牢鎖定在同一個低維盆地中，那麼大量看似獨立訓練的數位系統可能在底部存在重疊的結構盲點。
同樣的敵對擾動可能會突破多道防線，特定的邏輯缺陷可能會在廣泛的部署中產生影響。表面上看起來截然不同的模型，其深層結構可能並沒有遵循預期的不同路徑。
結語
回到這篇論文，無論「所有人工智慧都是同一個模型」的說法看起來多麼誇張，它都揭示了一個值得認真對待的事實：我們花費數千億美元訓練的各種強大模型，實際上在數學上比它們表面上看起來更接近。
這種近距離既是效率的來源，也是風險的來源。當所有模特兒都擠在同一個房間裡時，多樣性本身就變成了一種安全紅利。智慧的演化必然受制於這種趨同秩序，還是說現有的模型仍被困在當前主流架構的固有軌跡中？
當熱門話題的喧囂漸漸消退，本文留給研究界的最深刻的問題就此落下帷幕：這種感覺…