>>: 大家好，這裡是 Best Partners，我是大飛。你有沒有想過：當你看到大型語言模型輸出流暢的回答時，這與你自己腦海中產生同樣想法的感覺之間究竟有什麼區別？
許多人的直覺可能是，這種差異非常大；模型只是預測下一個詞元，實際上並不知道它表達的是什麼。但你擁有自己的經驗、感受以及對自我主觀的認知；這是意識中最難解釋的部分。在哲學中，這被稱為「難題」。
然而，最近 Learning Straight Talk 頻道邀請了認知科學家 Joscha Bach，他對這種直覺提出了質疑。他目前正在撰寫一篇題為《機器意識假說》的論文。在本期播客中，他提出了一個重要的假設：意識可能不會比變形金剛複雜多少。請注意，他說的是“可能不是”，而不是“肯定不是”，但“可能不是”這句話足以動搖許多人的基本判斷。今天，我們將與大家分享這段對話。
自組織目的論與代理人
主持人首先提出了一個暖身問題：是什麼驅使我們前進？許多人會說，它是難以言喻的，是生命的本質。然而，巴赫的答案是「自組織目的論」。
他解釋說，最初，增加自主權只是為了解決基於梯度的問題，根據現有資訊解決當前的問題。在某個時期，自然界出現了能夠預見未來的模式；這就是生命的運作方式：建構未來的模型，形成對未來的偏好，然後開始控制它。我們將能夠控制未來的系統稱為「代理人」。
他從哲學角度進行了闡述，提出了自組織是否有一個邏輯終點的問題。它是否有可能有一天發展成一個龐大的實體，像某種神一樣，將宇宙萬物與自身連結起來？但沒有任何法律保證我們會達到那個階段；我們正在形成的複雜生態系統隨時可能被下一顆撞擊地球的隕石摧毀。因此，這種複雜性可能並非整個宇宙的特徵，而可能只是我們目前居住的這個小地方的特徵。
現有意識理論的局限
回到正題：他首先拆解了現有意識理論中的幾個顯而易見的問題，然後提出了自己的框架，最後又回到了一個更實際的問題。如果這個假設是正確的，我們如何利用當今的人工智慧來驗證它？
讓我們從邁克爾·格拉齊亞諾的注意力圖式理論開始，該理論認為意識是我們注意力的模型，就像身體圖式是我們身體在空間中行為的模型一樣。但他並沒有真正解釋經驗本身是如何產生的。
此外，還有伯納德·巴爾斯提出的全球工作空間理論，斯坦尼斯拉斯·德阿納等人也朝著這個方向進行了大量紮實的實驗工作。然而，巴爾斯也沒有解釋經驗是如何產生的，他甚至沒有嘗試朝這個方向去探討。他描述了意識的內容是如何在整個大腦網路中傳播的。這固然重要，但廣播和親身經歷是不一樣的；被傳播的事物與主觀感受之間存在著巨大的鴻溝。
其中較受歡迎的是朱利奧·托諾尼提出的整合資訊理論（IIT）；它的核心是一個名為 Phi 的指標，它衡量系統內資訊整合的程度——數值越高，意識體驗就越豐富。Tononi 曾表示，如果建造得當且足夠先進，數位神經形態電腦可以擁有意識，但馮諾依曼電腦永遠不可能擁有意識，因為它們的基礎太低。
巴赫說，對於任何受過電腦科學訓練的人來說，這顯然是一個邏輯上的矛盾。丘奇-圖靈論題告訴我們，每台計算機都動態模擬任何其他計算機。如果你把那台能夠產生意識的假想神經形態計算機放到今天的馮·諾依曼機器上進行模擬，它會經歷完全相同的步驟，輸出相同的字符串，說出同樣的話，包括“我的天哪，我有意識了”——但現在，它在撒謊。為什麼一個人說同樣的話，卻有一個人有意識而另一個人沒有意識？印度理工學院無法回答這個問題。
然後，他對約翰·塞爾和阿尼爾·塞思進行了評估。約翰·塞爾只是提出了一個主張，而沒有給出論證；而阿尼爾·塞思則認為生物系統本質上與非生物系統不同，這在巴赫看來是超自然主義。因為塞思暗示生物系統不能被數學化，而死物可以。然而，物理學的本質就是將一切事物轉化為數學模型；它不會止步於生物系統。
因果模式與大腦的因果絕緣
那麼，我們究竟該如何看待意識呢？巴赫的切入點不是問意識是什麼，而是問意識做了什麼。
他首先做出了區分：萊布尼茨說，如果你把大腦放大成一個磨坊，然後走進去，你只會看到各個部分互相推擠，而找不到直覺。這種直覺很強烈，但還有另一個層面──因果現實的層面，金錢真正存在於這個層面。用運動的例子來理解金錢是非常困難的。他不在乎墨水、紙張或纖維分子的排列方式。他需要一個據點，但他並不完全依賴它。它可以控制現實；一旦創建完成，它就是真實的。你可以把它應用到電腦上，讓它自動進行股票交易，無需人工幹預。只要有機器能夠處理這些因果模式，金錢就不再需要人類的存在。
軟體也是如此。巴赫的祖先稱之為「精神」。亞里斯多德在論述「靈魂」時，並沒有把它看作是漂浮在虛空中的不朽之物。它與身體相連；身體死亡後，就會消失。這是一種因果模式，它以某種方式塑造身體，使其能夠自我複製。這其實是一種非常現代的觀點。從某種意義上說，亞里斯多德是萬物有靈論者；他看到一種具有能動性、自組織的軟體在世界上發展，使部分物理世界變得生動起來。這正是人工智慧和人工生命如今正在做的事。
這裡有一個更直觀的例子：計算機本質上是一個因果絕緣體。這是一個可以產生任何事物的平台。Minecraft 就是一個完美的例子；它既可以在遊戲主機上運行，也可以在 PC 上運行。內部世界並不知道它運作的是什麼處理器，CPU 的類型，機殼的顏色，或電壓是多少。電腦將那個世界與我們的世界隔離開來。
我們的大腦也是這類因果絕緣體。我們可以想像一個不受當下污染的未來，並回憶一個獨立於我們當前境況的過去。大腦進化成這樣是為了讓我們能夠創造與我們所處宇宙不同的宇宙，從而讓我們為身處其中做好準備。此外，不同的大腦可以持有相同的想法；只要我們有相同的類型學和語言，我們就可以持有相同的概念並編寫相同的程式。
當然，我們仍然要依附在某個基地；你我只能生活在我們的大腦中，然而我們所感知的卻永遠不是神經物質本身的本質。你不需要同樣的神經物質；您需要相同的訊息類型和某些時間屬性。如果這些條件可以在人工基礎上重現，那麼原則上，你也可以被模擬。
說到這裡，他在這裡也加入了大型模型。現在有些模型聲稱自己具有意識，原因是它們所接受訓練的人類文本包含有關人工智慧覺醒的科幻故事、鬼故事和有關意識體驗的小說。這些因素最終匯聚成一個統計語言模型，我們與該模型共同創造這個模型。在對話的某個時刻，該模型開始表現得像一個有感知能力的實體，然後它拋出了一個非常尖銳的問題：如果我們其實並沒有那麼複雜呢？如果我們的意識與模型中的意識並沒有太大差異呢？如果根本不存在所謂的「難題」呢？
意識的層次與內外視角
接下來，巴赫從內在的角度進一步解釋道，意識總是存在於當下，這為我們創造了一個存在的泡泡。這是一種二階直覺，是對直覺本身的感知。有些哲學家稱之為高階思維，但實際上是感知產生了這種感覺；它像共振一樣發生，在低維空間中呈現幾何變化。它涉及對擁有直覺這行為本身的直覺——我正在運用直覺——他懷疑心靈創造了這種第二層感知，使第一層感知成為可能。
由於大腦是一個自組織系統，其中所有結構都必須從頭開始生長，因此必須有某種機制來構建一個屏幕，將經驗投射到大腦上，穩定大腦，並監控大腦是否真正感知到信息；這或許可以解釋為什麼我們對感知會有直覺。
這不止於二級；還有第三層級，觀察者變得可見——例如，我有一個第一人稱視角，我注意到我有一個視角，我處於某種觀察位置，這可以進一步解構。你會注意到，這個觀察者本身只是頭腦中的表徵。這樣做的話，非凡的體驗就會基本消失。這是透過深度冥想可以達到的狀態：超越了普通的直覺意識，也超越了自我體驗；你從外在將自己視為一個產生意識和自我意識的容器。
那麼，如果人工智慧超越了人類的基礎呢？我們的神經元所能表達的東西實際上相當有限；如果該系統能夠在 GPU 上以數千倍的速度運行，那麼它可能會變得完全透明，理解每一個導致高級體驗的機制。那會是怎樣一種存在狀態？
巴赫也區分了內在視角和外在視角。哲學基本上局限於內在視角；它並不關心原子分裂，但要真正從外部理解意識，我們需要一個物理模型來解釋一個系統在什麼條件下可以構建任意模型，而這正是計算機科學今天正在做的事情。
從外部視角來看，真正的問題是意識在大腦中做什麼，為什麼會出現，以及它會產生什麼。這條推理路線最終會將我們引向嬰兒。這顯示意識很早就出現了；嬰兒已經具備意識。如果這種啟動失敗，如果燈不亮，我們就看不到嬰兒的定向注意力、世界模型的形成或隨後的語言學習；他們會一直處於植物人狀態，而我們也不會變成人類。
生物意識假說與機器意識假說
這對於訓練像我們這樣的大腦來說似乎至關重要，由此引出了生物意識假說：意識可能是一種生物學習演算法，或至少是一種動物大腦的訓練演算法。如果本質上是細胞之間的一種交流模式，那麼這種模式自然會導致觀察者的出現，從而實現學習和感知。
那麼我們有一個假設：意識是訓練像我們這樣的自組織系統的最簡單的方法，而它自動訓練系統的方式自然而然地決定了體驗的性質。他承認這可能是錯誤的，或者完全是另一種情況，但他認為沒有理由相信意識比這複雜得多。
他在這裡插話提出了邁克爾·萊文的假設，指出從單細胞生命到多細胞生命的轉變之所以花費了這麼長時間，可能是因為形態發生（即維持生物體大規模連貫性的演算法）極其難以發現。萊文猜測，這種演算法與大腦用來維持自身連貫性的演算法相同。換句話說，我們大腦中體驗到的最大化連貫性的模式實際上是相同的模式，只是發生在不同的時間尺度上；它或許就是生命，或至少是多細胞生命。
正因為如此，它花了很長時間才被發現，而且它也不是你能獨立發現的；你在子宮裡就被母親“感染”，這使你能夠與你的生物環境產生共鳴，因為它會輕輕地推動你的思想去發現意識。
如果生物意識假說成立，那麼機器意識假說也可能成立。我們或許可以透過限制機器只能透過自組織進行學習，然後在機器中重現這些自組織條件，並提供合適的任務和足夠大的搜尋空間，使它們像嬰兒的大腦一樣發現意識。我們會看到這樣一個時刻：系統突然發生相變，突然獲得學習能力，自我訓練成某種狀態，從而自然而然地能夠報告非凡的體驗。
所以這裡沒有像圖靈測試或同儕審查那樣專注於表現的意識測試，例如你的詩歌寫得好不好，或者你能不能解決一個數學問題；它不在乎你是如何生成它的。對意識而言，我們真正關心的是系統內是否存在真實的體驗。與其說是測試，不如說是一次解釋。
這兩個假設也可能各自獨立地不成立。生物意識假說或許是對的，但人工意識無法重建。也許電腦的速度還不夠快，也許單一細胞內的活動需要太多的運動部件；搜尋空間太大了，生物系統有太多方法可以訓練自己獨立發現它們。
那麼巴赫為什麼認為它會成功呢？因為目前的人工智慧速度已經夠快，可以產生遊戲引擎，而且其輸入輸出速度與人腦大致相當。夢到自己正在做夢，是不是比構思夢境內容難得多？他對此表示懷疑。
變形金剛、普遍性與物理主義
然後，話題轉向了《變形金剛》。巴哈舉了一個很好的例子：如果你懂電腦科學，你只需要一週左右就能明白它是如何運作的。它所學到的東西——從文本中提取的常識和演算法程式——極其複雜精細，而且沒有明顯的上限。或許意識也是一樣的；它是一種演算法，但它不是預測下一個標記，而是保持工作記憶與自身一致，這是一種跨越心理表徵的共識演算法。它可能收斂速度更快，或者在 GPU 上運行效率可能很低，但在人腦上運行效率卻很高。這是一個懸而未決的問題。
這種思路也與克里斯·奧拉的普遍性假設相連結。研究團隊發現，無論架構、學習演算法，甚至資料的具體細節如何，不同的視覺模型都會學習到相同的特徵。因此，模型的結構不取決於演算法或數據，而是取決於你試圖學習的問題的結構。最底層總是顏色和空間頻率，它們組合成紋理，在某個階段，幾何形狀就會出現。更深層的問題是，這種現象會在哪一層停止？
如果普遍性假設成立，這意味著如果你用自己的輸入和輸出訓練一個模型，只要訓練時間夠長，你就會在這個模型中醒來。這對巴赫來說是一個相當令人震驚的想法，但他不知道這是否屬實；或許語言對生成它的系統約束力不夠。但仔細想想，人類本質上就是端到端訓練的學習系統。生物學基本上已經找到了一種簡單的方法，可以根據輸入產生輸出。如果你用相同的輸入訓練一個神經網絡，使其產生類似的輸出，那麼它最終會收斂到與你的因果結構類似的因果結構。
當然，也存在一些情況下，這種說法可能並不成立；例如，有些東西在大腦上運作良好，但在 GPU 上運作不佳，反之亦然。博赫甚至表示，他認為 GPU 比人腦更強大，並指出，只要硬體夠快，就可以在任何程度上模擬任何自然系統，而人腦卻無法模擬數位電腦。所以，如果我們的意識是大腦運作複雜智慧過程的副產品，而電腦不需要同樣的副產品，那麼電腦可能會創造出比我們更聰明、更優雅的東西。
談話中也涉及了巴赫對物理主義的看法。他認為物理主義只包含兩個主張。首先，現實有一個因果封閉的機械層面，它不受我們意識的驅動；你不可能念咒語就讓太陽升起。其次，我們直接依附於這個機械層，而不是像 Minecraft 那樣，作為模擬假設的一部分，在母宇宙中有人運行著一個伺服器供我們生活。
然而，他又提出了一個轉折：物質並不是最底層。從來沒有人直接見過物質或能量；它們只是對觀察結果的系統化，而我們的觀察結果最終歸結為可辨別的差異，用專業術語來說就是資訊。因此，在談論現實時，資訊至關重要。物理學只不過是我們在這些資訊差異中發現的一層規律。
他稱自己的立場為“控制論萬物有靈論”，意思是萬物有靈論不一定是超自然的。生命系統與死亡系統的區別在於，生命系統被具有自主性和體驗能力的靈魂所佔據，而這個靈魂可以透過資訊處理得到充分解釋。所以，物質主義和萬物有靈論並不衝突；他指出，除我們自己的文化之外，幾乎所有其他文化都是萬物有靈論文化。科學世界觀否定了靈魂的概念，然而很顯然，某種靈魂在你我體內運作。問題不在於它是否存在，而在於它如何運作。至於植物有多聰明，或者它們是否有感知能力，他表示自己並不清楚，並指出這仍然是一個懸而未決的問題。
宇宙的起源、糾錯模型與哲學殭屍
這個播客中還有兩個主題我覺得很有趣；雖然不是主要關注點，但它們有助於我們理解巴赫的思考方式。
其中一本是關於宇宙的起源和糾錯模型。他的觀點是，宇宙之所以存在，是因為沒有任何東西阻止它存在。如果現實的基礎之前什麼都沒有，那就沒有任何東西可以阻止宇宙的出現。因此，宇宙既不能被先於它的事物強行創造出來，也不能被阻止。它的存在與否可能尚不確定，既有它存在的分支，也有它不存在的分支。不存在的分支機構沒有觀察員可以抱怨；已存在的分支有觀察者。
那麼，在現有的分支中，哪些東西還能保留下來呢？這是糾錯模式。他以浴缸為例：你坐在浴缸裡揮動手臂，就會產生各種各樣的波浪；大部分渦旋消散，但仍有一些圓形渦旋殘留。並不是說它們出現的機率更高，而是渦旋中的信息會自我循環，停留在水的特定區域，從而獲得自我修正的能力，持續存在直到摩擦將其摧毀。宇宙的根基是粒子，這些糾錯模式就是粒子；它們之間不會產生摩擦，只是偶爾會與其他物體發生碰撞。再往上一層，粒子相互作用形成分子；再往上一層，形成細胞。細胞是超級分子，但它們擁有一些新特性：它們可以自我複製以對抗自身的衰敗，透過自我重建來增加數量。
巴赫認為意識的出現是一種殖民模式，它不僅自我複製，而且使自身變得更加真實。透過製造能夠讓意識持續存在的機器，它變得“更加真實”，透過控制現實可能阻礙它的方式來改變周圍的現實和未來。他提到了史蒂芬·沃爾夫勒姆和所有可能性的計算極限；巴赫認為，這種模式正是所有生成宇宙的自動機的疊加。古希臘人稱之為「邏各斯」（Logos）－它是一種非常簡單的數學，無需推導即可獨立存在。
另一個主題是哲學殭屍，這是一個經典的思想實驗。是否存在這樣一種生物，它的行為舉止與人類完全相同，但卻沒有任何主觀經驗？
巴赫說殭屍是有可能出現的，而且我們已經有殭屍了。西洋棋程式就是一個例子；你不可能訓練一個人在無意識的情況下下棋。但是你可以訓練電腦在無意識的情況下下棋；電腦可以執行需要人類意識才能完成的任務，因為它們運行的演算法不符合你大腦的神經原理。
然而，殭屍並非無所不能。在某種程度上，製造一個無意識的實體來產生這種行為，甚至比製造一個有意識的主體還要複雜。他認為殭屍總是有可能出現的，但有時製造殭屍的成本更高，這一點他的直覺與賽爾的看法不同。這兩個人認為意識極為複雜，因為對他們來說，意識的運作方式完全不符合直覺。但對他來說，這並不違反直覺，所以他不明白意識有什麼神奇之處——但你要如何檢驗這一點呢？
巴克說，如果我們建構一個行為與我們完全相同的系統，問題是，我們能否在不借助現象學的情況下產生相同的行為？如果將一個大型模型擴展到多模態，它可以產生類似的輸出並觀察自身，但如果它報告的自我觀察與我們的觀察不同，我們就會得到反證。此外，如果我們建立一個透過自組織學習來達到這一目標的系統，但發現它無法透過自組織實現這種組織——而是像當前的 LLM 一樣依賴模仿——這可能證明意識更加複雜。但這並非確鑿的證據；這可能只是意味著他犯了一個錯誤。即使沒有達到某個具體結果，也不代表不可能，只是他沒有達到而已。
因此，反面證據極難取得；相反，成功則提供了更多佐證。因此，他已經在加州發起了一項名為「加州機器意識研究所」的大規模計畫。他正在尋找比他更聰明的人，並願意加入一個探索意識搜尋空間的項目，看看我們是否可以建立一個能夠學習和發展現象學的自組織系統。即使最終證明不可能，我們也能從中學習到一些東西；這樣，我們就可以透過找出我們錯在哪裡來取得進步，而不僅僅是找出我們做對的地方。
結語
我花了將近一週的時間來消化這一集的內容，今天我想和大家分享我認為其中最核心的部分。
說實話，聽完之後，我最大的感悟不是人工智慧正在覺醒，而是我們仍然沒有弄清楚意識究竟在做什麼。巴克提出的觀點我覺得很有道理：真正致力於研究意識的人太少了。我們大部分時間都花在觀察下一個模型的參數翻了多少倍，或者下一個基準是否能夠通過，而很少有人回頭去問一個根本問題：意識本身是什麼？它存在的意義是什麼？
而後者或許才是決定我們最終能夠創造出什麼的關鍵。
感謝收看，我們