最佳夥伴 大飛: 大家好，這裡是最佳夥伴，我是大飛。
定价模式分歧与访谈背景
一家人工智慧公司想要改變產業的定價模式，卻遭到了自己客戶的阻止。
Altman 最近透露，OpenAI 幾乎決定他們的下一個模型不會使用代幣定價，而是根據用戶的提示報價，並在任務完成後結算，類似於 AWS 的按結果付費模式。出乎意料的是，當提案提出時，客戶們卻強烈反對。
這項獨家消息來自 Altman 最近做客 Stripe 聯合創始人 John Collison 主持的播客節目；這是一個輕鬆隨意的、98 式的聊天。兩人一邊喝著啤酒，一邊從最近 PHP 漏洞激增的話題聊到 AGI 和對齊、團隊睡眠不足、內存市場的失敗、個人代理，最後還談到了前面提到的代幣定價問題。至於顧客為何如此強烈反對，我們留到最後再談。在今天的影片中，我們將深入剖析這段資訊巨大的對話。
PHP 漏洞与新一代安全架构
事情的起因是最近發生的 PHP 漏洞醜聞。許多人感到好奇：為什麼這些長期隱藏的漏洞會突然一次性全部被揭露出來？
Altman 的解釋是，模型「在現實世界環境中發現漏洞的能力」實際上一直在提高，而且提高速度非常快。只是以前沒有人真正使用它們來系統地掃描外部程式碼庫。網路上充斥著海量代碼，攻擊面極為廣泛。一旦你開始深入研究，你就會意識到現實世界中存在比預期更嚴重的漏洞，這甚至讓長期關注該領域的觀察者感到驚訝。
那我們該怎麼辦？Collison 的問題很具體：是否應該直接用 Rust 重寫舊的 PHP 程式碼庫？這是否會成為像 Infosys 這樣的諮詢巨頭的龐大商機？
奧特曼迴避了這個細節。他的判斷是，軟體當然需要打補丁，但僅僅打補丁是不夠的；更永續的解決方案是改變應用程式本身的架構。這聽起來很難，但我們現在手中擁有了令人驚嘆的新工具，他已經看到新一代的新創公司正在重新定義路由器、作業系統和應用程式。
建立一個全新的技術堆疊——這在兩年前還被認為是天方夜譚，因為攻擊面太大，程式碼無法安全地編寫。但隨著模型變得越來越智能，這可能很快就會成為現實。他預計一種全新的系統和網路建構範式將會出現。
對於當前形勢，奧特曼不願宣布勝利。他說，目前仍有許多未知因素，可能會發生不好的事情，但回顧疫情爆發當天，應對措施比他十天前擔心的要好得多。許多用戶正在使用模型來建立補丁和防禦系統。有些公司會將系統離線一小時進行掃描修補，然後再重新啟動系統。
一些網路安全專家也開始重新思考目前的威脅模型是否仍然有效，他們擔心，如果人工智慧基於未知的物理原理發現硬體層的深層漏洞，現有防禦系統的基礎將被摧毀。
编程范式转移与古老技艺失传
除此之外，奧特曼還分享了一個有趣的觀察：讓他想起早期網路的，是今天的孩子。無論他們是八歲還是十歲，他們都可以在短短幾分鐘內創建完整的 3D 遊戲。他說，在他小時候，寫軟體是一件很困難的事情，而且你寫出來的軟體其實也做不了什麼。
然而，現在的孩子們理所當然地認為，電腦應該幫助他們實現腦海中的任何想法。
OpenAI 內部發生了一起代表性的事件：一次嚴重的系統故障導致 Codex 宕機。雖然沒有人真正忘記如何編程，但每個人都驚呆了，困惑地脫口而出：「如果我不能使用它，我該如何編寫程式？」雖然這種說法有些誇張，但它讓他想起了比他年長的電腦先驅們。有些人使用大容量軟盤，有些人拿出手寫的彙編程式碼，有些人使用穿孔卡。正是這些人，用最原始的方法，一步步推動電腦文明發展到今天的水平。將整個程式邏輯記在腦子裡，讓成百上千行程式碼一次就能完美運作的古老技藝，確實正在失傳。
迭代部署与 AI 对齐安全
接下來是一個相當尖銳的問題：如今模型在網路滲透方面變得越來越強大，這並非完全是湧現的特性，而是刻意訓練的結果。克萊森開玩笑地引用了《週六夜現場》的一段話，說：「我們強烈敦促你們快點，並敦促我們停下來。」這個笑話觸及了現實，對於「誰在提出這個要求」這個問題，奧特曼認為這種懷疑確實有道理。
他承認，他犯的最大錯誤之一是未能向公眾清楚地解釋為什麼這項技術值得推進。人工智慧產業目前向公眾展現的圖景是這樣的：一方面，模型據說可以治癒癌症並降低成本；另一方面，它又描繪了一條人們會失去工作、失去對未來的控制，並且需要一個監控國家來防止徹底毀滅的道路。
他甚至還自嘲說，這簡直是個糟糕的推銷話術。正因如此，他如今最珍視的原則是「迭代部署」。儘管這種方法一度在人工智慧安全領域非常不受歡迎，但他仍然堅持將工具直接交到用戶手中。他指出，僅僅告訴人們「模特兒會為你帶來好處」是不夠的；人們應該有權創造他們自己定義的更美好的生活，而不是僅僅領取全民基本收入，同時眼睜睜地看著一小群人聚集在舊金山幾平方英里的範圍內決定人類的未來。當然，在發布之前必須確保安全，但故意壓制能力和製造權力失衡是 OpenAI 所反對的行為。
克里斯滕森隨後提出了一個業界許多人plc都很關心的問題：從長遠來看，沙盒機制真的能約束模型嗎？
奧特曼承認他們其實知道如何進行沙盒測試。此外，他們本應做得比現在好得多；建立更嚴格的安全模型是當前的核心任務。他認為，沙盒在一定的能力範圍內是有效的，但超出這個範圍，就必須依靠監控，包括監控思維鍊和激活狀態，以確保模型不會欺騙我們。
但歸根結底，人們必須對模型的真實一致性有絕對的信心。如果對齊是可信的，我們可以使用模型來幫助建立越來越完美的沙箱；然而，如果我們面對的是一個比最傑出的安全研究人員聰明一百萬倍的實體，那麼確保沙箱始終領先於模型的能力就變得極其困難。
還有其他辦法嗎？克里斯滕森問道，是否有可能為模型設定相互競爭的激勵機制，使它們相互限制？
奧特曼認為這是一個很有前途的方向，不過他也花了一些時間批評這個術語，說他不喜歡「群體」這個詞，更喜歡稱它們為「人工智慧團隊」。他認為這條路徑不僅具有有趣的擴展特性，而且對對齊也具有獨特的價值，從安全角度來看，值得加大投資。
算力鸿沟与思维链消耗
談到人工智慧團隊，計算這個話題自然而然就會被提及。克里斯坦森觀察到，領先企業與普通公司之間存在明顯的鴻溝。高階數學推理和駭客工作坊已經大規模地使用人工智慧團隊，但傳統企業的日常運作距離趕上還相差甚遠。
奧特曼認為，要清楚地看到這一鴻溝，首先必須了解一個變化：可以投入到單一問題中的有效運算能力正在呈指數級增長。幾年前，這很難想像。那時候，多花一美元買電腦也無濟於事；即使 GPT-4 輸出 10 萬個詞元，它仍然無法高效地編寫完整的軟體。直到「思維鏈」出現，模型才能進行深度思考，運算能力才真正被大量消耗。如今，你可以擁有一支專注於相同目標的人工智慧代理團隊，同時運行 10,000 次嘗試。他指出，世界對此關注不足，懂得使用人工智慧的人與一般使用者之間的差距正在日益擴大。
關於 OpenAI 內部的運算資源分配方式，Altman 也做了介紹。他表示，公司的資本配置在某種程度上是計算配置。內部研發部門可以獲得大量的運算資源，員工擁有很大的決策自由，但他們並不會因為消耗更多的運算資源而獲得獎勵。公司內部沒有排行榜；處於頂端並不一定是好事，至少在晉升方面是如此。除非你能證明你所做的事情夠重要，否則人們默認會持審視的態度。
他糾正了克里斯安德森的一個誤解：實際上可以為模型設定預算。如果你告訴它用價值 10,000 美元的運算資源做到最好，它就能理解。
然而，這引出了一個更廣泛的社會問題。在企業競爭中，如果一家公司為解決一個問題撥款 1 萬美元，而另一家公司撥款 10 萬美元，結果顯而易見。這背後隱藏著計算和財富分配的重大問題。
科学发现与数学 AI 的探索边界
有趣的是，OpenAI 本身曾經故意讓運算能力不受控制地運作。在他們研究納維-斯托克斯方程式證明期間，該團隊只是讓用於數學推導的計算不受限制地運行了一周。他的解釋是，當一種新的範式出現時，必須允許人們不受限制地探索其邊界。當時，團隊對縮放定律一無所知；他們沒有概念是應該給最聰明的模型更多副本，還是應該採用長線推廣還是短線推廣。現在他們終於有所理解了。
他估計，一年後重新執行這項任務，只需花費原金額的 1%。換句話說，將資本和計算轉化為價值的效率每年可以提高約 10 倍。方向應該是先利用海量計算來探索可能性的邊界，然後找到在大規模部署過程中實現高效率的方法。
關於數據方面的投資規模，他提供了一些具體數據。納維-斯托克斯方程式的證明花費了大約 1000 萬美元，但由於人們對該方程式的理解迅速加深，後續證明的平均成本將遠低於這個數字。對數學人工智慧的投資已達到數億美元，其中包括大量未公開的新發現，其中已有 700 個證明被公開。
至於其餘部分何時發布，他表示這確實是個難題。一方面，他確信基礎科學知識屬於全人類，不應該被囤積；如果我們能夠揭開物理學中萬物理論的奧秘，或者治愈一系列疾病，這顯然是全世界都應該掌握的知識。
另一方面，他也明白科學發現是許多科學家事業和人生的成就感來源，我們有責任為這些領域的從業者找到一種平衡的方法——一種造福世界、確保他們擁有美好未來、並考慮到幾個世紀以來推動這些領域發展的學術界的方法。這並不容易，目前，人們正在積極探索這個問題。他認為，科學家對人工智慧侵入其職業領域的反應是正常的，就像港口自動化曾經引起碼頭工人工會的不滿一樣。
然而，談到自己的感受時，奧特曼卻相當坦誠。他說，在一個週末，團隊收到了一個新模型，並開設了一個私人測試頻道，頻道名稱很隨意：「模型代碼：Hold My Beer」，意思是「看看我能做什麼」。研究人員將他們能想到的最棘手的問題都拋入了試驗場；起初沒有人認為該模型可以解決這些問題，但這些問題——他們各自學術生涯中最棘手的問題——被逐一克服，跨越了幾個不同的學科。
他興奮得連續兩晚都沒睡著，後來公佈的許多證據其實都是在那兩天內生成的。但除了興奮之外，他還感到一種遠超預期的憂鬱，一種某種事物即將結束的感覺。
克里斯蒂安對此深有同理心，他說這不僅僅是懷舊。他提到他父親在 1950 年代講述的一個故事，當時愛爾蘭人還在農業中使用馬匹——這項技術人類已經使用了數千年——而他的父親恰巧目睹了這項技術的最後階段。一個時代結束總會伴隨著一絲傷感，但遠不止於此；它關係到人們生活的各個層面。或許大多數學者終其一生也無法解決一個千年難題，但相信自己有能力解決它，以及相信世界上還有許多未知事物等待被發現，這種信念本身就蘊含著一種純粹的美。
回到數學話題，奧特曼將談話引回了 OpenAI 團隊。他表示，他重視集體智慧與社會韌性之間的關係；社會即使存在根深蒂固的缺陷，也擁有驚人的穩定性，依靠大量人群相互平衡與合作，對抗性防禦就是一個很好的例子。他曾經悲觀地認為人工智慧的發展會偏離這種相互制衡的趨勢，但現在他對這個方向感到非常興奮。
他引用了一句話來完美地概括他的立場：他寧願讓一萬億個比人類略微聰明的 AI 融入社會，也不願面對一個智商為一萬億的超級 AI。
然而，他也強調，這種情況不會自動發生；必須積極探索這項技術，因為這項技術非常強大，可以應用於許多領域，而且不同的人對其最佳形式有著截然不同的看法。
基础设施、硬件瓶颈与自我复制数据中心
接下來是計算資源供給問題。Altman 的評估是，該行業將經歷非理性繁榮和泡沫破裂、供應緊張和產能過剩，但總體趨勢只有一個方向：對功能足夠強大且價格足夠實惠的機型的需求將繼續增長。
為此，OpenAI 做了大量的準備工作，開發了自己的高性能人工智慧晶片，學習如何建造自己的資料中心，並推進機器人技術項目，為使用機器人進行大規模資料中心建設做好準備。他指出，人們熱衷於討論遞歸式自我改進，但很少談論自我複製的資料中心。例如，利用人工智慧控制機器人來操作發電廠、製造渦輪機和太陽能電池板，並隨後建造資料中心。至於許可證和零件等瓶頸問題，他認為最終都可以解決。
在討論高物價問題時，克里斯提到了一句古老的諺語：解決高物價的辦法就是高物價；內存和顯卡的價格已經很高了，那麼什麼時候才能找到解決辦法呢？
奧特曼直言不諱地指出，「看不見的手」目前正在失靈。在過去很長一段時間裡，DRAM 廠商投入 200 億美元的資本支出，最終只能收回 190 億美元；該產業在繁榮與蕭條之間反覆循環，從來就不是一個好的產業。情況已經逆轉，記憶體製造商現在每年可以產生約 1000 億美元的自由現金流。然而，正因為他們銘記著盲目擴張導致多次瀕臨破產的歷史教訓，所以他們在資本支出方面仍然非常保守。兩人也討論了英特爾等傳統廠商可能會重返記憶體市場，畢竟記憶體是一個傳統產業。
關於局部推理，許多人認為它可以緩解運算能力差距，但他對此並不樂觀。從全球資產配置的角度來看，讓本就稀缺的 DRAM 閒置在個人電腦中，而其利用率常年徘徊在 5% 左右，是一場災難。因此，在供應極度短缺的環境下，最需要的是最大限度地提高雲端運算的利用率。
高價確實已經開始引發一些市場反應，主要集中在零件領域，特別是能夠實際提高生產效率的工業機器人組件。請注意，這些是能夠執行實際工作的機器，而不是用於演示的機器。在機器人產業，OpenAI 已經推出了一些新型執行器。自主研發晶片並考慮對外銷售也可能是一個例子。
說到晶片設計，雖然目前似乎只有一家公司掌握了核心光刻技術，但流片檔案的設計階段已經相當成熟，而這正是人工智慧的強項。OpenAI 內部也有一種令他們引以為傲的文化：即使人們習慣了傳統方法，他們也願意嘗試用人工智慧把事情做得更好。人工智慧研究和軟體工程是一回事；就連採購等看似毫不相關的領域現在也使用人工智慧。
AI 进行 AI 研究与企业开销
話題轉向如何利用人工智慧進行人工智慧研究。克里斯詢問了遞歸式自我改進的現狀。
Altman 表示，他們現在知道如何為模型下達諸如「找到一個能將計算效率提高 5% 的解決方案」之類的指令。但目前還沒有人知道如何讓模型發現可以與 Transformer 相媲美的新架構。他認為，如果將使模型在數學方面表現出色的訓練方法應用於人工智慧研究，可能會同樣有效，從而產生在高階規劃和概念推理方面更聰明的模型。
他透露，在相當長的一段時間內，社會需要達成共識，人為地限制任何單一模型變得過於智能；科學停滯不前將源於這些局限性，而不是源於人工智慧缺乏進行研究的能力。
至於具體細節，OpenAI 內部目前還沒有關於應該向 GPT-7 詢問什麼的標準流程。簡單地說「實現通用人工智慧」或「將運算效率提高 5%」可能行不通。答案還涉及到代理集群的使用方式，他預計在接下來的三個月左右的時間裡，將在這個領域獲得更多見解。
企業代幣預算是另一個尚未解決的問題。Altman 表示，目前沒有對單一工程師設定嚴格的代幣數量限制；或許應該有，但目前還沒有。隨著人均人工智慧支出增加，各組織很快就必須面對如何分配這些配額的問題。
克里斯提到了保羅·格雷厄姆廣為流傳的觀點：許多公司會一絲不苟地計算每週零星預算中的每一美元（17 美元），卻任由昂貴但毫無價值的會議肆意揮霍金錢。相較之下，人工智慧其實並不是最大的支出負擔。
Collison 透露，Stripe 目前在人工智慧方面的支出約佔其營運支出的 1%，他顯然認為這太低了，並正在尋求增加這部分支出，目標是 5%、10% 甚至 20%。
奧特曼同意這項評價；對許多公司而言，這個比例最終會達到兩位數，那時優化就真的變得必要了。以目前的成本水準來看，大多數公司面臨的問題仍然是人工智慧的使用不足，而不是過度使用。
他也強調，OpenAI 一直致力於不斷降低單元智慧的成本，並在這方面發揮了關鍵作用，但計算成本呢？科利森提出了這個問題，奧特曼認為應該會下降，儘管他也承認短期內可能會上升。如果人工智慧創造的價值成長速度極快，同時又出現嚴重的供應短缺，人們將願意花更多的錢，而他會將這種情況視為運算能力跟不上需求的表現。
從將矽轉化為智慧的根本成本來看，能源、晶片和供應鏈的價格都應該會下降；如果他們不這樣做，他會非常擔心。計算五年內的總擁有成本，目前約為 700 億美元；他認為降至 200 億美元會好得多，而且隨著每年更智能的模型帶來 10 倍的性能提升，20 億美元豈不是更好？
他的回應是，如果我們真的到了那一步，那就說明有些事情出了問題；即使我們假設所有材料都是免費的，而且沒有人從中賺取一分錢的利潤，目前的能源限制可能也只能讓我們達到 200 億美元，因此能源必須變得更便宜。必須壓縮每個鏈路的複合裕度，並顯著提高吞吐量；他同意科里森的觀點，即通縮技術總體上是一件好事。
个人 AI Agent 的麦金托什时刻
接下來是奧特曼目前認為最令人興奮的方向之一：個人人工智慧代理。
他認為核心要素只有三點：潛在智力、個人背景記憶和使用工具的能力；實際上，可能性範圍相當有限。一週前，OpenAI 發布了 GPT-4o，許多其他公司也發布了類似的產品，但他認為還沒有人真正弄清楚人們想要什麼。人們喜歡這些工具，但他們還沒有達到無法想像沒有它們的生活的依賴。這與編碼代理和 GPT 不同。
他認為個人代理商還沒有迎來他們的“麥金托什時刻”，但最終形態將與 GPT-4o 或 GPT 等現有產品非常相似，但運行流暢且極其可靠。使用者一旦擁有了這些，就可以輕鬆地將更複雜的任務交給他人處理；我們距離讓這些想法成為主流，只差幾個好點子了。
讓人工智慧為使用者操作電腦，將會引發一場貓捉老鼠的遊戲。他最初的直覺是，雙方都會進行鬥爭，但最終會達成共識：允許人工智慧代表使用者操作電腦和使用各種軟體。然而，他也強調，事情並非非黑即白，具體結果也無法完全確定。
從消費者的角度來看，如果人工智慧無法自動完成電腦上的任務，他們會覺得很煩。他們想要的是一種由專門的人工智慧代理來執行命令的體驗，這樣他們就不必自己處理各種瑣事了。
利森也提到了許多公司目前正在努力解決的一個問題。現在每家公司都在爭相將人工智慧添加到他們的產品中，而且添加方式往往驚人地相似——例如添加標籤或彈出式聊天框。這些功能出乎意料地不錯；例如，您確實可以要求退還您最近一次訂單的款項。但消費者實際上並不想要這種介面；他們有自己常用的主要應用程序，只想在這些應用程式內完成任務。
該公司不願讓用戶透過其他人工智慧應用程式存取其服務的原因是害怕失去控制權。Lisson 認為，一家的護城河從來都不是它建立 HTML 網頁的能力，而是品牌忠誠度和產品深度。
奧特曼非常贊同這個總體方向。他以自己為例：如果讓 ChatGPT 在亞馬遜和其他平台之間做出選擇，他十次中有十次都會選擇亞馬遜——這就是信任。這種信任與亞馬遜的網站體驗無關。
他也承認，如果合作夥伴不願意讓互動脫離自己的網站，那就意味著作為一個平台，他們還沒有向合作夥伴提供足夠好的服務。雙方都認為，亞馬遜憑藉其物流網絡，在人工智慧代理業務方面處於非常有利的地位。
他們認為網頁表單是最典型的浪費精力的形式。Altman 表示，如今人們仍在使用手動填寫的任何網頁表格本質上都是重複性勞動，因為你幾乎永遠不會創建新資訊——例如，一遍又一遍地在醫療表格中填寫家庭病史。他本人是最早使用自動填充插件的用戶之一。如果他以後再也不用在電腦上進行這類手動操作，他會非常高興。
在他看來，對於那些沉迷於將 HTML 頁面和行動應用程式視為護城河的公司來說，這些要么根本不是護城河，要么只是暫時的護城河。App Store 的出現就是一個類似的例子；大公司一開始很抵觸，擔心把客戶關係拱手讓給蘋果，但結果證明這只是一個新的介面，實際上對他們更有利。
快速问答：基准测试、Emmett Shear 与 Greg Brockman
接近尾聲時，科里森進入了快速射擊環節。
關於基準測試，奧特曼認為只有兩件事值得關注：模型能否做出科學發現並執行人類無法完成的任務，以及它是否易於使用。遺憾的是，目前 OpenAI 還沒有好的基準來衡量這兩點。他們一直努力避免為了基準測試而優化模型。他認為，該公司目前在抵制基準測試遊戲的誘惑方面比其他實驗室做得更好，儘管他承認，從歷史上看，情況並非總是如此。
就合作經驗而言，該行業經歷了兩個極端：首先是模特兒過度奉承的階段，後來是他們過度挑剔和唱反調的階段；目前的型號已經相當不錯了。他引用了埃米特·希爾幾年前的描述：理想的榜樣應該是一位資深同事，他既有思想，能夠挑戰你，又保持尊重。他說這是他聽過的最好的總結。
當被問及如何評價布洛克曼時，他的回答是，他兼具獨特性、驚人的創作強度和極度專注的品質。
代币计价的争议与未来
最後一個主題就是我們開頭提到的：代幣定價。
奧特曼毫不掩飾他對代幣單位的不滿，儘管它已成為人工智慧的標準計量單位。OpenAI 差點做出了一個事後看來非常糟糕的決定：讓下一個模型完全非基於代幣，用戶提供提示，系統報價，並在完成後獲得報酬，就像 AWS 一樣。然而，由於客戶的強烈反對，該計劃最終失敗了；他們說他們必須知道自己付錢是為了什麼。
Altman 詢問了幾個人：對於相同的產出，你寧願少付任務費用，還是多付代幣費用，即使代幣數量是人為誇大的？他們更喜歡後者，因為他們覺得它是切實存在的。這就好比人們寧願為 CPU 運行時間付費，也不願為任務完成付費，即使前者總成本更高。
他同意代幣不是一個好的單位。如今，用戶必須在每百萬代幣 10 美分的小模型和每百萬代幣 10 美元的大模型之間進行權衡，並且他們還必須弄清楚思路的長度；這純粹是一種認知負擔，不增加任何商業價值。但他也不想走晶片產業的「奈米」路線，製造出一個脫離現實的假單元。「mi」（米）這個字早已失去了與實際物理長度的連結；這樣使用感覺很彆扭。在大多數情況下，思路鏈也會納入計費考量。
至於改進措施，他提到了一種資訊理論方法；克勞德可能不會贊同模型將輸出浪費在噪音而不是訊號上。從資訊理論的角度來看，真正有用的代幣應該有一個下限，因此計費方式遲早會朝著這個方向轉變。
如果我們從整體上看待整個對話，Altman 的立場是計算成本必須下降，而計算量必須擴大。在安全方面，他更信任制衡機制，而不是單一的超級智慧。
至於基於代幣的定價最終是否會被更合理的單位所取代？企業應該將營運支出的多少百分比分配給人工智慧？歡迎在評論區分享您的想法。感謝觀看，下次見。