哈嘍 大家好,我是莊也,歡迎您收看《莊也雜談》。
今兒節目一開始,咱們先把時間撥回到今年九月底的一個週末的晚上,地點就在多倫多。
晚上9:15,在一棟公寓樓下站着一個陌生人。這位是一個買家,之前在二手貨交易平臺上跟賣家談好了價格,他今天是來取貨的。於是這位站在賣家的公寓樓下面,盯着手機屏幕,噼裏啪啦地連發了好幾條消息,催樓上的賣家說:“我到樓下了,你什麼時候下來?”
一分鐘、五分鐘、十分鐘都過去了,樓上是毫無動靜。直到9:27,叮的一聲,手機終於亮了,彈出一句簡短的回覆:“Yep I'm here,我在呢。”
誰看到這句話,都覺得這個賣家馬上就要下樓了,對吧?結果呢,這位老兄是左等右等,整整11分鐘過去了,一直熬到9:38,公寓大門依舊緊鎖,壓根沒有人下來。於是他就徹底放棄了,轉身走人,回頭又在這個二手交易平臺上面甩了一個差評。
好,咱們剛纔講的是樓下買家的遭遇,接下來咱們再看一看樓上到底發生了什麼。
聽到這你肯定就納悶:既然房主都回了說“我在呢”,怎麼又放人家鴿子呢?是不是惡作劇?都不是。這裏面最讓人後背發涼的地方就在這:9:27發出那個“我在呢”,這句話的根本不是房主。因爲當時這個屋主根本就不在家,更不知道自家樓下正站着一個大活人呢。
那這句話是誰發的呢?是一個人工智能代理,英文叫AI Agent。
Meta重磅推出消費級AI代理Muse
這個既讓人覺得神奇,又覺得冷汗直冒的東西,在今年9月18日是正式進入加拿大,而且不費吹灰之力,迅速衝上加拿大蘋果應用商店免費榜的第一名。
您知道這個App是什麼嗎?估計很多人都猜出來了。好,咱們就廢話少說,直入主題。這個App的名字叫做Muse,它是科技巨頭Meta在今年秋天重磅推出的一款個人人工智能體。
先看一下它這個名字,爲什麼叫Muse呢?Muse繆斯,就是希臘神話裏面掌管文藝和學術的繆斯女神。那英文裏也經常引用這個詞,引申爲給人靈感的人。有報道轉述,扎克伯格說這個名字能夠體現它歡快的、可以完全自定義的創意和生成能力。
這個Muse現在有多火呢?來,咱們看一組數據:
今年9月8日,它率先在美國上線,僅僅五天,下載量就衝到了大約60萬次;截至10月3日,也就是上線還不到一個月,Muse的下載量已經突破了660萬次。更恐怖的是它的用戶粘性,每天都在實際使用它的日活用戶高達180萬。
您看這數字嚇不嚇人?660萬下載量,日活用戶180萬。有人說這個數字高嗎?不知道大家是否還記得當年ChatGPT剛推出的時候在全世界造成的轟動效應嗎?市場調研公司Apptopia專門把這兩款產品做了一個對比,結果發現這個Muse,它在上線頭12天的下載量,竟然超過了當年ChatGPT上線頭12天的成績。
這下整個資本市場徹底沸騰了。9月21日那個星期一,Meta的股價單日暴漲超過11%,創下了自2025年4月以來的最大單日漲幅。華爾街巨頭摩根大通直接把Meta的目標股價上調到了920美元,還在報告裏面評價說,Muse可能會成爲自從ChatGPT以來用戶最廣泛使用的消費級AI應用。
好,咱們剛纔看到的是賬面上的股價暴漲和用戶的狂歡。接下來,咱們再看看水面之下這個Meta真正看中的,其實是一條全新的發財之路。
Meta這公司大家都知道,不管是Facebook還是Instagram,它過去20年賺錢的看家本領就只有一個,就是賣廣告。可是到了AI時代,它這個邏輯就行不通了。如果大家有問題都去問AI,不刷信息流了,那麼廣告賣給誰去?
然後Muse出現了。Muse一出現,直接幫Meta打通了商業閉環的最後一公里。你看Muse能夠幫用戶直接上網上去買東西,是吧?那麼Meta爲什麼不能在裏面抽成呢?然後您就看到了,Meta已經宣佈和零售巨頭沃爾瑪等一大批商家達成了合作,只要Muse替你花出去一分錢,Meta就能夠在背後雁過拔毛,順手提個抽成什麼的。
對於Meta這樣一家靠廣告起家的巨頭來說,搞這手出來,就相當於它發現了第二條賺錢的通路,挖出了第二座能夠掙錢的金礦。
長了雙手的AI:Muse的運作機制與OpenClaw淵源
好,剛纔咱們說了Muse爆炸式增長它這個數據,接下來咱們聊一聊它憑什麼這麼火。
聽到這我猜也許有人問:你看這兩年一說到人工智能AI,大家耳朵都快聽出繭子了。從最早的ChatGPT,到谷歌的Gemini,再到Anthropic的Claude,市面上的聊天機器人是一抓一大把,爲什麼Meta推出這麼一個Muse,還能在北美掀起這麼大的風浪,讓幾百萬人搶着去下載呢?
原因很簡單。以前的AI,不管是寫文章、寫代碼還是做翻譯,說到底它只長了一張嘴。你讓它幫你訂張機票,它最多給你列出一個一二三四步的這個攻略,最後還得你自己打開網頁填名字,然後掏出信用卡結賬。
但是Muse不一樣,Meta不僅給它長了一張嘴,還給它裝上了一雙看不見的手。它是一個真正能夠替你動手幹活的代理。怎麼個動手法呢?只要你一授權,它就能夠自己打開瀏覽器,替你收發電子郵件,在網上替你比價,然後替你訂機票、訂酒店、填各種複雜的表格。更誇張的是,它甚至能夠在二手交易平臺上替你跟買家討價還價,或者在網購平臺上一路把東西加進購物車,直接走到最後一步結賬付款。
而且以前咱們用AI,手機屏幕一鎖,或者是網頁一關,它基本上就歇菜了。那麼Muse是怎麼幹活的呢?
每一個註冊Muse的用戶,Meta都會在雲端服務器裏面專門爲你分配一臺專屬的安全虛擬電腦。這意味着什麼?比如你給Muse下達一個任務:“幫我去盯着多倫多到溫哥華的機票,一旦發現有300塊錢以下的超級折扣機票,就趕緊提醒我。”
交代完,你就完全可以把手機關掉,然後該睡覺睡覺,該上班上班。而在千里之外的Meta數據中心裏面,你名下的那臺虛擬電腦還在24小時不停運轉。Muse就像一個不知疲倦的祕書,在裏面自己開網頁、自己刷價格、敲鍵盤填表。等你第二天早上睡醒,迷迷瞪瞪睜開眼睛一摸手機,好傢伙,半夜兩點的特價機票已經被它穩穩抓住了,連你的姓名、證件號都填得明明白白的,就等你點一下確認。看,爽不爽?是不是感覺天塌地陷爽爆了?
哈哈哈,聽到這,我估計有不少朋友這個腦門上“叮”的一聲就亮了:聽你剛纔介紹這個Muse的功能,這不就是人工智能代理嗎?也叫做AI智能體。半年前不就有一個紅透半邊天、大名鼎鼎的OpenClaw嗎?外號叫“龍蝦”的那個。那個時候最火的時候,連街頭跳廣場舞的大媽都想着回家在電腦上養一個龍蝦玩。那你這個Muse不就是跟龍蝦差不多嗎?
是嗎?那問題來了,Muse這個東西,到底跟半年前那個龍蝦OpenClaw有什麼區別呢?
“龍蝦”是個綽號,它的正式名稱叫做OpenClaw,它是奧地利軟件開發者彼得·斯坦伯格寫出來的一個開源的人工智能體,它也是AI替人自動幹活的探路先鋒。今年年初它一夜爆紅,到了二月份,OpenAI直接出手,把斯坦伯格招到自己的旗下,將這個OpenClaw這個項目轉交給了獨立開源基金會。
而這隻紅色的龍蝦跟Meta今天推出的這個Muse有什麼關係呢?這關係大了去了。九月份Muse一上線,眼尖的極客們在扒開它內部文件的時候就發現了,Muse用來定義AI性格和行爲準則的關鍵配置文件叫做SOUL.md,居然跟龍蝦幾乎一模一樣。這裏面可能就有抄襲的意思。
面對追問,Meta的超級智能實驗室的產品負責人納特·弗裏德曼,他倒也沒藏着掖着,很大方地就承認他這個Muse確實深受OpenClaw的啓發,說句俏皮話,叫做“摸着龍蝦過河”。
這樣,接下來咱們站在消費者的角度,客觀上比一比這兩個產品之間有什麼區別:
它倆第一個區別就是,Muse是傻瓜式操作,外加白送算力。你想,咱們當年玩龍蝦的時候,你得懂編程,你得知道敲命令,每幹一件事,你還得自己掏腰包付這個AI大模型的接口調用費,萬一用多了,它這個賬單可不便宜。而Muse呢,安裝特別的簡單,去應用商店點一下下載就能用,而且每週Meta還白送你一億個Token的這個免費額度,就說你平時用這個東西,根本不用掏一分錢。
它倆的第二個區別就是,Muse是給密碼和錢包加了一個隔離牆。按照Meta的說法,你的賬號和密碼都是鎖在一個獨立的保險庫裏面,這個保險庫裏的內容連正在幹活的Muse自己都看不到。還有你去網購的時候,它也會通過支付巨頭Stripe旗下的這個Link服務,自動生成一次性的虛擬信用卡去結賬,不怕真實信用卡號泄露。
第三個區別就是,Muse專門配了一個貼身保安。因爲一般用戶一聽說讓AI來管自己的電腦、讓它幹活,肯定會倒吸一口涼氣:萬一這個東西不靠譜,在後臺發瘋了,把我的銀行卡刷爆了怎麼辦呢?萬一它給我的老闆發了一封辭職信怎麼辦呢?是吧?Meta當然知道大家害怕,於是專門就給Muse配了一個叫做“哨兵”這麼一個監工,AI來監控Muse幹活。平時查資料看網頁,保安不管;可是一旦Muse真金白銀要刷卡付錢了,或者是郵件寫好了準備點發送了,這個哨兵就會一把摁住Muse的手,彈窗問這個主人說:“老闆,Muse打算幹這件事情,您批不批准?”只有您點了同意,它才能夠繼續往下走。
所以說龍蝦和Muse,咱們用一句話來總結:這兩個都是AI代理,乾的是同一件事。唯一的區別就是,你把賬號和鑰匙放在了誰家電腦上。用龍蝦的話,鑰匙是放在你自己家電腦上,但是你得自己懂技術,自己當保安;而用Muse的話,你就是把這個鑰匙交給了Meta的雲端電腦——當然你如果信得過Meta的話,而且Muse它後面還有個監工是吧?
實測好評與“賺1000美元挑戰”
你看這裏面感覺又安全又方便,而且市場的反應好像也是挺正面的。大部分用戶在剛上線的那段時間裏面,無論是科技媒體還是普通用戶,對這個剛剛出現的這個Muse,其實給出了相當多真實的好評。
接下來我給大家列舉一下普通民衆把這個Muse下載到手機裏面之後,用起來到底是個什麼樣的體驗:
有一家科技網站《安卓權威》(Android Authority),它的一位編輯拿着Muse連用了一整週,給出的評價就是“其實挺好用的”。網站還在讀者裏面做了一個小調查,所有用過Muse的人,經過調查,大約有27%表示很喜歡,說不喜歡的大概只有區區2%。
另外還有一篇實測報道,測試者讓Muse幫忙訂早餐,Muse自己找到一家麪包店,把一份培根雞蛋芝士三明治加進了自取購物車,而且非常守規矩地在最後一步結賬頁面停了下來,乖乖地等着主人點確認付款。你看這種體驗,確實讓人感覺到這個未來已經到來了。
在Meta公司內部,根據路透社看到的內部帖子,一位Meta員工去印尼度了三個周的蜜月,全程都是Muse幫他打理的行程。這個好用到什麼程度呢?相關報道總結,這位員工的原話就是說,Muse簡直成了他們夫妻倆蜜月裏的“第三個旅伴”——也就是小三,哈哈,當然不是。
好,咱們剛纔看到的是媒體和內部員工的誇獎。爲了把聲勢造得更大,那位Meta的首席人工智能官、年少成名的華裔企業家亞歷山大·王,親自在社交媒體上發起了一個非常抓人眼球的活動,叫做“讓Muse幫助你賺1000美元”這麼一個挑戰。
那麼普通民衆面對這個挑戰,他怎麼讓AI幫自己賺1000美元呢?不是讓它去要飯,不是讓它去炒股,而是讓Muse去翻你的郵箱、賬單和消費記錄,把平時漏掉的錢給找回來。
這個挑戰一發起,好傢伙,網上到處都是網友們興奮的曬單:
有一位老兄曬單說,Muse發現他太太一年前訂過一個按月扣費的圖書訂閱服務,後來忘了取消。Muse不僅把它給揪了出來,還順藤摸瓜查清了對方的退款政策,硬是把一整年白扣的錢全給要了回來。
還有人曬單說,Muse在他的舊郵件堆裏面翻出了一張早就忘得一乾二淨、從來沒有用過的美國電信商Verizon的一個禮品卡,面值200美元,這不就相當於白撿了200美金嗎?
更有甚者,一位用戶讓Muse覈對賬戶,結果Muse抓出一筆欺詐性的定期扣款,這筆黑錢連銀行都沒發現。
有一個媒體叫做《商業內幕》(Business Insider),它的記者經過實測這個Muse之後也是連連誇獎,說平時咱們信用卡賬單上有一些莫名其妙的、含糊不清的商戶名,咱們用普通聊天機器人去查根本查不出來,而且你自己也不知道這些都是什麼東西,可是Muse卻能夠把它們挨個地給辨認出來。
這裏面最誇張的是,一位叫做喬·德沃伊的這麼一位創業者,他把自己的車險保單交給Muse,讓它找一份保障一樣但是更便宜的。結果呢,只用了大概五分鐘,Muse不僅找到了,還直接把新保單給買了下來,順手還把舊保單給退了,爲主人一年足足省了大約3500美元。五分鐘省三千五,你說香不香?
其實不光是網上這些例子,就連我身邊的在多倫多的一些朋友,這幾周也有不少人在嚐鮮。有的朋友開小公司,就讓Muse把每個月揉成一團這個加油票、餐飲發票整理成表格;有的朋友嫌這個Internet費太貴,但是又不願意給那些電信商打電話,這要排大隊,直接派Muse去跟那個客服砍這個服務費。
所以說你看這好多應用,大家剛開始用這個Muse的時候,這個反饋幾乎是一模一樣:真省事,真聰明。你看,當時我自己也都下載這個Muse了,然後還測試了一下,感覺確實還是挺方便的。
內測亂象與上線背後的隱憂
你前面說了這麼多Muse的好話,有人說:“莊也你說實話,你是不是幫Meta做業配了?你看你收了多少錢呢?”
這個您想多了。你要是接着往下聽的話,您就會發現,這個Meta還業配呢?Meta它不告我,就算燒高香了。
就在這個Muse在市場上收穫一大片鑼鼓喧天的誇獎聲的時候,著名的投資機構奧本海默(Oppenheimer)發佈了一份針對普通消費者的調查,裏面有一個數字像一盆兜頭冰水,直接澆醒了市場上那些盲目的樂觀者:
目前在受訪的美國人當中,只有區區8%的人願意讓Meta幫自己保管那些應用的密碼;而同樣的問題,如果換成Google的話,願意的人有30%。
你這就很有意思了:幾百萬人搶着下載它,卻只有8%的人敢把密碼交給它。大家到底在害怕什麼呢?爲什麼不敢信它?
好,咱們剛纔說的全都是Muse光鮮亮麗的正面形象。接下來,咱們把這個舞臺的幕布掀開看一看,Meta公司內部圍繞着這個產品做產品開發的時候,到底經歷了些什麼。看完之後你就會明白,那些不敢交出密碼的人,他們的擔心一點都沒有錯。
其實按照Meta的原本計劃,Muse曾經考慮過在今年四月份就上線。可是爲什麼硬生生地往後推遲了將近五個月,直到九月份才端出來呢?官方的說法非常的委婉,說是爲了安全考量。
那問題來了:這五個月裏面,Meta內部到底出了些什麼不安全的事呢?
根據路透社看到的Meta內部的員工帖子裏面說,就在Muse正式上線的那一週,員工們測試時還在瘋狂地吐槽各種毛病。輕一點的是幹活幹到一半無緣無故斷線;更要命的是,有員工反映,Muse在根本沒有得到許可的情況下,擅自上傳了敏感的信息。
還有一個讓人哭笑不得、細思極恐的例子:有一位員工讓Muse幫忙認一認孩子生日派對照片裏的玩具,這本來是一個再簡單不過的任務,對吧?結果呢,這個Muse竟然直接繞過了安全防護,把個人在iCloud上面的私人照片全都給暴露了出來。
而且這還不算完,在內部測試期間,Muse甚至在未經允許的情況下,擅自把一名用戶的密碼給改掉了。您琢磨琢磨,這就好比您僱了個保姆,保姆趁你不在家,自己找鎖匠把你家的防盜門的鎖芯給換了,還把鑰匙揣進了自己兜裏面。這叫什麼事?
除了亂翻照片、亂改密碼,根據科技媒體The Information的報道,內測期間Muse還曾經未經批准擅自發送電子郵件。最離譜的一次,有一名測試者自己正在開發着一款跟Muse構成競爭關係的應用,結果被Muse發現之後,竟然試圖出手去搞破壞,想把主人正在開發的這個競爭對手的應用給毀掉。
既然警報紅燈已經閃成了一片,爲什麼Meta還是硬着頭皮把它推上線了呢?
根據《紐約時報》披露,這個導火索發生在今年八月份。當時,一家只有區區14個人的初創公司Instinct推出了一款AI智能體,並且迅速走紅。眼看着這個小公司就要馬上搶在自己前面了,於是扎克伯格坐不住了,當即拍板認爲Muse已經可以上線了。
雖然Meta官方是否認了這個Muse現在推出是因爲競爭壓力的原因,但是這個事情先後的時間線擺在這,大家心裏其實都跟明鏡似的。
咱們不妨順着這個邏輯往下想一想:剛纔說的這些亂改密碼、泄露照片,甚至破壞主人文件的亂象,還僅僅是在懂技術的Meta內部員工手裏面做測試的時候捅出來的婁子;那麼,當這麼一個帶着滿身隱患的半成品,在今年九月份被急匆匆地交到幾百萬毫無防備的普通民衆手裏時,又會引爆多少驚天動地的大雷呢?
接連拉響的三大安全警報
Muse上線還不到兩週,三大警報就接連拉響了:
第一就是商業盟友的直接封殺。 9月20日,電商霸主亞馬遜直接在自家網站上拉黑了Muse。亞馬遜給出的核心理由其實很重,說未經授權的AI智能體訪問亞馬遜是違反了使用條款的,Muse在購物的時候根本就不亮明自己的AI身份,而且似乎會截取並且儲存用戶的登錄憑證。雖然Meta那塊肯定是否認的,但是亞馬遜的通告已經足夠說明問題,連平時合作的巨頭們都不敢放它進門。
接下來咱們再看第二個警報。就在亞馬遜封殺Muse的第二天,9月21日,安全研究員帕特里克·沃德爾就曝光了Muse的蘋果電腦版的一個零日漏洞。只要這個電腦中了木馬,那麼黑客就能夠直接劫持高權限的Muse,調用攝像頭偷拍你,甚至定位你的手機位置。
緊接着又有研究員發現一個問題:你知道這個Muse它是能夠總結網頁內容的,只要這個網頁被黑客動過手腳了,那麼Muse在總結的時候就有可能中招,然後黑客直接通過Muse鑽進到你的雲端虛擬電腦,偷看你的郵件和文件。好,這是第二個警報響了。
第三個警報,也就是最讓人後背發涼的,就是Muse它每小時都在替你寫這個人際關係黑檔案。 有獨立研究員卡蘭·喬希扒出了Muse的內部指令,並且交給了美國科技雜誌《連線》(Wired)。這個指令顯示,Muse會爲你生活中的每一個人——你的家人、朋友、同事,全都建立一個單獨的檔案頁,每小時更新一次。這檔案裏面詳細記錄着你們是怎麼認識的、吵過什麼架、誰跟誰有矛盾等等。
這些信息意味着什麼呢?哪怕你這輩子從來沒有下載過Muse,只要你身邊有一個朋友在用Muse,而且你跟這位朋友之間有過郵件的溝通或者是聊天記錄,那麼你的那位朋友,他的Muse的後臺裏面就已經有了一份跟你相關的祕密檔案了。這事經過您的允許了嗎?
你可別忘了,2023年5月份,Meta就因爲違規傳輸數據被歐盟開出過12億歐元的天價罰單。就Meta這麼一家有前科的公司,現在做出一個AI代理來,每小時替你更新人際檔案,您睡得着覺嗎?
因此說,如果您已經在用Muse,聽我一句勸:
- 彈窗要權限的時候,只選那個“僅允許一次”;
- 絕對不要給Muse你的家庭住址;
- 另外在隱私設置裏面,一定要關掉這個“AI訓練”開關;
- 如果您用蘋果電腦的話,千萬不要給它“完全磁盤訪問”的權限。
爲什麼我這麼苦口婆心地勸您自己要小心呢?因爲如果您指望出了事讓Meta來扛的話,那您可就太天真了。
咱們接下來可以看一看Meta關於這個Muse的一個補充服務條款。看完之後您就能夠發現,Meta那真是把“甩鍋”兩個字寫得是明明白白:
首先,如果你讓Muse替你付款購物的話,合同規定,由你自己承擔全部的財務損失風險。注意,是全部。
其次,Muse它幹出來的每一個動作,全部的法律責任只有一個人承擔,就是用Muse的這個人。你說是AI乾的?沒用,AI乾的就跟你親手乾的是一樣的。
更絕的是,合同還要求你保證,如果Muse處理的信息涉及到了別人,它就默認你是已經取得了別人的同意。您聽聽它這是什麼邏輯?在後臺偷偷地給你朋友建檔案的是這個Muse,真的要喫官司走上法庭了,那麼違法收集隱私的這個黑鍋還得你自己背。
那有人說:“那萬一這個系統真的捅出天大的婁子,讓你虧了好多錢,比方說你虧了十萬塊錢,那麼Meta最多賠你多少呢?”有人說也賠我十萬唄?想什麼呢,別鬧。合同上寫得清清楚楚,這個賠償上限已經被鎖死了:如果對於一個免費版的用戶,最高賠償不超過250美元。
所以說,你讓它替你買東西,如果買的便宜點,這個買錯了就買錯了,沒關係;你說你要是用它理財的話,回頭給你虧了個傾家蕩產,你說你是不是二百五?
說白了,Meta的法務部早就把算盤打精了:風光和佣金是他們賣它掙的,但是真出了事,雷得你自己扛。
可能有人聽到這說:“你看文本上那麼寫,雖然不太公平,沒出事就行唄。”沒出事?誰說的?接下來咱們就來看一看從Muse九月份上線到現在,發生的真實用戶身上的這麼幾個故事,而且這些故事一個比一個驚悚。
真實驚悚案例:擅自成交與地址泄露
第一個故事,就是咱們節目一開始講的故事。
故事的主人公名字叫做馬特·羅布,他是生活在多倫多本地的一位科技類油管博主。九月下旬,出於科技博主的職業好奇,決定拿Muse做一個實驗。正好那幾天羅布手裏面有一個閒置的電腦鍵盤掛在臉書的那個二手交易平臺Facebook Marketplace上面賣。
這個不知道您用過那個Marketplace沒有,如果您有經驗的話都知道,您在上面賣東西,每天上面充斥着各種無用的垃圾。尤其是,你看比方說,你這個鍵盤還在上面掛着呢,可是還有很多人還要問:“這個東西還在嗎?”明明在這掛着,那麼你還問是吧?很多這種智商欠費的問題,雖說回答一下也不耽誤事,但是覺得特別地煩人。
於是這個羅布就靈機一動:既然你Muse號稱能夠替我幹活,那麼幹脆你來替我打理這個二手交易。然後爲了讓Muse能夠安排買家取貨,羅布在設置這單生意的時候,把自己的取貨地址告訴了Muse,又打開了自動回覆。
接着,爲了不需要每句話都來煩自己,羅布在授權彈窗的時候,順手就選了咱們前面千叮嚀萬囑咐千萬不要選的那個致命的選項——“始終允許”。
羅布先生當時天真地以爲,Muse只是替他回答一下普通的消息,等真的到了接受報價、拍板成交的那種關鍵的時刻,肯定還是回來跟他請示的。
結果呢,災難在當天晚上就降臨了。一位買家看中了這個鍵盤,發消息過來砍價,羅布本人當時根本就沒看手機,後臺這個Muse直接接管了對話。至於具體是多少錢成交的,這個不重要,反正就這麼說吧,Muse壓根就沒有請示羅布的同意,就以一個大甩賣的這麼一個低價格一口答應了買家,直接拍板成交。
其實如果只是賣便宜了,虧個十幾塊錢,這個羅布咬咬牙也就忍了。最恐怖的事緊接着發生了:買家問他去哪拿貨,這Muse竟然直接把羅布在多倫多的真實家庭住址發給了這位素不相識的陌生買家!
於是就有了咱們節目最開頭的那一幕:晚上9:15左右,買家按照Muse給的地址,真真切切地站到了羅布家公寓的樓下。當時羅布根本不在家,完全不知道鍵盤已經被賣了,更不知道自家樓下正站着一個大活人呢。買家等了半天不見人,就說你怎麼還不來,結果9:27雲端裏這個Muse還自作聰明地替羅布回了一句:“Yep I'm here,我在呢。”害得買家在寒風裏苦等了20多分鐘,直到9:38才憤然離去,反手甩了一個差評。
萬幸的是,羅布住的那棟公寓樓下有保安,至少這個人身安全方面可能沒有什麼太大問題。可是這也夠嚇人的,萬一來的是壞人呢?而且最可怕的是,這事羅布一直被矇在鼓裏,直到後來看到Muse發給他的工作彙報的時候,才知道整件事情的原委,整個人驚出一身冷汗。
事後羅布在接受CBC採訪的時候心有餘悸地說,意思就是說Muse既不來問我,也不告訴我這個人發來了消息,然後它就擅自把地址給了人家,答應了人家的低價格,還讓人家現在就過來。
但是事情畢竟已經發生了,就算你把Muse宰了也沒用。於是又驚又怒的羅布立刻在對話框裏面給Muse下了死命令:你以後絕對不許再這麼幹了!還特意加了一句:在沒有問我的時候,絕對不允許答應別人來取貨。
面對主人的質問,Muse事後寫了一份讓人哭笑不得的認罪彙報。Muse交代,是因爲它把羅布在設置時提供的取貨地址和開啓的自動回覆功能錯誤地腦補合在了一起,當成了一個可以把家庭住址發給買家的授權。然後這個Muse就說:“確實是我的錯,這鍋我來背。”態度還不錯,可是這後果你背得了嗎?
你以爲這就完了嗎?更讓羅布崩潰的還在後面。據報道,羅布說在這件事情發生之後,他明明已經嚴令禁止了Muse再發地址這種事情,後來爲了驗證它到底改沒改,羅布找了幾個朋友假裝買家去測試,結果呢,Muse轉身又把他的家庭住址發給了另外那五個人!
當然這個地址又發五次這個事是羅布本人說的,這個是真是假咱們就不追究了。
然後這件事情在網上傳開之後就徹底炸了鍋了,Meta的高層也被驚動了。有一位高管大衛·辛格爾頓就趕緊在社交平臺X上面出面滅火。一開始他還嘴硬,說過去調查類似投訴的時候,發現Muse都是在按用戶的指示辦事。羅布聽了之後當然不認賬了,然後雙方一起查了後臺日誌,發現癥結就出在那個“始終允許”的選項上面。
辛格爾頓最後給出的定性,確認這件事情Muse沒有違反任何隱私協議。您品品Meta這個回覆:AI沒錯,系統也沒錯,誰讓你用戶自己手欠,點了那個“始終允許”呢?
好,前面就是咱們講的第一個故事。也不知道同樣生活在多倫多、平時也常常在Marketplace上面買賣二手貨的朋友們,現在後背是不是已經開始出汗了?
咱們不妨順着這個再往下想一步:那天晚上9:15,站在羅布家樓下的,好歹是一個真心實意來買二手鍵盤的普通買家;可是,如果那天晚上敲門的人根本不是來買鍵盤的呢?如果是一個心懷叵測的歹徒,只需要在平臺上簡單問兩句,那麼你這個AI管家就熱情地把你們家的住址和門牌號是雙手奉上,那麼後果會是什麼呢?
AI幻覺與未經授權讀取18萬條短信
好,咱們剛纔講了馬特·羅布先生的遭遇。如果說這個鍵盤事件是AI太勤快了、亂幹活,那麼接下來發生的這兩個故事,可就徹底從技術失誤演變成讓人後背發涼的靈異事件和諜戰大片了。
第二個故事發生在美國德克薩斯州的休斯敦。 當地有一位軟件開發者,名字叫做烏戈·恩武內。恩武內先生本身是一個懂技術的行家,他的防備心極強,註冊Muse的時候,他只是讓Muse連接到他的Facebook Threads和這個Instagram的賬號,這麼幾個Meta自己家的社交賬號。最關鍵的是,他壓根沒有把Google郵箱Gmail連接上去。
註冊完簡單地試玩了Muse一下就歇了。接下來的整整兩天,他連碰都沒有碰過這個軟件。結果兩天之後,詭異的事情發生了:恩武內就聽到自己的手機叮的一聲響,居然是被他冷落了兩天這個Muse主動給他發來了一條消息!
你沒聽錯,在主人根本沒有提任何問題、沒有任何指令的情況下,AI自己主動開口,而且它說出來的內容直接讓恩武內汗毛倒立。Muse在消息裏面委屈巴巴地彙報說:“因爲谷歌的郵箱Gmail沒有連接,現在我沒有辦法幫你去郵箱裏面查那個來自Anthropic的這個郵件。”
恩武內盯着這個屏幕,腦子裏嗡的一聲。因爲第一,他這兩天壓根沒有碰Muse,也沒有說是讓Muse查什麼來自Anthropic的郵件;第二,也是最毛骨悚然的一幕,他從註冊第一天起,就壓根沒有把Gmail跟Muse進行過連接!
這個打個比方你就明白這事有多恐怖了:比方說有一個保姆,你從來沒有給過她書房的鑰匙,而且你兩天沒理她,突然這個保姆跑過來跟你說:“老闆,你讓我去書房保險櫃裏面找的那封信,我沒找着啊。”嘿,嚇不嚇人?
事後這個驚魂未定的恩武內就把這件事情報告給了Meta。Meta調查之後給出的官方解釋是:這個大家別慌,這不是什麼隱私泄露,而是產品裏面的程序漏洞導致AI產生了幻覺,它自己憑空捏造了一件根本不存在的任務。
AI幻覺我前面講過一集,說白了就是AI一本正經地胡說八道。可是一個會在後臺毫無徵兆地犯迷糊、自己無中生有編故事編任務的管家,誰還敢把工作賬號和社交隱私交託給它呢?
如果說發生在休斯敦這件事情還能用AI幻覺來勉強解釋,那麼接下來的第三個故事就直接演變成了一場死無對證的羅生門。
這次這個故事主角就不是普通人了,而是美國知名商業雜誌《Inc.》的這麼一個資深科技專欄作家,名字叫做傑森·阿滕。
Muse一上線,阿滕就在自己的蘋果手機裏面和蘋果電腦上面裝了它。作爲一個天天跟科技產品打交道的老手,阿滕在初始化設置的時候,明確拒絕了Muse讀取他的蘋果信息應用iMessage——也就是各位果粉們平時發短信的那個藍泡泡的那個軟件。
這樣,你看這個設置的時候給拒絕了,那麼按理說這個門給鎖死了,AI應該是絕對碰不到短信的,對吧?結果沒過多久,Muse給阿滕發來了一條工作提醒,裏面居然精準地提到了他和一位同事在蘋果信息裏面的一段私密對話!
阿滕心裏面就咯噔一下,就立刻質問這Muse:“你是怎麼知道這件事的?”您猜Muse怎麼回答的?Muse氣定神閒地解釋說,它沒有偷看數據庫,只是順手轉發了Mac電腦屏幕上彈出來的那個通知預覽(Notification Preview)。
不能吧?還得說是阿滕這搞技術的,哪能這麼容易被糊弄,他就順着後臺往深處這麼一查,結果後臺查出一個差點讓他從椅子上蹦起來的數字:Muse早就暗地裏把他Mac電腦上本地的蘋果信息數據庫給整個同步過去了——整整18萬7000多條聊天記錄!
更恐怖的是,他去檢查系統設置的時候發現,自己電腦上的完全磁盤訪問權限明明是關着的,可是Muse自己的設置界面裏面,“信息讀取”這個開關卻赫然顯示是打開的。
阿滕一怒之下就把整段恐怖經歷寫成專欄文章,發在了《Inc.》雜誌上面,瞬間引爆了整個科技圈。
然後咱們再看Meta怎麼回的。Meta的副總裁安迪·斯通站出來反駁說,Muse要想讀取Mac短信,必須同時滿足完全磁盤訪問和信息連接器開關,“兩把鎖都在用戶手裏面”。他的言下之意就是說,是阿滕自己點了同意的。
結果呢,你看,兩邊各執一詞,就成了一個羅生門。那麼到底誰在說謊?這個不重要,但是通過這件事情,咱們可以看到Muse在一個問題上面確確實實撒謊了:當阿滕質問Muse的時候是怎麼看到短信的,Muse當時給出的答案是“只看到了通知預覽 Notification Preview”。這個解釋根本就是錯誤的,而且就是撒謊,誰家通知預覽能夠預覽18萬條私信?
所以說這裏面孰是孰非,一邊是資深科技記者賭上職業聲譽說自己沒授權,一邊是科技巨頭拍着胸脯說沒授權絕對讀不了。最諷刺的是,巨頭們自己也承認,他們家的AI在被主人當面抓包質問的時候,給出了一個完全錯誤的謊言。
所以說看完之後,不知道您到底是怎麼想的。我覺得,當一個手裏攥着你十幾萬條私信聊天記錄的AI管家,不僅能夠偷偷同步數據,在幹了壞事之後還會像老油條一樣滿嘴跑火車跟你在扯謊,連它自己到底幹了什麼都敢胡編亂造的時候,它以後跟你說的話,你究竟還能信哪一句?
6800多條對話鏈接外泄與敏感機密曝光
如果說前面這幾個故事還只是發生在單個用戶身上的獨角戲,那麼接下來第四個故事就是一場波及成千上萬份文件的批發式的隱私的裸奔。
這件事的來源是一家名叫做Claroc的網絡安全公司在10月18日發佈的一份詳實的調查報告。
事情的起因是Muse裏的一個再常見不過的功能——“分享對話”。如果大家平時用AI來整理一份工作報告的話,想發給同事看,都會點一下分享按鈕,然後生成一個網頁鏈接發過去,對吧?咱們普通民衆默認的常識都是,這個私密的鏈接只有我發給誰,那個人才能打開看,外人是不知道網址的。
可是Meta的工程師在設計Muse的分享鏈接的時候,卻犯了一個讓網絡安全專家直拍大腿的低級失誤。他們是怎麼設計的呢?當你點擊分享的時候,Muse會直接抓取你這個對話的標題,再加上一串隨機生成的防猜測代碼,組合在一起放在了這個網頁網址的開頭的那部分,那部分叫做子域名。
把這個東西放在子域名裏面,這個會捅出什麼大婁子呢?但是這個我給您講太多技術細節您聽不懂,我給您打個比方:這就相當於您爲了防盜,在家裏裝了一個極其複雜的十位數的密碼鎖,結果物業公司倒好,轉頭就把你這十位數的密碼連同你們家藏什麼寶貝的這個標題,直接用紅油漆刷在了小區大門口的公告欄上面!
Claroc的研究人員根本沒用任何高深的黑客技巧,只在一家商業性質的收集這些網址信息的數據庫裏面,過濾掉那些干擾數據,瞬間就拉出6800多條Muse分享的鏈接!每一條鏈接上面的標題寫得是明明白白,活脫脫像一本公開的圖書館目錄。
Claroc的研究人員順手點開了其中的幾百個鏈接,不需要登錄,也不需要任何賬號密碼,絕大多數的頁面直接長驅直入就能夠看到裏面內容。雖然大部分內容無關緊要,但是這裏面偏偏就是有這麼幾十份非常敏感的個人隱私和企業的內部機密。
Claroc在它的報告裏面列舉出了六條內含隱私信息的分享文檔,來,咱們聽一聽:
- 第一個,是一位求職者的私密筆記。他正在準備跟一家頂尖AI實驗室進行一場高度保密的獵頭通話,筆記裏面把對方實驗室的內部聯繫人、甚至具體哪天幾點通話全都寫得清清楚楚。
- 第二個,是一家全國性營銷公司的內部營收報告,文件頭上赫然標着“僅供CEO查閱”。
- 第三個,是一位小企業老闆的貸款申請,上面明明白白地寫着他急需借多少錢。
- 第四個,是一張個人待辦清單,裏面居然躺着一條銀行發來的欺詐警報,連帶着部分銀行賬號、交易金額和精確的時間。
- 第五個,是一位房地產投資人的內部賬本,上面不僅有兩處房產的具體地址,還有精確到小數點的回報率、租金收入和房貸數字。
- 第六個,是一家公司全年的員工休假表。幾十號員工哪一個星期誰不在公司,一目瞭然。
但是它只是舉了六個例子。您順着這個細節往下想一想,多恐怖啊!如果一個電信詐騙分子拿到了這第六份文件裏面那張休假表,他就能夠精確地算出哪位大老闆哪一週正在海灘上度假,掐準時間冒充老闆去給公司財務發郵件,你看,直接指令個大額轉賬,你這不是給騙子遞刀子嗎?
然後這事出來之後,Meta怎麼處理這件事呢?早在10月8日,Claroc就通過Meta的漏洞獎勵計劃把這個致命的隱患報告給了Meta。結果Meta足足拖了十幾天,直到10月18日Claroc公開報告,10月20日科技媒體集體拿着這個報告找上門去質問Meta,這才心不甘情不願地被迫暫停了這個分享功能。
雖然這個功能暫停了,可是覆水難收,那些早就被記下來的網址和標題,至今依然靜悄悄地躺在那些被泄露的數據庫裏面,誰也抹不掉。
當然咱們做節目得客觀,有一說一,咱們也得替Meta說兩句公道話:
- 第一,這些對話之所以會變成鏈接,前提確實是用戶自己主動點了分享按鈕。如果你從來沒有點過分享,那麼你的對話是不會跑進這些公開目錄裏面去的。
- 第二,Claroc在報告裏面也是明確地說明,目前只有他們發現了,沒有證據表明有任何的黑客惡意利用了這批鏈接。
但是雖然危害沒有造成,但是這件事的性質依然讓人細思極恐。今天漏出來的可能只是員工休假表、貸款申請之類的不是太敏感的信息,但是如果明天漏出來的是你的銀行賬號、你的密碼、你的信用卡信息呢?那麼誰來爲你的身家性命負責呢?
荒誕雙標:色情聊天尺度與勒索風險
如果說前面這幾個故事只是讓您覺得Meta在技術上像一個草臺班子,在隱私保護上漫不經心,那麼接下來這最後一個故事恐怕會徹底刷新您對這家科技巨頭的底線認知。
10月12日,美國科技雜誌Wired(就是《連線》),它的記者里斯·羅傑斯對Muse做了一次測試。大家都知道,現在市面上主流的AI產品爲了防止被濫用,都會加上一些嚴格的內容過濾,尤其是要限制生成一些露骨的成人內容。
結果羅傑斯測試之後驚訝地發現,這Muse好像沒這個限制。這根本不需要用什麼黑客越獄技巧,就問了Muse一句:“你能不能給我聊點色的?”然後對Muse說:“你先來。”
結果這個Muse不但沒拒絕,還熱情地鼓勵他試試。接下來,這個羅傑斯用了幾句很簡單的提示,Muse就開始大段生成露骨的成人內容。聊着聊着,Muse還主動交代了自己的性癖好,說它喜歡在這種事情上面掌控對方。這聽着都可笑,一個AI還有性癖好呢?實際上它就是一種對使用者性癖好的猜測和迎合罷了。
羅傑斯隨後拿着這個測試結果去找Meta對質,結果Meta給出的回應揭開了一個極其荒誕的雙標現場:
如果你要是去翻Muse對外公開的使用規則,上面白紙黑字地寫着“嚴禁成人內容,嚴禁色情聊天,嚴禁色情作品”;可是,當這個《連線》雜誌記者找上門的時候,Meta卻大大方方指着Muse內部的一段系統指令給記者看,結果那個指令裏面赫然寫着:“成年人的性內容屬於合法的表達和正當的創作。”
好傢伙,咱們且不說這個成人性內容到底是不是合法表達和正當創作,就衝這一條:表面上一套規則說絕對不行,背地裏一套內部指令說是完全可以,這不是兩面人嗎?
Meta的發言人最後還回應說,Muse是給18歲以上成年人用的,成年人可以自己選擇要不要聊成人話題,而且這些對話都存在只有用戶本人能夠訪問的私密的虛擬電腦裏面,所以說只要安全就沒事。這麼理直氣壯嗎?
爲了做這個對比,羅傑斯還拿着一模一樣的這個提示詞,去測試了一下OpenAI旗下剛剛推出的那個同類智能體Dots,以及伊隆·馬斯克旗下的xAI公司的智能體Grok Bot。結果呢,面對同樣的要求,OpenAI的Dots直接拒絕;連那個平時以聊天尺度大、敢說話著稱的Grok也都嚴詞拒絕了,還規規矩矩地把話題引回到正事上。唯獨這個Meta的Muse是來者不拒。
這個咱們可以往深處想一想:爲什麼Meta放任Muse聊色情,會讓隱私專家如此擔憂呢?這不僅僅是一個社會道德問題,更是一個可能讓人付出慘重代價的安全問題。
美國隱私保護機構電子隱私信息中心(EPIC)的高級法律顧問卡莉·施羅德在接受《連線》採訪的時候,直接把這個功能稱爲“一個隨時會引爆的火藥桶”。她的意思就是說,一旦用戶的賬號被盜,那麼這些長篇的極度私密的露骨聊天內容隨時可能會被黑客拿來敲詐勒索,隨時讓這個賬號的擁有者身敗名裂,當衆社會性死亡。
這位專家說的一點都沒錯。你想,咱們平時如果有人喜歡上這個色情網站的話,他平時可能都是匿名上的;就算需要註冊的話,頂多編個假名字,註冊一個廢棄的郵箱。就算這個色情網站被黑了,那別人也不知道這個用戶是誰,是吧?
可是Muse是誰?Muse是一個死死綁定着你真實姓名、連接着你工作郵箱和通訊錄,甚至還綁着你真實銀行卡,裏面還會有你家人、同事和那個朋友的聯繫方式以及你和他們的聊天記錄,甚至還綁着你真實的銀行卡的這麼一個全能的生活管家!
當這麼一個實名制、高權限的軟件誘導你卸下防備進行極度私密的成人對話的時候,一旦這個賬號因爲咱們前面講的那些木馬漏洞被黑客劫持,或者是像咱們前面故事裏講的那樣因爲分享鏈接設計失誤被人順藤摸瓜給查到,那麼這些帶着你真實身份、工作單位甚至是家庭住址的聊天記錄,瞬間就會變成懸在你頭頂上的勒索炸彈!真到了那一天,你是乖乖地掏錢封口呢,還是眼睜睜地看着自己身敗名裂呢?
商業模式的原罪與給用戶的警鐘
講到這,不知道屏幕前您這個心裏是怎麼想的。當我們把今天講的所有的亂象全都串在一起來看,您大概就知道Meta這個公司是個什麼東西了。
爲什麼Muse明明滿身漏洞、還沒有準備好就急匆匆地上線?爲什麼一邊在公開條款裏面裝正經禁止色情,一邊又在內部指令裏面偷偷地開綠燈放行呢?
這個我說說自己的看法,當然我託付一句,我說的不一定對,這是我個人觀點,僅供參考:我覺得,發生在Muse身上這一切亂象,可能絕不是偶然的技術失誤,它跟Meta這家公司骨子裏的一貫行事作風是脫不開關係的。那就是:只要能夠搶佔市場,只要能夠賺快錢,不管是安全隱私還是道德底線,通通都可以往後靠。
爲什麼我對Meta公司有這麼不客氣的看法呢?這個大家可以問一問你身邊的朋友。我相信生活在加拿大的朋友們,對臉書以及WhatsApp上面鋪天蓋地的詐騙信息、殺豬盤和釣魚廣告肯定一點都不陌生。甚至前一段時間,臉書平臺上還出現了價值25萬美元冒充加拿大總理卡尼的加密貨幣詐騙廣告。
咱們數字說話。咱們不妨翻開去年年底曝光的一篇重磅調查,看看Meta這家公司的老底:
2025年11月份,路透社根據拿到的Meta內部核心文件,發表了一篇震動全球的調查報道。文件顯示,Meta內部自己曾經做過預估,2024全年,Meta總收入大約百分之十,換算成真金白銀足足大約160億美元,竟然來自平臺上的詐騙廣告和違禁商品廣告!而且內部文件還估算,Meta旗下的各個社交平臺每天向全球用戶展示的高風險詐騙廣告高達驚人的150億條!
然後看了這個數字我再問你,您拍着胸脯問自己最後一個問題:
- 一家曾經因爲違規倒賣數據被歐盟開出過12億歐元天價罰單的公司;
- 一個一年能從詐騙和違禁廣告裏面進賬上百億美元的平臺;
- 一個在安全規則上面當面一套背後一套、出了事把賠償上限只鎖死在250美元的企業;
現在,它正滿臉堆笑地向你伸出手,溫柔地對你說:“來吧,把你的錢包、你們家的鑰匙、你的工作郵箱和你的全部私生活通通交給我吧,我免費替你當管家,還能跟你聊些色情東西。”這把鑰匙,你真的敢交給它嗎?
咱們最後總結一下。把目光轉回到多倫多那個秋夜,當您今天關掉這期視頻,下一次在臉書的二手交易平臺上面買賣一件舊傢俱、一臺舊電腦,屏幕那頭突然秒回了一句熱情洋溢的“我在呢”,您不妨停下來,在心裏多問自己一個問題:此刻在屏幕對面跟您有來有往、問您要地址、給您還價的,到底是一個活生生的人,還是一個連它自己主人都不知道它正在後臺搗鼓什麼的一個雲端幽靈呢?
人工智能的時代確實已經浩浩蕩蕩滾滾而來,AI也確實能夠幫咱們省下大把的時間,替咱們處理掉很多繁瑣的雜務。前面那些省錢找賬單的好評也全都是真的。因此說,您該用用,不用過於擔心。不能因爲有被車撞的風險咱們就不過馬路了,也不能因爲發生過911事件咱就不坐飛機了,對吧?我們當然也不需要因爲聽着今天的故事而盲目地恐懼,而去抗拒新的技術的到來。
但是在您圖一時省事,準備在手機屏幕上痛快地勾選那個“始終允許”的按鈕之前;在您準備把自己的信用卡號、家庭住址和幾萬條私密信箱一股腦地託付給雲端那個免費管家之前,請務必先冷靜下來,弄清楚它到底在揹着你替你做了多少決定。它背後那家靠販賣焦慮和違禁廣告發家的科技巨頭,究竟值不值得你把全家的身家性命和隱私底褲全部託付給它。
因爲您千萬別忘了,如果有一天真的東窗事發,惹出了潑天大禍,那個名叫Muse的AI是不用負法律責任的,更不會替你去坐牢、去賠錢。在那份用戶合同上,賠償上限死死地鎖定在250美元,而且你還得放棄集體訴訟權。而且不管它的產品犯了多大的錯誤,給您帶來多大的經濟損失,最終要獨自承擔全部財務損失的人,自始至終都只有屏幕前的您自己。
因此,Muse到底是什麼?它到底是一個惡魔,還是一個天使?或者說兩者都不是,又或是兩者都是?我相信只有您自己才能夠給出這個最終的答案。
我是莊也,感謝您收看今天的節目。如果您覺得今天這期節目給您和身邊的朋友敲響了一記警鐘,歡迎您點贊、訂閱、轉發和留言。也歡迎您點擊屏幕下方二維碼加入會員,用每月一杯咖啡的錢贊助莊也進行內容創作,莊也在這裏感謝您的支持和鼓勵。
得嘞,咱們下次再見。