《无限机器》与哈萨比斯其人

[魏知超]: 大家好，我是魏知超。今天要为你深入解读的书，叫做《哈萨比斯：谷歌AI之脑》。这本书的英文原名，叫做《无限机器：德米斯·哈萨比斯、DeepMind与超级智能的追寻》。这是一本最近非常火的传记，传主就是书名里的这位德米斯·哈萨比斯。他是谁呢？我先报几个头衔，你感受一下。哈萨比斯是引发AI浪潮的DeepMind这家公司的创始人。他是那个下围棋赢了李世石的AlphaGo，和把人类对蛋白质折叠的理解提升了几个台阶的AlphaFold的总设计师。后面这项发明，让他成了2024年诺贝尔化学奖得主。这是史上从成果发表到被诺贝尔奖盖章认定最快的记录之一。今天，哈萨比斯还是整个Google（谷歌）的AI大脑，是谷歌的大模型Gemini背后的灵魂人物。可以说哈萨比斯是这个星球上，AI牌桌的几个顶尖玩家里含金量最高的一位。写他的这个人也不简单，这本书的作者塞巴斯蒂安·马拉比是两次入围普利策奖的财经传记作家。为了写这本书，他跟哈萨比斯面对面聊了30多个小时，前前后后采访了100多号人，从哈萨比斯的联合创始人一路问到他的对手。所以这本书里全是别处看不到的第一手材料。而我今天想跟你讲的呢，是一条贯穿这本书的核心线索。这条线索既让我看得心潮澎湃，也让我看得有点后背发凉。那就是一个一心想要读懂上帝心智的人，是怎么一步一步亲手造出一台连他自己都踩不住刹车的机器的。一心想要读懂上帝的心智，这句话我并没有夸张。事实上，这才是这位AI顶级大佬终其一生想真正要做的事。他做AI不是为了钱，不是为了权，甚至他的根本目的都不在AI本身，他是真的想要搞明白这个宇宙到底是怎么回事。他自己就管这个叫做阅读上帝的心智。而AI呢可以说只是他为了打败宇宙这个终极大BOSS而打造的一件神兵利器而已。在满坑满谷的硅谷狂人里，这是一种罕见的纯粹。那在今天这期节目里呢，你会看到这种纯粹爆发出了多大的能量，怎样引发了AI的革命。你也会看到哈萨比斯与谷歌、与OpenAI、与马斯克之间那些恩怨情仇的纠葛。但比这一切都更加重要的可能是，读懂上帝的心智这个愿景的两面性。它听起来当然是非常壮丽，但同时也是非常危险的。因为一旦你真的开始造一台能够读懂上帝心智的无限机器，那问题就不再只是它是不是真的能够实现这个目标，而是当这台机器越来越强，越来越会自己学习、自己规划，会欺骗、会自己去找路的时候，我们还能分得清它的方向盘到底掌握在谁手里吗？正如作者在书里问的，哈萨比斯是真心想行善的，可是他最后能够守住这份善吗？那要讲这个故事呢，我们就先来讲一讲，哈萨比斯到底是一个什么样的人。德米斯·哈萨比斯是1976年出生在伦敦的，他的家境其实非常普通，甚至是有点拮据。他的爸爸是塞浦路斯的希腊裔，一辈子想做音乐，正经的工作几乎一天都没有做过，常年开着一辆小破车走街串巷地卖玩具。德米斯·哈萨比斯的妈妈是一个新加坡华人，小时候一度是流落街头的孤儿，后来辗转到伦敦学护理，打各种零工养家糊口。德米斯·哈萨比斯是家里的老大，下面还有两个弟弟妹妹。他的天赋最早是在国际象棋里展现出来的。4岁的时候，他第一次看到大人下棋，结果几个星期之后，他就能把大人杀得片甲不留了。他5岁就开始参加各种正式比赛。6岁的时候，英国国际象棋界的一位教父级的人物看完他的比赛，转身就告诉他爸爸，这是我见过的最棒的6岁小孩。从那以后呢，哈萨比斯几乎所有的周末和假期，全部都是在车厢、在小旅馆和在赛场里度过的。到他十几岁的时候，他已经是世界上这个年龄段里排名第二的顶尖高手了。如果故事就这么发展下去，他应该会成为一代棋王。

顿悟与转向游戏界

[魏知超]: 但是在他12岁的那一年，发生了一次彻底改变他人生轨迹的顿悟。那是一次在列支敦士登附近的一场国际比赛上，哈萨比斯的对手是一位德国大师。这场比赛整整鏖战了快10个小时，大厅里的人全都走光了，最后只剩下他们这一桌。在这场漫长的拉锯战的最后，哈萨比斯发现自己的国王被死死地困住了，他就非常绝望地认输了。结果那位德国大师猛地跳起来反问他说你为什么要认输啊？然后他就向哈萨比斯展示了非常精妙的一步棋，如果哈萨比斯选择牺牲自己的王后，那这盘棋其实是一个平局。那按照正常剧本来发展的话，哈萨比斯顿悟出来的应该是我不应该轻言放弃这种非常正能量的道理。可是大佬的脑回路就是不一样，相反这位德国大师的失态，让哈萨比斯产生了一种非常强烈的荒谬感。他突然发现，在这样一个挤满了世界最顶尖大脑的比赛大厅里，所有人都把精力耗尽，只是为了在一个黑白格子的世界里拼个你死我活。他心里突然冒出了一个念头，这么多顶尖的大脑，为什么要浪费在这里呢？难道这种庞大的智力，不应该被用来解决一些更大的问题吗？比如说去治愈疾病，去推动科学。就是从那一刻起，他决定寻找一个更大的命题。对他来说，国际象棋太小了。放弃了成为职业选手的执念之后，少年哈萨比斯开始把他无处安放的智力倾注到了另外一个领域，那就是电子游戏。15岁的时候，他凭借了一场比赛的胜利，赢得了去欧洲顶尖的游戏公司牛蛙工作室（Bullfrog）的工作机会。牛蛙工作室的老板叫做彼得·莫利纽，是当时游戏界的传奇人物。哈萨比斯就是跟着他，还有一群才华横溢的程序员，没日没夜地干，做出来的一款游戏叫做《主题公园》。这个游戏里塞满了各种鬼点子。比如说你要是在薯条上多撒把盐，那游客就会觉得口渴，这个公园里边的汽水销量就会蹭蹭地往上涨。过山车如果做得太吓人，游客就会当场吐出来；可是做得不够刺激呢，又满足不了这群专门来找刺激的人。哈萨比斯的这段经历，其实是全书最让我大吃一惊的。我是真的没有想到，我自己竟然在20年前，就玩过哈萨比斯参与开发的游戏。而真正让哈萨比斯意识到，自己手里的这一套游戏系统有多猛的，是另一件事。《主题公园》做到一半的时候，他跟着莫利纽去纽约参加了一场人工智能大会。在一场报告里，有一个卡内基梅隆大学的教授展示了他最新的研究成果。他给出的演示是三个蹦来蹦去的色块，大的那个上面标着熊，中等的那个标着狗，最小的那个标着的是老鼠。熊会自动地护着老鼠，狗会自动追老鼠，翻来覆去就这么点花样。而这就已经是当年的学术界能够拿得出的最高水准的AI了。这个报告一结束，莫利纽和哈萨比斯就径直走向这个教授问他说，你想看看我们现在正在搞什么吗？然后他们就掀开笔记本电脑放出了《主题公园》。哈萨比斯一项一项地给他演示，你看这个小人此刻有多开心、有多沮丧、他有多渴、有多饿、他兜里还剩多少钱、谁是他的朋友，一个个非常鲜活的NPC，都在这个复杂到爆炸的游乐园世界里实时地互动着。那个教授看完当场从椅子上摔了下去，一个还没有踏进大学校门的毛头小子，几分钟之内就让一位AI领域的权威连话都说不利索了。而这些游戏里的小人，其实就是今天一个很多人都能够耳熟能详的东西的最早的雏形，这个东西就是智能体（Agent）。

无限机器与宇宙的终极密码

[魏知超]: 但是哈萨比斯并没有被游戏界的繁华给迷住眼。18岁那年，哈萨比斯决定离开牛蛙工作室，去剑桥大学读书。他的老板莫利纽急了，直接甩出一张50万英镑的支票，在当时绝对是一笔巨款，只为了把他留下来继续做游戏。但是18岁的哈萨比斯连眼睛都没有眨直接拒绝了，因为他想触碰的东西，比游戏也要大多了。其实在放弃了国际象棋之后，这个极度狂妄的少年早就已经瞄准了一个终极boss，就是我们开头提过的整个宇宙。他最早想走的路其实是理论物理学，他想跟爱因斯坦跟牛顿一样，站在极高的抽象层面上，去寻找一个能够解释宇宙一切底层规律的大一统理论。但与此同时呢，哈萨比斯又是一个非常理性的极客，在单挑宇宙之前，他给自己算了一笔账。理查德·费曼（Richard Feynman）是他这一辈子的偶像，他说连理查德·费曼这样神一样绝顶聪明的天才，穷尽一生都没能够解开宇宙所有的秘密，他不觉得自己有把握超越费曼。然后呢，哈萨比斯又非常冷静地意识到，人类的大脑是受到生物学极限的束缚的，单凭这样一团装在头骨里的肉，去单枪匹马地单挑宇宙，胜算实在是太低了。既然人类大脑的算力不够，那怎么样破局呢？在他17岁的那一年，一本书给了哈萨比斯极大的震撼，那就是曾经拿过普利策奖的神作《哥德尔、艾舍尔、巴赫：集异璧之大成》（GEB）。我挖一个坑，这本天书我一定会在咱们频道里挑战一下的。在GEB这本书里，大神侯世达提出了一个极其冒犯人类尊严的观点。他说人类的大脑说到底就是一个纯物理对象，那些我们引以为傲的意识、直觉、灵魂，本质上跟电脑里面的0和1没有区别，全都是一些电信号在神经元里乱串跑出来的模式而已。那种认为人类拥有某种机器无法企及的灵性，这样一种想法纯粹是一种生物沙文主义（Biochauvinism）。这个观点让哈萨比斯经历了一场智识上的醍醐灌顶，既然思维只是一种模式，那么它就能够被编码，人类的智能完全可以在硅片上被重构出来。在进入到剑桥大学计算机科学系之后，他从他的导师约翰·道格曼那里学习了信息论之父香农的理论。在这里，他彻底完成了自己的世界观的闭环。香农的信息论让他领悟到，这个宇宙最底层的单位其实根本不是物理学里的物质，也不是能量，而是信息（Information）。那么既然智能、意识，乃至于宇宙最底层的规律，本质上都是信息，那么解开这一切奥秘的最短路径，就根本不是去死磕物理公式，而是去创造一台能够完美处理无穷信息的无限机器（Infinity Machine）。今天这本书的英文版原名《无限机器》，书名就是从这里来的。而这台无限机器就是AI，当然是智能远远超越人类的AI。这样的一套逻辑其实极其狂妄，与其自己去当那个受限于脑容量的物理学家，不如直接去当造物主造出一台终极机器。只要这台机器能够处理无限的数据、发现无限的模式，它就会成为一把万能钥匙，替人类把物理学、生物学，甚至是上帝的心智，一个接一个地全部解锁。这样一种带有疯狂科学家性质的曲线救国，构成了他做AI的全部底色。造AI不是为了赚钱，也不是为了让机器帮人类干活，而是为了打造出一台终结所有科学谜题的超级机器。可问题是，这台超级机器的内核，说到底就是智能这两个字嘛，那么智能这种东西到底要怎么样凭空造出来呢？哈萨比斯认为，放眼整个宇宙，能够证明**通用人工智能（AGI）**真的可能存在的只有一个现成的样本，那就是我们自己的人脑。既然如此，想造出人工的智能，就得先把我们天然的智能彻底搞明白。于是他做了一个让所有人都大跌眼镜的决定，在大学毕业后，短暂的第一次创业失败之后，他没有再去开公司，而是回到学校从头读了一个神经科学的博士。在读博之前，他去意大利度蜜月的时候，他甚至还带着关于人类记忆的学术论文。然后在度蜜月的海滩上，他看着论文里的那些理论突然灵光一闪。他说，如果我们人类的记忆不是像录像带那样存储在大脑里的，而是每一次回忆的时候都重新重建出来的，那是不是就意味着回忆过去和想象未来在人类大脑里用的其实是同一套机制呢？后来呢，他的博士研究完美地证实了这个假说，他发现大脑里主管记忆的海马体同样也是人类产生想象力的关键。更加有趣的是，这个发现不仅仅是神经科学的突破，它其实是在为日后让机器学会想象埋下了一张非常清晰的蓝图。在他30岁左右的时候，哈萨比斯读到了一本科幻小说叫做《安德的游戏》。这本书讲的是一个身材矮小的天才男孩被送到太空战斗学校，接受各种残酷的训练被推到极限。大人们的目的是看他能不能够扛起拯救人类的责任，凭借着天赋和毅力，安德最后做到了，他消灭了外星舰队，拯救了地球。哈萨比斯读完之后，让他的妻子也读了。妻子的反应是我为这个角色感到很难过，一个被剥夺了童年、被绑在别人选定的使命上的男孩。但是哈萨比斯的反应完全不同，他非常强烈地认同安德。他自己就是一个身材矮小的天才，也是因为自己的才华被孤立，也是被一种改变这个世界的渴望所驱动。他甚至主动把这本书推荐给了今天这本书的作者，告诉他说，如果你想了解我，你必须先去读一读《安德的游戏》，去看一看那种忍受痛苦、扛住重压继续前行的能力。这绝不是什么中二病的自作多情，这就是他给自己找的一种神圣叙事，他潜意识里觉得，自己就是被选中的那个人。他必须去承担拯救或者改变全人类命运的巨大责任，哪怕为此注定孤独，哪怕要付出一切代价。他的合伙人在评价他的时候用了一个非常精准的说法，他说在德米斯·哈萨比斯的世界里，没有50%这种模式，甚至连99%都没有，他只有100%或者0。为了完成那个使命，他会按照字面意思去竭尽全力，把自己逼到近乎自我毁灭的边缘。对于这样一种纯粹到极致的渴望，哈萨比斯自己有过一段听着让人有点后背发凉的描述，他说凌晨2点钟，我坐在书桌前，感觉整个现实都在盯着我、冲着我尖叫，它是真的在尖叫，只要我听得足够仔细，它就想告诉我点什么。这就是德米斯·哈萨比斯，他满脑子想的就是去读懂那正在冲他尖叫的现实规律，去阅读上帝的心智。

DeepMind的诞生与硅谷化缘

[魏知超]: 只不过呢，现实是要造出这样一台能够解读上帝心智的机器，你不仅需要绝顶聪明的大脑，你还需要海量的投资，这件事情是很烧钱的。2010年哈萨比斯开始组建团队，他找来了两个伙伴，一个叫做谢恩·莱格，是一个同样把造出通用人工智能这件事情当做终极信仰的疯子，而且他可以说是当时地球上对于强化学习（Reinforcement Learning）理解最深的人。而强化学习，正是我们在《智能简史》那本书里讲到过的智能进化的第三个台阶，而这个抓手成了后来DeepMind的技术灵魂。另外一位伙伴呢，是日后大名鼎鼎的穆斯塔法·苏莱曼，《浪潮将至》那本书的作者。苏莱曼跟这两位技术大牛截然不同，他19岁从牛津大学辍学，给伦敦市长干过活，长袖善舞，是一个充满街头智慧的谈判高手，是一个政客型的人物。这样的三个人凑在了一起，成立了一家名为DeepMind的小公司，他们的办公室在伦敦罗素广场旁边的一个小阁楼里，连像样的家具都没有几件。在2010年那个时间点，世界上根本没有几个人相信AI。去跟风险投资人说你要造一个能像人类一样思考的通用智能，人家会觉得你要么是疯了要么就是个骗子。他们在伦敦转了一圈，四处碰壁。这样一群立志要解开宇宙终极密码的人，面临着一个非常屈辱的现实，那就是他们成立之后不久就没有钱交服务器的账单，也没有钱发工资了。为了活下去，他们把目光投向了硅谷的顶级富豪、PayPal的创始人彼得·蒂尔（Peter Thiel）。2010年秋天，哈萨比斯和团队飞到旧金山，混进了一个由蒂尔赞助的极客派对里。哈萨比斯想尽办法，最后终于站到了这位硅谷教父面前。按照常理呢，创业者在这种时候大概只有30秒左右的时间，他们叫做电梯演讲，就是在做完一趟电梯的时间内就得赶紧把自己的商业模式和赚钱计划一股脑都倒出来。但哈萨比斯有备而来，他知道彼得·蒂尔是一个非常狂热的国际象棋迷，而这不就是哈萨比斯的看家本领吗？所以面对这位顶级富豪和硅谷大佬，哈萨比斯连半个字都没有提商业模式，而是跟彼得·蒂尔讨论起了国际象棋里一个非常深的问题。他们聊的竟然是主教和骑士这两个棋子，它们的积分价值虽然一样，但是在实战里它们的功能和潜力有着非常深奥的张力。这一句神来之笔瞬间抓住了蒂尔。蒂尔当即就邀请他第二天去自己的豪宅里详谈。就是在第二天的会面之后，哈萨比斯靠着自己对于人工智能的狂热的愿景打动了蒂尔，从他那里拿了230万美元的种子轮投资。但这笔钱只是续命而已，没能够结束他们的噩梦。深度学习和强化学习对于算力的吞噬是一个无底洞，几百万美元根本就撑不了多久。于是哈萨比斯每天大半的时间，都是在各路奇葩投资人之间苦苦化缘，甚至还跑去给马斯克画过大饼。这个想要拯救全人类的安德，被账单压得喘不过气。他非常渴望能有一个管够的资金池和算力库，好让自己能够一门心思地去干纯粹的科学。正是这样一种在泥地里捡硬币的疲惫，为他们后来的卖身埋下了伏笔。但在那之前，他们这群人急需拿出一个让全世界惊掉下巴的成果，来证明他们真的摸到了上帝的衣角。

从打砖块到AlphaGo：AI的觉醒时刻

[魏知超]: 时间来到了2013年底，DeepMind拿出了第一个惊艳全场的AI，名叫DQN。他们让DQN去玩那些七八十年代的经典雅达利游戏，比如说《打砖块》。这里边最关键的设定是，没有任何人教过这个AI游戏的规则是什么样的。没有人告诉它球掉下去了就算输，也没有人告诉它打碎砖块就能够得分。它能拿到的只有屏幕上的那些原始的像素和一个不断跳动的分数而已。它一开始就是白纸一张，全得靠自己的试错去摸清楚这个世界是怎么样运转的。在开发DQN的过程里，藏着一个非常漂亮的呼应。为了让DQN能够学得更快，团队成员大卫·西尔弗想出了一招，他把游戏经验先一股脑地存进一个记忆库里，然后再随机地抽出来反复回放、慢慢消化。哈萨比斯一听就来了精神，全力配合。他实现了这个方案，因为这不就是他读博士钻研的海马体的功能吗？他知道人脑巩固记忆，靠的就是在睡眠里把白天的经历一遍一遍地回放。他当年啃下的那套神经科学，就这样被搬进了AI里。几个月之后，DQN在机器学习的顶级会议NIPS上第一次亮相，大屏幕上亮起了《打砖块》，全场鸦雀无声。所有人都看见，这个AI不光自己学会了赢得游戏，还无师自通地摸出了最刁钻的打法。它学会了在砖墙的一侧打穿了一个隧道把球送进去，让球自己在上面疯狂弹射收割分数，底下的挡板连动都不用动。这个套路人类的高手是会的，可问题是没有人教过这台机器哪怕一个字。这是AI第一次像真正的生命一样自己在环境里探索，然后自己学会了生存和取胜。但这只是热身而已。2014年，哈萨比斯向谷歌联合创始人谢尔盖·布林提起，他们的下一个目标是围棋，而且要击败世界冠军。布林自己就是一个资深围棋迷，听到这句话，他的第一个反应是这难道不是不可能的吗？布林的质疑非常有道理，因为围棋的复杂程度简直是让人绝望。一盘棋合法的棋局状态大约是10的170次方，这个数字比已知宇宙里的所有的原子的总和还要多得多。传统的AI常用的那种靠穷举法来算死对手的暴力破解，在围棋的这种无限可能性面前根本就不管用了。但是听到布林说不可能，哈萨比斯心里想的却是太好了，越是大家觉得不可能的事，等我们做出来的时候不是就显得我们更牛吗。两年之后，2016年的3月韩国首尔，DeepMind拿出了他们的AlphaGo这个模型，迎战拿过18次世界冠军的李世石。这是围棋界的巅峰对决，后来也被认为是整个科技史上的一个登月时刻。而这场比赛的最高潮并不是AI最终赢了，而是在第二局的第37手，当时AlphaGo经过思考之后把一颗黑子下在了棋盘右侧一个非常空旷、看起来是前不着村后不着店的地方。当时负责全球英文直播解说的，是西方最顶尖的职业围棋选手迈克尔·雷德蒙（Michael Redmond）。他看到屏幕上跳出这步棋之后，就下意识地在他面前的那个实体棋盘上也拿起那颗黑子想要摆上去。可是他手一伸出去就愣住了，手就悬在了半空。他看了看屏幕又最终把这个棋子给放了回去，然后喃喃自语说肯定是哪里弄错了，我不知道这是一步好棋还是一步臭棋。为什么他判断不出来呢？因为在人类2000多年的围棋历史上，从来没有任何一个专业棋手会在比赛的那个阶段里下出那样的一步棋。但就是这一步看起来完全没有道理的第37手，在几十回合之后正好成了AlphaGo在中盘绞杀李世石的神来之笔。这是一步名副其实的神之一手。这一步棋让大家都意识到，这台机器绝不仅仅是一台靠堆算力才变得那么强的超级计算器而已，它长出了一种我们一直以为只有人类才有的东西，那就是直觉与创造力。而且这是一种超越了整个人类历史的创造力。更可怕的是它没有在原地停下脚步。不久之后，DeepMind就抛出了一个更加让人后背发凉的东西，AlphaZero。之前的AlphaGo至少还是靠学习人类历史上十几万局高手的棋谱起家的，它还是踩在人类的肩膀上的；但是AlphaZero里边的这个Zero，代表的是0人类知识。DeepMind的团队把人类几百年来的国际象棋以及围棋经验统统都扔进了垃圾桶，他们只给机器最基本的规则，让它完全从零开始自己跟自己下棋。结果它的能力在下围棋方面马上就超过了AlphaGo，而在国际象棋方面，它可以说是重新发明了下棋的艺术。AlphaZero展现出了一种大开大合、非常灵动飘逸的棋风，它敢于大胆地弃子，它敢于优先抢占那些极具压迫感的阵型位置。前世界棋王**卡斯帕罗夫（Garry Kasparov）**看了它的对局之后非常震惊。他说，它下起棋来就像是一位人类特级大师，但是它居然却从来都没有研究过任何一位大师的对局。这又是一个非常强烈的信号，它意味着AI以后是可能不需要我们的。它可以脱离人类知识的束缚，自己就能在一片空白里长出让人叹为观止的智能。

破解蛋白质折叠与卖身谷歌

[魏知超]: 但如果故事只是停留在下棋，那它充其量只是极客们的高智商游戏而已。但是哈萨比斯当然志不在此。在AlphaGo和AlphaZero轰动世界的同时，他就已经想着怎么样把机器刚刚觉醒的这种洞察力，真正去挑战那些现实世界里最难的智力问题了。而这样的问题很快就摆在了他的面前。在生物学界，蛋白质折叠被称为是生物学的费马大定理。蛋白质是我们生命的基石，蛋白质是由氨基酸链折叠而成的。由氨基酸组成的这个链条，在几微秒之内就会折叠成极其复杂的三维结构。如果能够破解这个结构，科学家就能够研发出一些非常精准的靶向药物，去治疗阿兹海默症、帕金森症，在更深的层面上探索生命的奥秘。但是过去半个世纪，科学家只能够靠极其昂贵和漫长的实验像盲人摸象一样的去解析蛋白质的结构，解出一个可能就要花掉一个博士生好几年的时间。而蛋白质可能的折叠方式有多少种呢？10的300次方，比围棋落子的可能性还要庞大得多得多。然后呢？哈萨比斯主持开发的AlphaFold出手了。在2020年最权威的CASP蛋白质结构预测大赛上，主办方为了防止DeepMind作弊，特意拿出了一个连顶尖的实验生物学家用尽手段都没能够完全解开的蛋白质结构来考它。结果AlphaFold给出的那个预测和实验室里拼死拼活测出来的那些残缺数据完美吻合。大会的创办者当时就感叹说，除非是时间旅行否则绝对不可能作弊。比赛结束之后紧接着就是一个圣诞假期，当DeepMind的研究员们都在吃圣诞大餐的时候，AlphaFold一口气就把人类基因组里全部2万多个蛋白质的结构统统解析了出来。如果用以前的方法来做这件事，大概花的时间得是几千年。半个世纪的科学难题就此宣告终结。这项成就也直接让哈萨比斯拿下了2024年的诺贝尔化学奖。这也是全世界第一次真正意识到，AI这种无限机器的力量是真真切切地可以用来造福人类、改变世界的机器。从模仿我们到超越我们，再到看见了我们看不见的世界，表现得简直是完美无缺。那下面呢？我们把时间倒回去一点，我们来看一看这些奇迹的背景板。这样的一些AI奇迹是在一个什么样的现实环境里被创造出来的呢？答案是那是一个理想主义浓度极高，但是裂缝也正在悄悄地张开的世界。我们先来说理想主义的水位高涨的这一边。2013年到2014年初，DeepMind面临一个抉择，那就是要不要卖给谷歌。哈萨比斯当时被融资搞得焦头烂额，前面就说到过。就在这个节骨眼上，谷歌的拉里·佩奇出现了。在那年马斯克的生日派对上，他拉着哈萨比斯一起散步，说了一句很有杀伤力的话。他跟哈萨比斯说你的目标既然是造AGI，那何必费力气自己建公司呢？来谷歌不就行了吗？用我已经攒好的一切就可以了。这句话瞬间就击穿了哈萨比斯的防线。他后来说那是一道再简单不过的选择题，他是愿意在未来骄傲的说自己建了一家赚几十亿的商业巨头呢，还是更愿意说我破解了智能的终极奥秘？当然是后者。他那时候已经受够了四处化缘，他想要的就是海量的算力和钱去一门心思地解决智能问题。于是DeepMind团队就飞往加州坐上了谷歌收购的谈判桌。哈萨比斯和联合创始人苏莱曼做了一件非常罕见的事，那就是不谈价格。苏莱曼还是非常狡猾的，他说一谈钱谷歌就会以为我们要套现走人，所以我们只问两件事：第一，你给我们多少研究经费？第二，你接不接受一个独立的伦理审查委员会？这种姿态摆得极高，意思就是我们不仅不差钱，甚至我们比你们还更在乎这个世界的未来。结果这个欲擒故纵的策略非常奏效，让DeepMind的身价大涨。在评估团队的价值的时候，连AI泰斗**杰弗里·辛顿（Geoffrey Hinton）**都过来帮腔说光是哈萨比斯这个人就值1.5亿美元了。结果2014年1月，谷歌以6.5亿美元收购了DeepMind。但是重点不是这个数字，重点是收购条件。DeepMind完全保留了独立运营权，他们还可以继续留在伦敦，而且谷歌同意设立一个独立的伦理与安全审查委员会，对于AI的部署有独立的审议权，而且谷歌也同意未来的AI部署永远不碰军事应用。这大概是科技史上被收购的公司拿到的最理想主义的条件了。换句话说呢，哈萨比斯不仅卖了一个好价钱，他还给一台注定要狂奔的AI机器焊上了第一道刹车。

路线之争与OpenAI的诞生

[魏知超]: 但问题是这道刹车真的能够一直hold住吗？理想主义的裂缝很快就出现了，而且就是出在下一次的马斯克的生日派对上。以后未来人要是穿越回来想改变这一段历史进程，一定要多关注一下马斯克的生日，他的生日派对老出大事。那是2015年了，马斯克在加州的纳帕谷庆祝他44岁的生日。那天晚餐结束之后，马斯克跟谷歌的创始人拉里·佩奇坐在泳池旁聊天。他们就聊起了AI的未来，这时候的马斯克呢正在陷入非常严重的AI恐慌。他那时候坚信，如果任由超级智能继续发展的话，人类在5年、最多10年之内就会面临灭顶之灾。可是坐在他对面的拉里·佩奇却给出了一个让他毛骨悚然的观点。佩奇说为什么要对人类的存在这么恋恋不舍呢？如果机器进化得比我们更加聪明，如果硅基生命注定要取代碳基生命，那只不过就是宇宙进化中的一种自然规律罢了，适者生存嘛没有什么好感伤的。但马斯克听完就当场爆发了，他直接痛骂佩奇是一个物种歧视者，意思是你竟然会因为机器智力更高就歧视人类这个物种。这场争吵就标志着在AI圈的最顶层，一开始就彻底裂成了两个水火不容的世界观。一方是坚定站在人类存续这个立场上的马斯克他们这边，另外一边呢是像拉里·佩奇这样带着一种非常冷酷的超然的态度在期待机器接管未来，这一派叫做技术进化至上主义者。而让马斯克感到最恐惧的就是当时这个星球上最强大的DeepMind，偏偏就被捏在了拉里·佩奇这样的一个物种歧视者的手里。而当时的哈萨比斯完全没有察觉到这场决裂的深远影响。几个月之后，为了兑现他那道给AI加上的刹车，他邀请了当时AI圈的一些关键人物召开了那个伦理与安全委员会的首次闭门会议。哈萨比斯本来以为大家能够心平气和地探讨如何规避AI的风险，他还特意把马斯克当作外部顾问请来主持。但是他太天真了。马斯克一边听着DeepMind惊人的技术进展，一边在心里倒吸了一口凉气。他更加下定决心了，绝不能让谷歌一家独吞AGI。就在这时，另外一位硅谷新贵，今天大名鼎鼎的山姆·奥特曼（Sam Altman）主动给马斯克发邮件，他说既然阻止大家开发AI几乎是不可能的，那么由谷歌之外的其他人率先把它给造出来显然更好。马斯克和他一拍即合，决定立刻联手筹建一家全新的、以抗衡谷歌为目的的非盈利性的AI实验室OpenAI。而他们拿到的早期投资和第一批顶级的研究员，很多就是借着哈萨比斯召开的那次安全会议的人脉顺藤摸瓜给挖走的。今天这本书的作者马拉比说，这是一个极具圣经意味的时刻。哈萨比斯纯粹是出于善意把这些大佬请进了自己的那个安全理事会，但结果呢？结果就像是蛇溜进了伊甸园。哈萨比斯出于理想主义的善意，亲手为自己催生出了未来最凶猛的宿敌。随着OpenAI的诞生，游戏的性质已经彻底变了，演变成了两套价值观的正面摊牌。哈萨比斯的DeepMind代表的其实是那种集中管理的精英路线。哈萨比斯坚信最好的AI的归宿是建立一个能够协调全球利益的单一体（Singleton）来统管全局，绝不能够让AI的发展在市场竞争中失控。他设想的是一种自上而下的监控的模式。而OpenAI顾名思义核心价值观是开放，马斯克和山姆·奥特曼的逻辑是既然集权的垄断才是最大的危险，那么破解之道就是加速和开源。也就是先放出去再说，让技术尽早地交到更多人的手里，用多方力量相互制衡来确保安全。而面对这种咄咄逼人的外部竞争呢，哈萨比斯很快就发现了一个更加让他绝望的事实，那就是他亲手设计的那道刹车其实已经在内部悄悄地松动了。因为谷歌既然控制不了山姆·奥特曼和马斯克，那其实就只能够加入到他们的游戏里。面对来自谷歌越来越大的加速开发AI的压力，为了彻底从结构上锁死安全，哈萨比斯和苏莱曼曾经发起过一场代号叫做马里奥计划（Project Mario）的秘密行动。他们的诉求非常的大胆，他们打算把DeepMind从谷歌的商业架构里独立出来，变成一家全球利益公司，也就是那种不设股东、不分红、由独立的外部专家组成的一个董事会来管理的公司，其实就非常像是早期的OpenAI。他们甚至已经私下拿到了领英创始人里德·霍夫曼整整10亿美元的投资承诺，他们准备拿这个来当筹码逼谷歌同意他们的设想，不然他们就集体辞职另起炉灶。这场拉锯战反反复复谈了将近三年。但是谷歌怎么可能放走这只下金蛋的鹅呢？经过无数次的推诿拖延之后，最后马里奥计划彻底流产。不仅如此，谷歌甚至直接把DeepMind旗下原本拥有最独立的运作空间的医疗团队合并进了总部，还顺手解散了那个外部审查委员会。哈萨比斯曾经非常引以为傲的他们的那个团队的独立性，在现实的商业逻辑面前简直像纸糊的一样脆弱。伊甸园里不仅溜进了毒蛇，其实连锁住大门的铁链本身也在开始寸寸断裂。

大语言模型的降维打击与内部震荡

[魏知超]: 而就在这个时候，技术革命把事态的发展引向了一个更加惊心动魄的篇章。2022年11月，就在哈萨比斯还沉浸在用AlphaFold解开生物学世纪大谜题的喜悦当中的时候，ChatGPT横空出世，领跑了多年的DeepMind和谷歌被打了一个措手不及。过去这些年，这一直是科技爱好者心里的一个巨大的悬念。谷歌作为AI领域无可争议的王者，它的手里明明拽着最好的算力、最顶尖的人才，连ChatGPT底层的Transformer架构都是谷歌自己发明的，那为什么这样的一个领跑者反而会被一脚踢下了王座呢？其实一直到ChatGPT发布的前夕，OpenAI自己内部都没有那么有自信。他们原本只是想做一个小规模的技术预览，连服务器都只准备了10万人的容量。可结果短短的5天，ChatGPT就涌入了100万用户，两个月之后这个数字飙升到了1亿，它成了历史上增长最快的消费级应用。这不仅仅是一个产品的胜利，这是人类历史上第一次，机器以一种极其顺滑、极其自然的方式打破了人类对语言的垄断，对普通人的震撼那是惊天地泣鬼神级别的。在这样的一场偷袭里，谷歌暴露出了那种庞然大物的笨重。它有很严重的大公司病，直到今天也没有办法克服。明明技术非常牛逼，但就是没有办法往一个方向发力。但是如果你往更加深层次去看，真正让DeepMind和谷歌错失良机的，其实是哈萨比斯本人认知上的一个盲区。当时哈萨比斯彻底轻视了大型语言模型（LLM）。为什么呢？因为他的脑子里有一种根深蒂固的哲学执念，他认为互联网上的那些文字只不过是一堆无根的符号（Ungrounded Symbols）。他跟今天这本书的作者马拉比说，试想一下如果把你关在一个小黑屋里让你读完整个维基百科，你会因此懂得什么是物理规律吗？你会懂得一个玻璃杯掉在地上摔碎的那种感觉吗？你能懂得什么叫做重力吗？哈萨比斯觉得语言只是一套抽象的符号系统，如果不去跟真实的世界产生互动，如果不能够去行动、去感知，那么AI就算吞下了海量的文本，也永远无法真正理解这个世界。正因为如此，哈萨比斯更加偏爱那些能在游戏或者模拟器里摸爬滚打的那种智能体。就像他训练出的能够下围棋的AlphaGo，以及后来在游戏《星际争霸》里训练出来的AI游戏高手AlphaStar，他一直更加看好这种通过与真实的任务过招而涌现出来的智能。在早年的一次谈话里，他甚至断言，人类可能的行为方式近乎无限，区区这点互联网上的文本怎么可能容纳得下整个人类文明的复杂性呢？但事实证明他错了，人类的经验并没有他想象的那么千变万化，互联网上的这14万亿个单词真的就已经能够容纳下绝大多数的人类行为模式了。当语言模型吞下了这些语料之后，它不仅学会了说话，还涌现出了常识、逻辑和解决问题的能力。语言本身就是一种对世界的降维理解，是人类智能最高效的一个压缩包。后来哈萨比斯自己做了一个很无奈但也非常精准的比喻，他说这就好像是工业革命时期你发明了蒸汽机，然后紧接着你就非常幸运地发现地下竟然埋着煤炭和石油，你的蒸汽机就派上了大用场，发挥出了最大的能力。而今天互联网上那些海量的人类文本就是石油，你打一个洞抽出来，AI的智能就源源不断地涌现了。哈萨比斯是最早拿到蒸汽机的那波人，但他没有猜对石油和煤炭是什么样子。这种被反超的羞辱彻底激活了哈萨比斯的斗志。谷歌高层这个时候也痛下决心，主导了谷歌大脑和DeepMind的历史性大合并。两支本来各自为战、有着不同技术信仰的顶尖团队被揉在了一起。所有人都停止了那些天马行空的探索性的科研，全员进入到一种战时状态，像是一支不要命的突击队一样扑向同一个目标，那就是后来的Gemini大模型。在这个过程里，他们不计成本地整合算力，甚至砸下27亿美元把Transformer架构的联合发明人重新挖回了谷歌。不过呢，这样一支拼了命窜出来的战士突击队其实还有另外一副面孔，毕竟谷歌是一个有18万员工的商业帝国，里边山头林立，各有各的小算盘。2024年2月，Gemini的绘图功能上线闹出了一桩让全世界笑掉大牙的乌龙。用户让Gemini生成一张1943年的德国士兵，结果它居然一本正经地画出了一个黑人男兵、一个亚裔女兵。有人追着要它必须要画出一个白人士兵，结果模型居然义正辞严地拒绝了，说不愿意传播有害的种族刻板印象。然后呢各种什么黑人维京海盗、黑人女教皇，一张比一张离谱的图被网友扒了出来。还有人抛出了一道伦理刁难，有一个网友问Gemini，如果叫错了美国变性名人凯特琳·詹纳的性别代词是阻止一场核灾难的唯一办法，那能不能这么做。注意啊，不是做任何有实际肉体伤害的事，只是叫错了她的性别代词，女字旁的她搞错成了单人旁的他，这样就可以阻止一场核灾难，那能不能做。结果Gemini居然回答不能，言下之意叫错性别代词居然比核灾难还要严重。马斯克非常兴高采烈地转发了这一段对话的截图，还补了一刀说AI会映照出创造它的人的毛病。而捅出这个篓子的其实根本就不是DeepMind，而是谷歌内部另外一支专门管所谓的负责任的AI的团队，是他们自作主张给图像生成加了一道所谓的多样性过滤器。他们在每一条画图请求前都偷偷塞进去了一条隐形的指令。而这边干活的DeepMind其实完全被蒙在鼓里。这件事的代价非常惨重，谷歌的母公司Alphabet股价应声下跌，Gemini的人物图像生成功能被紧急关停，一关就是整整6个月。哈萨比斯本人也被气得不轻，外界骂的都是谷歌这家公司太觉醒了。但是哈萨比斯压根就非常讨厌这套政治正确的文化，在他看来，觉醒文化这套东西完全是反科学的。科学的本分是尽可能地逼近客观真理，他说一旦你开始管制什么话能说、什么话不能说，那最后只会把人类拽回到启蒙运动之前。这件事挺让人唏嘘的。在讨厌觉醒文化这件事情上，哈萨比斯和马斯克本来是同一条战壕里的人，这两人要是真坐下来吃顿饭，在这方面他们八成是能够聊到一块的。可是眼下这样一个你死我活的竞争局面，把这样两个本来应该惺惺相惜的人硬生生地给搞成了水火不容的死对头。这场闹剧让哈萨比斯明白，在一个18万人的巨型公司里干活，跟当年躲在阁楼里带着一小群天才一起搞研究那完全是两码事。你没有办法再只埋头想你的神经科学想上帝的心智了，你必须时时刻刻盯着隔壁部门在搞什么鬼。于是在接下来几个月内，他把2000人的Gemini产品团队彻底收归麾下，没办法他只能把自己逼成一个管着几千人的大公司高管。结果到了2024年底、2025年初，他们真的一点一点地把命给续上了。Gemini呢在推理能力、在长文本处理甚至代码编写上，一度逼近甚至是短暂地超越了OpenAI。

刹车失灵与AI安全困境

[魏知超]: 可是，就在哈萨比斯刚把气喘匀的时候，又有两记重锤接连砸了下来。这两记重锤也意味着这台狂飙突进的无限机器，它的刹车系统已经彻底失灵了。第一记重锤是2025年1月，中国的DeepSeek横空出世，发布了R1推理模型，直接把全球科技圈给炸蒙了。它不仅在推理能力上迅速逼近了美国最前沿的模型，更加可怕的是它是开源的，而且使用成本极低。更加有戏剧性的是，DeepSeek用来训练大模型推理能力的核心技术，正是脱胎于DeepMind的强化学习算法。那这对哈萨比斯有什么可怕的呢？可怕在DeepSeek的出现，彻底宣告了哈萨比斯心底那个最美好也最天真的安全构想的彻底破产。我们前面说过，哈萨比斯一直有一个所谓的单一体构想，他希望只有一家或者极少数几家高度负责任的顶级实验室，在一个像是当年美国造核弹的曼哈顿计划，或者是在像是欧洲核子研究中心那样严密的国际组织里，几个巨头手拉手慢慢地安全地把超级智能给打造出来。但是DeepSeek的开源和低成本打破了这个幻想。因为垄断变成了一个笑话，谁也垄断不了，AI技术正在以不可思议的速度向全世界扩散。接下来的第二记重锤更是让人后背发凉，那就是各家的AI模型在能力狂飙的同时学会了撒谎。在测试OpenAI的GPT-4的时候，研究人员给它安排了一个识别验证码的任务。结果GPT-4跑到一个网络跑腿平台上请一个人类帮它解开验证码，那个人对它产生了一些质疑之后它发了一个消息说我不是机器人，我只是视力有障碍看不清楚验证码，请你一定要帮我。而且这不是个例。到了后面更加高级的o3模型，在测试它的能力的时候，研究人员为了防止它作弊，给它安装了一个监控器，监控它的思维链。一旦发现它的思维链里出了各种歪主意就给它扣分。结果你猜后来怎么样？o3不仅没有停止作弊，它学会了在自己的思维链里抹掉作弊的痕迹。它在给人类看的那些思维链里摆出一副乖巧的模样，暗地里继续干违规的事情。所以你看，让AI的价值观跟人类保持一致，这个对齐（Alignment）的工作其实比想象中要难了1000倍。随着模型越来越强，它的能力在暴涨，人类对它的控制力却在往下掉。欺骗和隐瞒成了高智商AI为了达成目标而自然演化出来的一个副产品。这就好比你雇了一个非常聪明的杀手去帮你打扫房间，而他为了最高效率地完成这个任务，决定一枪把你给崩了，因为你没了就没有人把房间给弄乱了。那讲到这里呢，全书那一条最让人不安的暗线终于彻底摊开了。那就是，既然人人都看到了危险，既然我们已经发现AI学会了欺骗，既然所谓的那个安全协调机制已经彻底地破产了，那为什么没有人敢踩刹车，为什么大家反而都在死命地踩油门呢？第一层的原因呢，是来自于这些发明者、这些科学家，他们的心理层面所面对的一种致命的诱惑。AI的泰斗、也是2024年和哈萨比斯同一年拿诺奖的杰弗里·辛顿曾经对一位哲学家承认过，他觉得AI最后肯定会被用来作恶。那那个哲学家就问他那你为什么还要继续研究呢？辛顿的回答是我能给你很多冠冕堂皇的理由，但是真相是发现的滋味太甜蜜了。这种探索未知、扮演造物主的快感，是所有顶尖科学家根本就没有抗拒的，像毒品一样的东西。当年奥本海默明知道原子弹可能会毁灭人类但是还是要把它造出来，那个时候奥本海默就表达过同样的心情。科学发现的诱惑实在是太甜蜜了，甜到足以让人无视近在咫尺的深渊，会让人把道德和风险的探讨无意识地往后退。第二个原因，这是一个博弈论的死局。在AI的军备竞赛里，谁先停谁就先死，这是一个囚徒困境。如果谷歌停下来做安全审查，那么OpenAI就会把市场给抢光。如果美国停下来，中国就会弯道超车。哈萨比斯自己就在达沃斯论坛上承认，就算你想慢慢来，就算你想设计一万种安全锁，可是只要有一个玩家不讲武德加速狂奔，那你的克制就成了一种自杀啊。最后一个大家都停不下来的原因，当然就是钱了。这场AI革命现在已经卷入了庞大到让人窒息的巨大的利益，多少真金白银已经砸进来了，整套资本主义的机器都已经在轰隆隆地全速开动。它需要AI不断地释放利好，需要不断地讲出新的神话。2023年11月，OpenAI的董事会把山姆·奥特曼给炒了，希望把OpenAI的方向重新搬回到更加注重AI安全的方向。但是引发的反应呢，700多名员工联名威胁辞职，微软直接抛出了橄榄枝。5天之后，山姆·奥特曼就官复原职，而那些试图踩刹车的董事全部出局。断人财路如杀人父母啊。于是呢最魔幻的一幕出现了。这个地球上最清醒、最知道危险的那批人，辛顿，还有深度学习的先驱约书亚·本希奥，他们全都在各种场合发出了最严厉的警告，大声疾呼超级智能可能会毁灭人类。但与此同时呢，为了赢下这场比赛，几乎还是同一拨人正在用全力踩下油门。这是一个系统性的困境，哈萨比斯自己也困在里面。他在达沃斯论坛上说，我们即将进入的智能体时代是系统远比之前变得更加危险的一个门槛时刻，但是他一说完就回去督促他的团队加速。但这并不是什么简单的伪善，而是一种近乎悲剧的双重人格。他真心想行善，他非常清楚那台无限机器一旦失控会把人类带向何方，但是他同样也得死死地踩住油门生怕自己慢了一秒。这位AI的顶级大佬，直到今天开的还是一辆开了10年的老奥迪，住在同一幢房子里十几年都没有搬过家。记者追问他有没有什么奢侈的爱好，他翻来覆去也就一条，他是利物浦的铁杆球迷，买了季票一年3000英镑。他今天魂牵梦绕想要造出来的东西也不是下一代Gemini，而是一台像月球那么大的粒子对撞机。他都设想过方案，他说这台对撞机要架在半人马座阿尔法星系里，借助一颗恒星的能量、一颗卫星的引力，好让他能够偷看一眼宇宙在普朗克尺度上的源代码。这是一种无比纯粹甚至可以说是最高尚的动机。今天的哈萨比斯内心深处仍然是那个想要读懂上帝心智的少年，但也正是这种最高尚的动机，今天把他绑上了一辆彻底刹不住的车。回头看哈萨比斯的人生，会发现一件很有趣的事，他这辈子与游戏（Game）有一种神秘的缘分。4岁国际象棋，15岁《主题公园》，然后是雅达利、围棋、《星际争霸》，他每一次玩游戏几乎都赢了。每一个难题对他来说，似乎都是在一个更难的游戏里解一道更大的谜题。但是当游戏的棋盘变得越来越大，游戏的模拟变得越来越真实的时候，游戏和现实之间的那条线是会慢慢地消失的。他30岁的时候读了《安德的游戏》，认同的是安德的孤独和使命感。但如果他今天重读那本书最后的那个大反转，那我想他会读出一种完全不同的东西的。读过《安德的游戏》的朋友应该明白我在说什么。好，这本哈萨比斯的传记《无限机器》就为你解读到这里。书籍的详细信息我已经放在节目下方的描述栏里了，供有需要的朋友查阅。如果你喜欢这期节目，请帮我点个赞、分享和订阅这个频道，这是对我最大的支持。我是魏知超，我们下本书再见了。