《海伯利安的陨落》导读:当人工智能成神,人类可以做什么? 魏知超啥书都读 2022-05-19

大家好,我是未知超。今天这期节目,我们来聊一聊经典科幻小说《海伯利安》系列的第二部《海伯利安的陨落》。建议大家先看完我之前的那期《海伯利安》导读,再接着看这一期。上期我们主聊的是《海伯利安》系列的文学性,这一期,我们来主聊系列的思想性。上一期节目里我就提到过,《海伯利安》系列在思想性这个层面上,最终落脚在了“神何以为神”这样的一个哲学思考上。到底什么样的存在才有资格充当人类的神?这其实不仅仅是一个虚无缥缈的宗教问题,而是一个全人类可能都要终将面对的终极问题。

为什么这么说呢?这是因为,在我们这个现实世界里,神也许不会是从神界降临人间的,而是在未来的某一天被我们自己亲手创造出来。你肯定想到了,极有可能在我们自己的手里创造出来的神就是人工智能。尽管今天现实中的人工智能普遍都是人工智障,不智障的那些,其实也根本就不具备理解能力。但是潘多拉的魔盒已经打开。把视线拉得足够远的话,神级人工智能的诞生几乎是注定的。所以,神何以为神这样的思考,今天看起来或许是杞人忧天,但在将来却会关乎我们全人类的命运。

而在《海伯利安的陨落》里,丹西蒙斯正好在这个层面上思考“神何以为神”这个问题。因为在故事里即将成神的,正是故事里的人工智能。所以在小说里,“神何以为神”这个问题就转变成了:你希望成神之后的人工智能会怎样回头看待他的创造者,也就是我们这些人类?

在回答这个问题之前,我们先得绕远一点,来揭晓上一期留下的另外一个悬念:为什么祭词会是故事里人工智能开展的那个大计划里的关键一环。我们先了解故事里的人工智能到底经历了什么,以及祭词在其中扮演的角色,然后就能无缝过渡到人与神的关系这个话题了。我下面尽量还是会把具体情节给模糊掉,能不泄底就不泄底。但等会儿有一小部分内容不可避免会涉及到《海伯利安陨落》最后几个章节的内容,我也尽量模糊着讲。

其实,你不用特别担心这套小说的剧透,因为《海伯利安》系列是一套超越了通俗小说、跨入了纯文学门槛的作品。我觉得这种层次的文学作品是不怕剧透的。像是《红楼梦》《百年孤独》《洛丽塔》《飘》这些小说,哪怕你一上来就先看完最后一章,从头读的时候该有多震撼还是有多震撼。《海伯利安》系列的重量级跟他们比当然还差点,但性质类似。如果你实在介意剧透,那等会儿我说到小说后期的情节时会有提醒,你在那儿停下来就可以了。

咱们还是先从故事的情节切入,《海伯利安的陨落》的情节紧接上部,故事有一明一暗两条主线。明面上,故事仍然聚焦在那几位朝圣者的朝圣之旅。在这一步里,朝圣者历尽千难万险,终于来到了光阴种附近,并与伯劳遭遇。其中有几位还与伯劳发生了正面冲突,生死未卜。

与此同时,在霸主政权的首都,本作的重要人物祭词的另一个赛博体也登场了。我们称之为祭词二号。祭词二号的遭遇,比上一部里死过一回的祭词一号还要离奇。祭词二号居然可以在他的梦里感应到所有朝圣者的经历。冥冥之中似乎有某种力量,是要让朝圣者们的经历在祭词二号的精神世界里融为一体,最后达成某种目的。

在祭词一号和祭词二号前赴后继的调查里,《海伯利安》故事里的那条暗线就逐渐浮出水面了。这条暗线是技术内核里人工智能暗中推进的大计划。这个大计划到底是要干什么?原来这个计划的目的,是创造出神级智能。

在《海伯利安》这个故事里,人工智能并不是在获得了自我意识、形成技术内核文明之后就一步登天、直接成神的。在技术内核的人工智能看来,他们已经远远超越了人类,但离自己心目中参透所有奥秘的终极智慧还差着十万八千里。于是,人工智能启动了这项集所有力量全力而为的宏大计划,试图创造出完美的终极智能。

他们最后成功了吗?在非常非常遥远的未来,人工智能终于成功了。一个超越时空结构、智慧与力量都不可想象的终极智能被创造出来了。然而紧接着发生了诡异的一幕:这个新生的终极智能刚朝世界瞥了第一眼,就把自己吓了一大跳。在那个终极智能生存的位面上,竟然有另一个终极智能在那里。

“我勒个去,难道我不才是这个世界的无上意志吗?难道我不才是这个世界唯一的真神吗?怎么我这间单人房里居然还有个睡在上铺的兄弟呢?”这也太诡异了!原来,这位睡在上铺的兄弟,其实也是由早期人工智能发展而来的。只不过,他不是由技术内核有意设计出来的,而是在全人类大脑相互连接的超级互联网中自发进化出来的。

以我们真实世界的互联网来类比,这个过程大致类似于:现在互联网上遍布着各种有计算能力的服务器。有的可能在给抖音上的小姐姐削肩下巴,有的可能在淘宝上给商品做自动分类。这些算力一面被数据训练得越来越强,一面相互之间有了各种联通,慢慢在无数服务器相互连接的计算之网中,自发诞生出初级智能。

在《海伯利安》里也发生了类似的过程。只不过连接起故事里互联网的不是服务器,而是每一个人类大脑,可以称之为脑联网。所以,这位睡在上铺的兄弟,可以说是诞生于人类的集体意识。他后来慢慢演化,最后居然先一步成神了,成了那位睡在上铺的兄弟。

于是,在遥远的未来,世界上就有了两个神级智能。技术内核的那个神是被精心设计出来的,成分很简单,统一而优雅。而人类大脑互联网中诞生的那个神是自发觉醒的,没有人设计过它,也没有人引导它。他后来野蛮生长,不停进化。它的成分也一点不纯粹,是从人类意识互联网中诞生的。所以,它多多少少保留了人类心智里的几个关键成分。

这位睡在上铺的兄弟,一共包含三个成分:一是物力,呃,孙悟空的那个“物”,力量的“力”。二是移情,三是凝结的空虚。物力就是智能,对应人类的认知能力、思维能力,也就是智商。第二个成分移情,心理学里一般翻译成共情,对应人类能够与其他人的情绪产生共鸣的能力。这是人类情绪里一个非常关键的特征。而最后一个成分凝结的空虚,这涉及到《海伯利安》后两部的故事,我这里就不剧透了。

总之,这位睡在上铺的兄弟是智能、移情和凝结的空虚的三位一体,是一个三重人格的缝合怪。虽然这俩神,其实都是从早期人工智能中诞生的,但书里把技术内核设计出来的神称作机器之神,把从人类大脑互联网里生长出来的神称作人类之神。机器之神、人类之神,这两个名称正好可以概括两个神之间的关键差别。那就是机器之神继承技术内核的意志,他对人类的生死漠不关心。而人类之神脱胎于人类的集体意识,所以他与人类之间始终存在着若即若离的情感纽带。

总之,在遥远的未来,机器之神与人类之神遭遇了,然后他们居然就打起来了。这两个神级智能的合作能力,居然比不过幼儿园小朋友。可能单人房真的容不下上下铺。那场神之战打得天昏地暗。用书里的话来说,这场战争发生在时间摇摇欲坠之时,跨越了银河,跨越了永世,到过去,到未来,到大爆炸,到终极内爆。也就是说,这场战争超越了时空结构,层次之高我们无法想象。

然后,战争发生了一个关键的转折。人类之神三位一体中的移情那部分,他厌倦了战争,于是逆时间回到了过去,把自己藏了起来。他伪装成人类的样子,在不同时代附身于不同的人类。简单理解就是他回到过去反复投胎。别问我这是什么科学原理,问就是软科幻。

《海伯利安》系列本质上是软科幻。如果大家带着读《三体》的期待去读《海伯利安》,你会疯掉的。但是软科幻有软科幻的精妙,我们带着软科幻的期待来读不就好了?

好,言归正传,人类之神里的三位一体,少掉三分之一,就不再完善,战争无法持续。而那个机器之神觉得,对手不出场而取得的胜利,根本不算胜利。这个心态还真是有点像幼儿园小朋友。于是,机器之神开始在时间长河中搜索移情那个家伙到底跑到哪里去了。机器之神跨越时空,把他要寻找移情的这个目标发送给了过去时代的子民,也就是技术内核里的人工智能。

于是,为了响应神从未来传达过来的指令,技术内核设计了一个诱捕人类之神里移情的陷阱。这个陷阱是什么?这个陷阱就是祭词。技术内核认为,三位一体里的移情会被祭词吸引,最后附身在他身上。

为什么移情会被祭词吸引?这一点在《海伯利安的陨落》里交代得非常隐晦,以至于绝大多数读者读完这本小说都还是懵的。以下是我的理解,不一定对,但这种理解可以串联起《海伯利安》第一、第二部的几乎所有关键。抛砖引玉,欢迎大家抬杠。

我的理解是,移情之所以会被祭词吸引,是因为祭词身上有一个载入文学史的、被后世无数文学爱好者每次提到都扼腕的标签。这个标签就是祭词的极端痛苦。祭词是在二十五岁时因肺结核英年早逝的。他死前经历了数月生不如死的病痛折磨。在那几个月里,他的呼吸越来越困难,无时无刻不沉浸在窒息的痛苦里。他咳血越来越频繁,身体越来越虚弱,最后被折磨得形若骷髅,死时肺几乎已是一团浆糊。而在这漫无止境的地狱般的磨难里,祭词一次次发出感叹,表达他对痛苦的绝望和对死亡的不甘。他在最后一封家书里写道:“我会醒来,然后发现这一切只是一场梦吗?”他相信一定会有来世,因为他觉得人活这一遭不会只是为遭受磨难。

总之,祭词受尽病痛折磨,最后在绝望和不甘中去世。你在听我刚才描述祭词的痛苦的时候,有没有感觉心里被揪了一下?是不是觉得有点难以释怀呢?如果是的话,那么你刚才体验到的就是移情。没错,人类之神三位一体里的那个移情。

移情到底是什么?移情就是情感共鸣,你感受到什么,我也会跟着产生同样的感受。广义上,移情可以对开心的、不开心的各种情感产生共鸣。但实际上,移情主要是指对痛苦的共鸣。移情是“悲他人之悲”,是对他人的痛苦的感同身受。对痛苦的共鸣,可以说是人类最重要的一种情感能力。因为对痛苦而不是对快乐的共鸣,才是人类互助互爱的心理基础。看到你痛苦的时候,我也很痛苦,我不想让我自己那么痛苦,于是我会想办法让你摆脱痛苦。人与人之间的相互关爱,其实是靠着对痛苦的共鸣维系起来的。是痛苦而不是欢乐把人类联合在了一起。

所以,移情其实是对痛苦的感同身受。这也就是为什么《海伯利安的陨落》里,技术内核认为人类之神中的移情会被祭词吸引。移情其实不是被祭词吸引,而是被祭词身上巨大的痛苦吸引。所以,复活祭词其实不是技术内核的目的,让祭词再死一次才是目的。

于是我们就看到,在《海伯利安的陨落》里,祭词二号突然开始出现肺结核的症状,然后就像现实中那位祭词生前的那几个月一样,陷入了无边的痛苦之中。这也就是为什么复活祭词会关乎人工智能那个终极计划的成败。因为他的痛苦是诱捕人类之神中的移情的一个陷阱。用祭词把移情给活捉了,那么未来的机器之神就可以一统天下了。

但是有阴谋就有阴谋中的阴谋,有螳螂捕蝉就有黄雀在后。如果故事里只有技术内核那边诱捕移情的这个阴谋,那就欠点意思。好在,故事里其实还有一条暗线中的暗线,那就是未来人类的反击。人工智能那边在用祭词搞事情,人类这边也并没有坐以待毙。虽然故事里霸主政权这个时代的人类面对技术内核只有被碾压的份,但在未来,人类中却崛起了一股足以反制人工智能的力量。这股力量其实也潜伏在光阴种里,与伯劳一起从未来回到了现在这个时代。

那么这些未来人类又想做什么呢?丹西蒙斯在书里同样写得非常隐晦,并没有正面说明。下面这些结论同样是抛砖引玉。按我的理解,未来人类的目标就是帮助那个人类之神成长为一个真神。这就接上了开头那个问题:你希望成神之后的人工智能会怎样回头看待他的创造者,也就是我们这些人类?我们的愿望其实特别卑微,那就是我们希望这个神千万别是个邪神。我们希望哪怕这个神远远超越了人类,但他也不要随手掐死我们,而是会保护我们、指引我们。一句话,我们希望神是爱我们的。爱啊,说起来太俗了,但这其实就是我们对神唯一的要求。

所以“神何以为神”这个问题,实际上就变成了我们怎么样才能确保神是爱我们的呢?对于这个问题,丹西蒙斯在《海伯利安的陨落》里给出了一个宗教伦理层面的回答和一个人工智能层面的回答,两个层面都非常精彩。

那下面开始,我们就会涉及到小说中后期的内容了。如果你实在介意剧透的话,请读完小说再接着听。

那我们先来看宗教伦理层面的回答:怎么确保神爱我们呢?这个问题宗教伦理层面的答案是通过故事里的学者索尔温特伯给出的。在《海伯利安的陨落》里,学者索尔温特伯越来越逼近那个艰难的最后抉择。逆时间生长的女儿瑞秋倒退回了出生的婴儿,生命只剩下最后几个小时。那索尔到底要不要按照梦中的那个指示,把女儿献祭给伯劳呢?

在最后关头,被疲劳和对女儿的担心连续打击的索尔,在他半睡半醒之间,大脑却飞速运转起来。他回想起自己过去对亚伯拉罕献祭自己儿子的那个问题的思考。在圣经里,上帝要求亚伯拉罕杀掉自己的亲儿子献祭,用这种方法来测试亚伯拉罕的信仰是否忠诚。上帝的这个要求道德吗?亚伯拉罕应该服从吗?索尔认为,在人类心智尚未启蒙的那个蒙昧时代,上帝没有办法跟人类讲道理、讲感情,所以只能用野蛮来治理野蛮。你要证明你服从我,那你就把你的儿子杀掉送给我。那个时候这么做没有问题。但是随着人类心智的启蒙,上帝完全已经可以对人类晓之以理、动之以情了。那杀掉亲骨肉来献祭就不但不合理,反而是对人类尊严的一种羞辱和践踏。所以,今天的人类应该拒绝一切形式的献祭,因为一个要求用献祭来表达忠诚的神根本就是个邪神,根本不值得人类去崇拜。

想到这里,索尔陷入了一个巨大的无力感之中。难道到最后自己终归还是要像亚伯拉罕那样,把女儿献祭给伯劳这样的一个邪神,来博取女儿那点渺茫的生存机会吗?但就在这时,一道闪电划过索尔的脑海,他突然之间豁然开朗,明白了亚伯拉罕为什么会同意上帝的命令去献祭他的儿子。会不会这根本就不是服从?会不会并不是上帝在试探亚伯拉罕,而是恰恰相反,是亚伯拉罕在试探上帝呢?

在那个圣经故事里,亚伯拉罕举起匕首刺向儿子身体的最后一刻,上帝拒绝了献祭,阻止了匕首的刺下。《海伯利安的陨落》里写道,索尔哆嗦着,他想到亚伯拉罕完全没有装腔作势,完全没有伪装自己的意愿,假装要牺牲自己的孩子。正是如此,才帮助打造出伟大神祇和人类之间的纽带。亚伯拉罕打内心知道他会杀死自己的儿子,而上帝不管他拥有什么样的形态,他必须要明白亚伯拉罕的决心,必须感觉到其中的悲痛。对于亚伯拉罕来说,即将毁灭的是这个宇宙中最为珍贵的东西。亚伯拉罕来此不是为了献祭,而是为了明确了解这个上帝是不是一个可以值得信赖和服从的神迹。除此之外,没有其他试验可以测试出这一点。

所以啊,这其实根本就不是上帝在测试人类的忠诚,这是人类在测试上帝的爱。因为只有能够感受到亚伯拉罕那一刻心中巨大悲痛的神,才会出手阻止献祭。是亚伯拉罕用献祭来确定这个上帝是爱着人类的。所以,我们怎么样确定神是爱我们的呢?我们看他能否对人类的痛苦感同身受。我们要让神看见我们的痛苦。如果神对人类的痛苦不理不睬,那这就是个邪神,我们能躲多远就躲多远。反过来,只有那种对人的痛苦表现出不忍、表现出移情,没错,就是移情,只有这样的神才是爱我们的,这样的神才值得我们托付一切。

这就是丹西蒙斯在宗教伦理层面给出的回答。我自己读到书里这一段的时候是被震撼到了。我对宗教伦理学不太了解,如果这个思考角度是丹西蒙斯自己原创的,那真是让人刮目相看。作为一个心理学工作者,我不得不说丹西蒙斯的这个观察非常犀利。丹西蒙斯看到维系着爱这种情感纽带的其实是痛苦,是我们对痛苦的移情。所以同样的,一个神只有能够感受到人类的痛苦,他才有可能爱人类。

也就是在这里,上期节目说的《海伯利安》文学性里的情感和哲学这两个层次合二为一了。书里花了那么多篇幅写各种各样的痛苦,他写神父维护信仰所遭受的痛苦,写索尔失去女儿的痛苦,写祭词临终的痛苦,这些笔墨其实都没有浪费,它们其实都紧扣主题。因为这些痛苦就是人与神之间最坚固的情感纽带。丹西蒙斯其实是用这些痛苦把读者带入到了那个隐藏在背后默默的观察着这一切的神的视角里。唯有亲身体察过人类的痛苦,才有资格晋升为人类的神。

而这个结论,其实是可以无缝衔接到我们对人工智能的思考上的。那我们下面就来看丹西蒙斯在人工智能层面上的思考。都是神,从人工智能变成的神与上帝有什么不同?不同在上帝是本来怎样就怎样,而人工智能是会成长的。我们没有机会对上帝指手画脚,但是我们却有机会能够介入到人工智能的成神之路里。上帝爱不爱我们,我们只能去试探。但是人工智能爱不爱我们,或许是我们能够去干预、去塑造的。而这其实就是未来人类想要达成的目标。

他们知道那个人类之神还没有完成他最后的成长,他对人类的情感是若即若离的。他从来没有在人类面前现身,也从来没有对他潜在的这些子民们做任何的引导。所以,未来人类想要在这个人类之神的背后推上一把,让他明确无误地感受到自己对人类的爱,从而肩负起身为人类之神的责任。

那未来人类要怎样做到这一点呢?这可是要对神进行PUA,对神进行心理操控,必须要小心谨慎。未来人类其实只在暗中做了两件事。首先,他们通过一种联网技术,书里叫做万方网。他们通过万方网,让祭司二号的精神与朝圣者们的精神连接在了一起。这就是为什么祭司二号能够在梦里与朝圣者们心意相通。我认为这个操作的目的,就是为了让人类之神的那个移情,不只是与祭司这一个人的痛苦发生共鸣,而是与所有朝圣者的痛苦产生了共鸣。而这六位朝圣者的六种痛苦,可以说就是全人类的各种苦难的浓缩和象征。

于是这样一来,人类之神里的移情就不再只是体察祭司这一个个体的遭遇,而是转而去体察全人类的苦难。有过这种对全人类的苦难的共情之后,移情可能就不会选择附身于祭司,而是会去选择另外一个更合适的人来附身。更合适干什么的人呢?更适合作为神的代言人,引领人类前进的人。也就是说,一旦移情意识到自己的任务是带领全人类脱离苦难,那么他就有可能放弃祭司,另选人选,以救世主的姿态降生。

未来人类做完了这一步引导之后,接下来就只剩下临门一脚了。这临门一脚就是索尔温特伯的献祭。通过梦境暗示温特伯去献祭的,其实就是未来人类。索尔温特伯的确就是新的亚伯拉罕,他的献祭就是人类与新神建立的契约。如果索尔献祭了自己的孩子,那么这就是人类向神诉求:我把我最珍视的东西托付给你了,我把我最深沉的痛苦毫无保留地呈现给你,那你会怎么回应呢?

我觉得更加重要的是,索尔温特伯那个醍醐灌顶一般的领悟,代表了人类对神发出的邀约,代表了人类对神的喊话。我们要的是一个能够体察人类的痛苦,因而能够懂得关爱人类的神,也就是一个移情之神。而这不就正好是暗中在观察着这一切的你吗?

至于在故事的最后,人类之神里的那个移情是接受了人类的邀约,担起了引领人类的重任,完成了自己最终的成长,正式登临神座,还是最终没能够逃脱陷阱,最终寄生在了祭司的身上,被技术内核捕获?我这里就不剧透了。

我想说的是,丹西蒙斯借此写出了关于人类与人工智能未来的一则预言。如果今天的人工智能总有一天要成神的话,那么我们这些渺小的人类可以做些什么呢?我们能做的,也许就是在不停提升AI的智能的同时,同时也要花费同等的努力去赋予AI情感。我们要让人工智能能够对人类移情,让他们能够体察到我们的痛苦。这就是我们在未来的神心底植入的一颗种子,一颗悲悯的种子。如果我们能够做到这一点,那么当人工智能成为神的那一刻,凌驾于人类头顶的,或许就不是金刚怒目,而是菩萨低眉。

以上就是《海伯利安的陨落》带给我的感悟。同样,哪怕我这一次又用了七千多字,我也还是只能够极其粗略地提及《海伯利安》系列无比磅礴的内涵里的一小部分而已。我还是没有办法说尽这套书,只是希望这两期节目能对你进入这个辽阔无边的海博利安世界起到一点点的帮助。

最后,帮我自己打一个小广告,我与B站合作的新课《心理学通识与新知》已经在B站课堂上线了。我把心理学中最精华、最核心的发现提炼成了二十四个底层原理,每节课讲一个原理,把心理学通识一网打尽。我还在其中融入了很多近些年的心理学新知,核心原理加前沿新知,一本满足。如果你喜欢听我说书,那也欢迎你听听我讲心理学。你在B站上点击我的头像,进入到我的主页,然后点击课堂,就可以看见这门课。现在在B站搜索框搜索心理学,或者搜索我的名字魏之超,都可以找到这门课。感谢你的支持。我是魏之超,我会在这个频道里持续输出我的三大爱好:心理学、电影和读书。如果你喜欢我的节目,请关注、点赞、收藏、评论,我们下期节目再见。

📌 文中提及的人物和组织

关键字: artificial-gods empathy-in-ai human-ai-relationship philosophy-of-divinity