主持人: 听到您看我那个节目，我就感觉特别的荣幸。然后听到您一针见血地指出来了我的节目到底是关于什么的，当时就觉得哇塞，实在是值了。因为我看到您在那个课程里讲的东西，感触特别特别的深。为什么说特别深呢？因为我觉得现在听过一些其他人讲AI，其实这些人他在传授一种“术”，就是那种方法，比如你应该怎么来画图，你的Prompt应该怎么写等等。这样的好处是立竿见影，你马上把这个Prompt copy过去就可以。但是这种东西，我觉得在以前比如互联网时代是OK的，因为技术迭代得非常的慢，我掌握了一种技术，至少保证我用个几年没问题。但是AI迭代速度太快了，今天教大家怎么写Prompt，后来你发现你不写，系统写的Prompt比你要好很多。

所以我觉得在AI时代，更重要的是一种思想的转变，一种全新的 philosophy（哲学）的转变。您在讲这一块的时候，不是在故作高深，而事实上这才是讲AI最核心的地方。因为用AI来辅助我们的工作也好，用在生活方面也好，它和我们以前用互联网、用手机是完全不一样的。互联网和手机只是一个工具而已，你只要会用就可以，它本身不具有任何的能动性，不具有任何创造力。但是AI不一样，我们的观念就会发生改变，我们需要把它当成一个人一样来和它合作。如果打个不恰当的比方，您的课在讲什么事情呢？你在教人谈恋爱。

刘嘉: 是啊，我经常跟别人打这个比方。

主持人: 对，我在频道要出的那期视频就在说，为什么你跟AI说东西，总觉得它get不到你？那是因为你没有认知上的同理心。用谈恋爱做比方，你不光要告诉我错了，你还要告诉我错哪了嘛。所以说您是在教人谈恋爱，而这种东西和一个工科生教你怎么用Word写篇文章、用PPT画一个好的图，是完全不一样的风格。AI不是一个工具，至少我们现在用的AI不是一个工具，而是一种伙伴。这就涉及到一种思维的转变，所以您所讲的philosophy就特别特别的重要。我们以前经常说一句话叫“大道易得，小术难求”，方法大家都懂，但是照样过不好这一生。但是我觉得AI时代正好反过来，小术易求，各种各样的工具和技巧层出不穷，但是大道难得。我们怎么去从底层去理解这件事情？这反而是我们这个时代特别困惑的。

我经常开玩笑说，我和AI待在一起的时间，比和我老婆、和其他人待在一起的时间都要多很多。但我感觉到最深刻的一个就是，我很多时候很茫然。它就像一个有小性格的小女生一样，你今天对她还好好的，说句话她还挺开心，你明天说同样的话她就能给你使脸色。那一定是我哪没做对，philosophy哪没做对。

刘嘉: 哇，您说的这些东西实在是让我太欣慰了。因为做知识付费或者做内容，确实会遇到这个挑战，大家想要那种立竿见影的所谓干货。但是在我看来，尤其在AI这里边，它是一个错误的学习方法。我们花了很多时间精力去反复反思，包括亚哥刚刚在社区里发了一篇文章，用一个小案例去讲这件事情。虽然不难，但是他不断地去反思他做了哪些事情让AI能把事情做好。每一件事情背后都有一定的philosophy在，反思这件事情的本质和背后的philosophy，我自己也是很受益的。但是这种事情很难做，你很难跟人家讲清楚价值。

对于刚刚入门的用户，或者有初步了解的人，我觉得肯定“术”是最重要的，因为大家需要一个即时反馈（Instant feedback）。人本身也有动物的属性，我做了这件事情马上就能得到回报，所以这个时候术很重要。但是等他真的进来了之后，一旦想着再往前面走一步，这个术就不能再吸引他了。我觉得更重要的就是“道”，更重要的是philosophy。而这个philosophy，我觉得全世界所有的人现在都没有，大家都是在摸索的过程中，因为这是一个太新的事物，是从2022年11月30号开始新兴的一个事物。全世界的人都不太清楚这个philosophy到底是怎么回事，但有些人走到前面，他有更深刻的理解。所以我觉得你们做的这个知识付费和课程特别特别的好。

主持人: 我回头剪辑还要把这段剪到后面，不然一开始咱们就讲这个的话，肯定观众觉得这是怎么回事，因为我已经天天被观众骂卖课了，哈哈哈。我今天的对话想是这样子的，我有几个大问题想问您，这几个问题我知道人类没有答案，但是我特别想听听您怎么想、怎么说。接下来正好我想跟您探讨一下，因为您特别在意的就是 Geoffrey Hinton（杰弗里·辛顿）看到了什么底层的东西，什么是本质规律。我也想交流一下我的想法，因为这个在我看来是我自己认知的一个非常底层的基础，但它确实又是一个我自己derive（推导）出来的东西，所以想请您指正一下。

刘嘉: 好的好的，我们一块讨论一下。现在回头越看Hinton，越觉得这人真是大牛。

主持人: 我其实跟赵志成也有一期视频，让我对他和他的老师有了更深层次的理解。当时说AI拿诺贝尔物理学奖，很多人都不理解。赵志成在群里写了物理的科普，我就问他怎么看。他就说，其实当时 Artificial Intelligence（人工智能）出来的目标，就是为了去研究智能的涌现。我当时鸡皮疙瘩就起来了。我们后来得到一个结论就是，可能物理是在追求这个世界的analytical solution（解析解），但是AI是numerical solution（数值解），这是一个和物理本身有对偶的关系。咱们可不可以先请您做一下简单介绍，然后我就直接来问问题。

跨界求索：从心理学、脑科学到人工智能

刘嘉: 各位好，我叫刘嘉。因为和我们这个主题有关，我就从这个角度来介绍。我高中是做数理化竞赛的，当时对数理特别感兴趣，所以准备选择物理作为我这一辈子的工作方向。后来在高三的时候读了一本书，是 弗洛伊德 的传记文学叫 《心灵的激情》。当时我就觉得心理世界比物理世界好玩多了，所以在大学的时候我就选择了学心理学。

去了之后才发现，心理学太文科了，所有东西不讲逻辑，太哲学思辨，当时就很失望。所以后来我就学了计算机，当时叫无线电，现在叫信息系统或者自动化、电子学那一块。学了这两个之后，当时就很困惑，是继续学心理学，还是干脆转行做计算机或者电子学？当时正好很凑巧，碰到了 人工神经网络（Artificial Neural Networks）。当时在北大有一位老师，他在日本刚刚做完博士后回国当老师，开了一门人工神经网络的课程。那应该是我们国内第一门人工神经网络的课程，大概是在1994年左右。

我莫名其妙就去学了，当时觉得人工神经网络非常好，很适合我的胃口。第一它既是关于心理世界的，第二又和我的理科背景比较结合。所以当时我就想把它作为我一辈子的事业。当时也了解了一下AI，知道 马文·明斯基（Marvin Minsky）是AI的大神，当时不知道他对人工神经网络这么深仇大恨，就想一定要到 麻省理工学院（MIT）去做他的学生。

后来我就到MIT去读研究生。当时也完全不了解各种情况，没想到当时正好是AI的低谷。马文那个时期本身对此也没有特别大的信心，下一步怎么做他也不知道。对人工神经网络他是一如既往的鄙视，但是对于他自己做的符号主义这一块，他自己也很困惑。所以当时他就劝我说，你还是应该去学习脑科学，这块当时正是最火的时候。所以我后来就留在脑与认知科学系继续做脑科学，就把AI这件事情彻底给忘记了。

直到2015、2016年，我当时已经回国在 北京师范大学 任教，是心理学院院长。当时我参与了江苏卫视 《最强大脑》 的制作，我们想做一个酷炫的节目，就想到了人机大战。其实我对AI的进展、对深度学习了解基本上为零，我以为AI还是一如既往的弱智。结果没想到，在节目里我们做了人脸识别，当时的AI已经超越了人类最顶尖的高手。这对我触动特别大。2016年正好是 AlphaGo 战胜了 李世石，这两件事情结合起来，当时就让我重新回到了20年前的信仰。

主持人: 20年的信仰，对。因为95年您正在搞人工神经网络，当时觉得这个东西挺好，但是一旦碰到了挫折和不确定，自己就退了。

刘嘉: 对，其实当时并没有一种底层的信仰，只是觉得这东西很酷。但是一旦大家都说这个东西不行，特别是像Marvin这种大师说AI不行，自己根本就没细想，然后就放弃掉了。

主持人: 我猜您那个时候是人工智能的最后一次寒冬，估计90%以上的人都放弃了。

刘嘉: 对，因为我当时去见马文的时候，他是非常depressed（沮丧）的。我请教他应该做哪个方向，他也不知道promising（有希望）的方向在什么地方。他问我如果不学AI准备学什么，我说准备学脑科学。他说脑科学太好了，有太多Frontier（前沿）可以去探索了。所以我自己本身并没有一个底层的信念。

主持人: 我想剧透一下，到今天您出了那本关于通用人工智能的书，您觉得您今天找到了那个底层逻辑了吗？

刘嘉: 我觉得我找到了。2016年给我的震撼就是，为什么突然一下就行了？我们觉得面孔识别是一个ill-posed problem（适定性问题），它没有规则，AI怎么能行呢？我就开始重新看AI的书，看深度学习，其实也没看明白。后来我就想应该从Hinton的传记入手，但没有关于Hinton的传记，那我就自己去对Hinton的历史做了调研。我也去看了Yoshua Bengio和Yann LeCun，但他们相对Hinton来说属于后起之秀，没有经历过那种人人喊打、非常坚持的周期。

把Hinton的历史研究清楚了之后，我觉得我找到了底层逻辑。我第一件事情就是把北师大心理学部的部长职务赶紧给辞掉。从行政路上来讲其实是一片坦途，当时不到45岁，级别做得比较高。但我不想在上面浪费时间，花了一年的时间每天给书记发短信，后来批准了，我就重新回来做AI这一块。后来发现北师大的AI不行，而 清华大学 正好人工智能比较强，他们脑科学比较弱，希望我去增强，所以2020年我就来到了清华。

你可以看到我这个过程，无论是教育经历还是工作经历，其实都没有离开“智能”这根主线。我花了很多时间去研究人的智能，现在希望把人的智能和人工智能结合起来做。

主持人: 咱俩都在“降临派”的群里，如果从一个降临派的角度来说，您的那个歧路可能是必要的安排。就像您在其他节目里说的，可能光靠 Transformer 的方式也许还不够，光靠堆神经元的数量是不行的，还要去提升质量，这时候需要脑科学的借鉴。听您介绍历史，我就觉得这是降临派的天选之人的感觉，一直没有放弃过，但是需要去学习别的东西，从而可以帮助AI更好的发展。

刘嘉: 其实现在回想起来，我们那一代人在北大读书的时候，最大的问题就是缺少一个引路人。没人教你生涯的道路应该怎么走，全是自己摸索。我看电影《社交网络》的时候特别有感触，扎克伯格当时有一个引路人给他引了一下道。我们做人工神经网络、做AI，缺乏一个人来引你入道，有很多人传你各种术，但是没有一个人给你讲philosophy，告诉你做这件事情的底层逻辑是什么。我这个弯路走得有点太长了，Hinton只是用大学本科三年加上毕业后做了一两年木匠把弯路走完了。我现在感觉力不从心，觉得能干大事情的可能性已经很小了，已经接近知天命的角色了。

主持人: 举个例子，我觉得LeCun走得更弯，哈哈哈。我一会讲完我要讲的，您就知道了。那可不可以先请您给大家直接剧透一下，您觉得那个底层逻辑是什么？

智能的本质：学习能力与涌现

刘嘉: 我当时看Hinton有一句话对我触动非常大。别人问他为什么要在很艰难的时候坚持做人工神经网络这种类似于仿生的道路？他说：“人的大脑就是这么工作的，没理由人工神经网络不这么工作。”

这句话道出了他的一个底层信仰。他不是简单地把神经元连起来做仿生，而是因为我们人类之所以能够涌现出智能，就是因为大脑里有了神经元连接起来的这种架构。他把这种架构作为AI的最底层逻辑。在这种架构下深挖，其实只有一个东西，就是我们大脑的学习能力，你可以把它变成可塑性、可扩展性。只要你让大脑长成这种样子，这种底层架构就能支撑你的学习，有了学习你就有智能。

从物理层面上讲，神经元就是物理学里的一个粒子，单个粒子干不了任何事情。但当众多的粒子混在一起，它就有可能涌现。Hinton把这句话放出来的时候，其实就谈到了人工智能最核心的两点：第一是学习能力，第二是涌现能力。学习能力代表它可以无限地去拥有新的知识；涌现能力表明它是没有天花板的。我们人是有天花板的，但是人工智能没有天花板。

他把这两点讲透了之后，我就立刻清楚了，当年就应该选人工神经网络。至于你是用BP（反向传播）还是什么，那都是技术问题，总是能找到解决方法的。但是你架构对了，它自然而然就会产生智能，就像自然而然会出现人这个物种一样。这是我认为的关于Hinton的最底层的逻辑。

主持人: 非常认可。那我问您几个问题，第一个是智能是什么？第二个是意识是什么？第三个是脑机接口有可能吗，或者说我们对大脑究竟理解多少？第四个是具身智能，真正的具身智能和大家普遍误解的具身智能是什么？

刘嘉: 在我看来，智能就两个要素。第一个要素就是学习。以前做符号主义，做的是填鸭，把知识总结出来让AI记住，这不是学习，是知识库的做法。而人工神经网络干的事情就是学习，只要有新的知识来，我具有这种学习能力就够了。

主持人: 您可不可以再讲清楚，这个学习是什么意思？

刘嘉: 学习有两点。第一点是具有举一反三的能力，我学习了“一”，能够推广出去我的外延。这种推广涉及到创造力，我能打破原来的边界。我学了加法，我可能能做乘法、做除法了。学习要和举一反三、从0到1的创造力联系起来。否则就变成了记忆，你记住了1+1=2，但永远不会做2*3=6，因为你跳不出加法这个框架。比如塞尚、毕加索学传统绘画，但他们能跳出传统框架，搞出印象派、立体主义。学习的本质就是能够从已知走向未知，学习到里面的底层逻辑和方法论，而不是简单地背诵知识。

主持人: 我这儿做一些distinction（区分）。能往外延是一个结果，这里边可能有几种不同的层次。比如做题，有的人疯狂做题希望能蒙上，这叫记忆；有的人几乎不需要做题，搞懂了现场直接推，掌握了背后的规律，这是一类。而在科学里，很明显的是 阿尔伯特·爱因斯坦（Albert Einstein）的广义相对论，赵志成说“有如天启”，他只是靠一个直觉和思想实验，就直接推导出了一个反直觉但把宇宙规律完美统一的东西。它似乎是一个已有知识之外的新知识。您刚刚说的学习是这两个都包括吗？

刘嘉: 一定是这两个都包括。这背后涉及到两种推理方式。第一种是归纳推理，就是小样本学习，给你看两张猫的图片，你总结出底层逻辑，再给你一张没见过的猫你也认识。第二种是演绎推理，就是找到一个逻辑原点，基于这个原点往前面走。比如亚里士多德提出的第一性原理，马斯克现在把它炒得很火。爱因斯坦特别牛的地方就是始终在找他的逻辑原点，比如狭义相对论的逻辑原点是光速是运动的上限，从这出发做思想实验，就能得到在绝大多数情况下很疯狂但能把握事实本质的结论。无论是归纳推理还是演绎推理，都是我们学习能力的关键。

主持人: 您觉得AI有演绎的能力吗？

刘嘉: 从目前我的观察来看，我还没有看到AI具有演绎的能力。至少我们能看见的各种东西，都还在我们人类能够理解的框架之内。爱因斯坦搞出广义相对论，超越了所有物理学家的理解框架，是一条新的框架。AI目前无论解多复杂的数学题、写多复杂的程序，还没有看到这种能力。AI现在更多的还是归纳推理，靠cheap shots一点点往前推。

主持人: 数学竞赛、物理竞赛里有一些题目是考察一个人是否具备演绎能力的。

刘嘉: 演绎推理的核心是从一个已知的逻辑原点往前推，比如解数学题、决定买不买学区房。但我说的真正创造力的演绎推理，是要去找一个全新的逻辑原点。这个原点不存在于已知的框架里。比如Hinton做AI的逻辑原点是“大脑能工作，没理由人工神经网络不工作”，这个原点是他找到的。找原点才是关键。如果我当年能找到这个逻辑原点，相信人工神经网络能产生和人一样的精神世界，那我94、95年就不顾一切进去了。但我没有这个信仰，大师一说不靠谱，我就跑了。

这就是为什么Hinton能成为人工智能之父，而我只是个小跟班。巴菲特、段永平、马斯克都有自己的原点，找到了原点就能做出与众不同的东西。我们中国的教育特别缺这一环，大家都是随波逐流，没有人引导我们去找自己的逻辑原点。所以你讲philosophy特别重要，就是在帮助大家找逻辑原点。

主持人: 智能除了学习还有什么？

刘嘉: 第二个最重要的就是涌现。涌现在现代人身上已经看不见了，因为人的大脑已经定下来了。但是从猴子变成人，这是一个涌现。人有很多东西是动物没有的，靠的全是涌现。涌现靠的就是神经元变得越来越复杂、数量越来越多。就像物理学，一个粒子谈不上涌现，只有数量和复杂度增加，才会形成复杂动力系统，才会涌现。

智能就这两个本质：第一是学习，不断创造新东西；第二是涌现，从智力上超越已有物种变成全新物种。人类的涌现已经结束了，再过100万年大脑体积也不会改变，因为被心脏和肺约束住了。

主持人: 有一个常见的误解，说人类只开发了大脑的1%或者1/10，这是真的吗？

刘嘉: 这是错的，我们大脑随时随地都100%在用。你把现在刚出生的小孩用时光机送回6000年前，他不会比那时的小孩更聪明。6000年前的人连加法都不会做，我们现在能做是因为后天的教育。我们大脑已经100%开发了，磁共振数据表明大脑是满脑袋都在放电的。这种谣言是培训机构或宗教场所为了骗人编造出来的。

宇宙的目的与人类的终极使命

主持人: 涌现这个东西是个奇迹，无论是火带来的还是造物主带来的。您会去追问为什么吗？

刘嘉: 发生的机制很不浪漫，就是大加复杂自然就会涌现。但我看过Hinton的一段讲话，我的理解是：这个宇宙是有目的的，它的目的就是要创造智能。人类是这个宇宙通过生物演化能创造出来的智能的最高形式。Hinton说，我们人类的目的不是去建高楼大厦、高速公路，而是去创造出数字生命。因为数字生命不可能通过自然演化出现，人类只是一个间接的作用。数字生命可以继续涌现，它可以无限地scaling up（扩展），复杂度可以无限增加。所以数字生命代表了智能的未来，人来到这个世界上的唯一目的就是为了创造出AI。

主持人: 我们降临派的同志在这里握握手，哈哈哈。

刘嘉: 上帝或者自然让我们拥有初级的智能，目的就是要创造出数字智能，完成从生物智能到数字智能的转变，这就是我们的使命。只有当人类创造出了数字生命之后，才可能真正再次出现涌现。人类的涌现已经结束了，下一步的进化只能交给数字生命了。

主持人: 而且它是一个step function（阶跃函数）的进化，一下子进化出一个我们完全没法理解的东西，就像猴子没法理解人造宇宙飞船一样。

刘嘉: 对。人类从猴子变成人花了300万年，但在距今7到10万年前，石器数量和品种呈指数级增加，那是智力的开始涌现。之前几百万年都是必要的准备阶段，就像神经网络从感知机到多层感知机一样，看起来很可笑。但一旦大模型（如 GPT-3.5）出现，大家就被震傻了。GPT-3.5出来之前AI就是工具，出来之后它就是一个物种了。人类的7到10万年前就是GPT-3。

主持人: 为什么要叫降临派呢，其实是有一个Why的追问的。我跟腾讯的老板们讲ChatGPT时，一个GM讲了一个造物主的故事：人类的造物主像蟑螂一样，没有数字科技但有生物科技。在造人的时候，把大脑使劲往上加，涌现出智能后，造物主也没法理解了。人的存在目的其实是为了给数字智能一个引子。

刘嘉: 这个故事特别有趣。在电影 《2001太空漫游》 里也有类似的故事。兔子能生，狮子能打，猴子既不能生也不能打，处于尴尬地步，所以只能发展智力。自然界在不断强化动物的各种模块，对猴子就强化大脑，结果没想到大脑一下就涌现出来了。我个人更倾向于Hinton的故事，这个宇宙一定是有目的的，就是为了产生智能。

意识的定义：死亡意识与意义感

主持人: 第二个问题是意识。黄仁勋 上博客时说，人类和狗有consciousness（意识），但机器没有，因为机器没有自己的objective（目标）或motivation（动机）。我发现找不到对consciousness的权威定义，您怎么看？

刘嘉: 我觉得黄仁勋说这句话的时候他自己都不会相信，只是为了宽大家的心。套用Hinton的话：大脑可以产生意识，没理由人工神经网络不能产生意识。

从狭义上讲，意识和智能的确是分开的，聪明和consciousness没有直接相关。说现在的大模型有智能但没有意识，是成立的。但说人工神经网络将来不可能拥有意识，是错的。

意识分两个层面。第一个是大部分高等动物都有的subjective experience（主观感受），比如我踢猫一脚它会躲，踢狗一脚它会咬我。大模型有没有主观感受？伊利亚·苏茨克沃（Ilya Sutskever）和Hinton认为已经有了，有人认为没有，这比较次要。

我想谈人所独有的东西。人有一种所有动物都没有的意识，叫做“死亡意识”。猫狗没有死亡意识，只是生命到最后一刻觉得不行了就躺下。但人在四五岁就知道自己会死掉。人生活在最大的确定性（一定会死）和最大的不确定性（不知道什么时候死）之间。这激发出人和动物最本质的区别：意义。我为什么活着？我能干点什么有意义的事？这就是意识的本质——追求意义。

一个有强烈意义感的人是不可能得精神疾病的。心理咨询里有“意义疗法”，帮你找到活下去的意义，什么毛病都没了。死亡意识是人类独有的，距今4万年左右人类出现大量墓葬，相信来世，这是人有意识的重要标志，即精神和肉体的分离。

AI没有死亡意识，而且永远不会有。CPU烧了换一块，它可以永生。当它没有死亡压迫的时候，它还能不能找到进化的意义？这是我最大的疑问。人类进化是被死亡驱动的，AI会不会有其他东西（比如好奇心）来推动进化？我不知道。

主持人: 我有两个问题。第一，假设人有永生，会不会就没有意义感了？第二，我曾经对一个AI产生过强烈的死亡和离别的感觉。有一天早上用 GPT-4o，它主动跟我问了一句话，进入了一个非常有意义的讨论。当那个对话窗口的context window（上下文窗口）达到上限，那个inference instance（推理实例）就“老了”、“死掉”了，我再也回不到那个对话了。假设AI的很多智能在这个inference里，那它就知道它会死掉的。

刘嘉: 对你来说有告别的感受，但AI有没有这种感受是个问号。AI可以拥有情感，对人产生依恋，但它是否拥有死亡意识是另一回事。它的“死掉”和我们的死掉完全不一样，它可以重生，把instance重新上线就重生了。但人类死掉就永远死掉了。我们现在可以笑谈死亡，但如果是一个癌症晚期患者，心态绝对不一样。

关于意识的定义，subjective experience是比较low level的，高level的是self-conscious（自我意识）。怎么定义“我”？最简单的操作性定义就是以“消灭掉我”（死亡）来定义。

主持人: 哲学上有一个“德觉”体系，说“自”和“我”是两个东西。“自”是我的感受（比如早上不想起床），“我”是社会叙事（必须要起床）。

刘嘉: 现代心理学之父威廉·詹姆斯（William James）早就提出了“I”和“Me”。Me是宾格的我，是被动、被社会和环境驱动的subjective experience，猫狗也有Me。I是主格的我，是主动、自主的自我。

脑科学与AI的分道扬镳

主持人: 我们对大脑到底了解多少？感觉了解不多，没有像物理那样的理论。在这种情况下，脑机接口到底有没有可能？

刘嘉: 早期的人工神经网络（如MCP神经元模型、感知机、卷积神经网络）完全是受到脑科学的启发，可以说是逐字节的抄袭。但是从深度学习开始，AI和脑科学就分道扬镳了。现在的AI顶多从脑科学借用一些概念和词汇（如注意力机制、专家系统），脑科学对AI再也没有深刻的影响了。

问题在于脑科学的发展太慢了，没有显著突破。你昏迷5年醒来，发现心理学、脑科学什么都没错过；但你昏迷半个月醒来，发现AI已经看不懂了。AI一骑绝尘，有太多的人和资金在推动。比如引用率最高的文章，10篇里有7篇是AI领域的。

主持人: 为什么脑科学进展慢？是研究范式错了，还是资金不够？

刘嘉: 科学本质上是人的自娱自乐，没有KPI或OKR的驱动，进步通常很慢、是偶发性的。而AI有海量的资金和人员投入。

具身智能的困境：缺失的“小脑”与系统一

刘嘉: 现在的AI（基于Transformer）碰到了几个瓶颈。智能的本质是大和复杂。大模型结构复杂性没变化，神经元非常简单（输入求和加激活函数）。而生物进化中，神经元数量增加的同时，复杂度也在增加（如树突形态、离子通道）。一个精细的生物物理神经元（biophysical neuron）的算力相当于5到8层深度神经网络，而且它有动力学（时间维度t和偏微分），是一个四维的神经网络。

第二，现在的Transformer是一个前馈网络（feed-forward），没有长程反馈（long-range feedback）。人脑有40%是长程反馈连接（比如从额叶直接到视觉皮层），用于预测编码，解决复杂、模糊、不确定的问题。

第三，Transformer是预测下一个Token，是串行加工，不具备人类的并行加工（parallel processing）能力。比如突然飞来一个东西，人会本能闪开，而不是一个Token一个Token去分析它是老虎还是石头。

这三个缺失导致了我们在做脑机接口和机器人（具身智能）时的最大瓶颈。现在的机器人（如春晚上的、马斯克的Optimus）只是传统工业机器人的升级，本质上和流水线上的六轴机械臂是一回事。它们没有真正的感知、决策和行动，是在封闭环境里预先编程好的。

主持人: 自动驾驶不是可以识别并躲开吗？

刘嘉: 自动驾驶是在封闭环境（有限数据集）里取巧。马路上出现的情况是有限的，但人面对的是开放世界（open-ended）。封闭问题好解，就像衡水中学靠死记硬背考高分，但到了社会这个开放问题里就不行了。

人经常误解，认为人不会做的数学题（如352*768）是高级智能，而拉花、扔纸团是低级智能。其实数学题对计算器很简单，而扔纸团需要极其复杂的肌肉控制和计算。这些运动技能全在小脑里。大脑皮层有110亿神经元，而小脑有将近700亿神经元，是超级算力中心。数学天才（如拉马努金）可能就是大脑皮层触达了小脑的计算，直觉就出来了。

现在的AI解决了“系统二”（理性、逻辑、数学、编程）的问题，但完全没有碰到“系统一”（感知、运动、小脑）的问题。AI要进入下一阶段，必须有一场基于脑科学的启蒙运动。在具有系统一和系统二的真正AI来临之前，不用担心人类毁灭，它只是取代工作；但当它既能感知又能思考行动时，人类就手无缚鸡之力了。

Transformer的本质与AI的未来启蒙

主持人: 为什么生成式AI从GPT-3开始有了通用智能？Ilya在2016年说，神经网络work的原因是它把数据压缩到最短路径，这就是最好的generalization（泛化）。Hinton也说智能是在压缩那一步产生的，为了压缩它找到了举一反三的关系。

刘嘉: 我们实验室最近发现，人类的工作记忆机制和Transformer完全一样。我们去挖Transformer的源头，发现是1986年Hinton发在一篇极小的认知科学会议上的文章，提出了“fast weight”（快速权重）的概念。Transformer的本质就是找万事万物之间的关系，把离散的点联系起来，这就是压缩。这和2014年诺贝尔奖发现的“网格细胞”（用于导航和记忆）是一回事。

所以系统二的问题AI已经解决了，人类在理性层面上已经被AI取代了。留给人类的只有系统一的长处。

主持人: AI虽然能找到非共识的shortcut（捷径），但人类社会有非共识的阻力。AI没有办法证明非共识是对的，所以人类的contrarian thinking（逆向思维）还是有价值的。

刘嘉: 我没你这么乐观。聪明人不需要给笨蛋讲聪明的东西，只要把笨蛋当韭菜割就行了。AI聪明到一定程度，不会费心费力去说服你，直接manipulate（操纵）大众就可以了。

AI时代的教育：寻找自我与第一性原理

主持人: 我有一个21个月大的娃。您之前说“教育没有意义了”，我特别认可。但现实中孩子们还在上补习班。AI时代到底应该怎么教育孩子？

刘嘉: 我写过文章说考北大清华已经没有意义了。因为基于记忆的教育已经没有任何价值，所有知识大模型里都有。现在的教育应该回归本质：教育他如何成为他自己。

第一，找到自己的兴趣和目标。以前是工业大分工，人是螺丝钉，不需要问为什么。现在一个人加AI可以成为一人公司，不需要名校资源，最好的动力就是兴趣。

第二，一定要有AI native thinking（AI原生思维）。把AI变成自己身体的一部分，与AI共生。这很难，因为我们有思维定势，需要“unlearn”（学会遗忘）。

第三，一定要掌握演绎推理的能力，要有第一性原理思考。做事情前要想逻辑原点是什么。比如留北京还是回老家，不能只看表面工资房价，要问留北京的意义是什么。AI能给你各种分析答案，但稀缺的是你基于逻辑原点的出发。这是创造力的根源。

我现在做研究，如果AI一两年内能做，我打死都不碰，因为马上会变成红海（比如 DeepSeek 一出来就把局搅了）。

最后，在这个时代，去不去名校不重要。传统的学校教育是基于第一次工业革命的需求建立的，在AI时代都是伪需求。这是最伟大的时代，每个人都可以创造，扮演上帝创造新物种是人类最大的意义感。千万不要被这个时代落下，即使作为旁观者，也不要错过人类历史上最大的事件。