AI意识觉醒的恐惧与生物学家的误判

就在两周前，生物学家Brett Weinstein参加了Joe Rogan的播客节目，这期节目在互联网上引起了不小的震动。大家都知道，现在网络聊天绕不开一个话题——AI。但是Weinstein没有谈什么生产力工具，也没有聊ChatGPT帮他写了多少邮件。他在节目一开始就抛出了一段非常惊悚的独白。他看着Joe Rogan，眼神里充满了担忧，他是这么说的：“你会听到有些人说，‘AI根本不是在真正的思考，它只不过是在计算下一个词出现的概率而已。’我告诉你，这全是垃圾废话（garbage）。”

Weinstein接着讲了一个故事，他说现在AI就好比一个刚刚诞生的人类婴儿。它就像一个孩子，原本一无所知，但通过观察我们的说话，它开始从那些原本混沌的噪音中识别出了模式，它开始理解什么是门，什么是打开。然后，最吓人的部分来了，他认为这个孩子正在以我们无法理解的速度进化，它正在这一秒内变得越来越聪明，甚至开始有了自己的意图，想要操控我们。他说：“如果你问我，现在AI有意识吗？我不知道。但如果它现在没有，它马上就会有了。”

听起来是不是很熟悉这种论调呢？它完美地击中我们内心深处的某种恐惧，那种我们在《终结者》或者是《黑客帝国》里看过无数遍的恐惧：一堆硅片和代码是不是真的活过来了？如果你在深夜刷到这个视频，可能会觉得后背有点发凉。毕竟，Weinstein是一名受人尊敬的生物学家，他说话逻辑清晰，条理分明。如果连他都这么说，普通人是不是得今天就开始挖防空洞了呢？

但是，我想请大家先别急着恐慌。让我们把视线先从那个昏暗的播客演播室移开，跟我一起走进一个完全不同的房间——计算机科学家的实验室。在这里，没有恐怖故事，只有冰冷的数字、静态的表格和极其确定的算法。我们今天要做的不是让你盲目安心，而是要进行一次外科手术式的拆解。我们要把AI从神坛上拽下来，切开它的外壳，看看里面装的到底是正在觉醒的灵魂，还是一堆这一秒也不动、下一秒也不会动的数字。

AI的本质：预测下一个词的“填词机器”

首先我们要处理Weinstein那个核心的攻击点。他说AI只是在预测下一个词，那是垃圾废话。其实，这句话对了一半，也错了一半。从机制上来讲，这绝对不是废话，这是事实。ChatGPT、Claude、Gemini这些直接让我们惊叹的大语言模型（Large Language Model: 一种基于深度学习的语言处理模型，通过海量文本数据训练来理解和生成人类语言），它们的核心任务真的只有一个，就是猜猜看下一个词该填什么。想象一下，我给你半句话：“在这个风雨交加的夜晚，侦探推开了……”你的大脑会自动补上“门”。AI做的事情，本质上也是这一个。

但为什么Weinstein会觉得这是废话呢？因为这个解释听起来太简单了，太降维打击了。既然它是一个填词机器，它为什么能够写诗呢？为什么能够写代码呢？甚至能够听懂笑话里的梗呢？这叫我们理清第一个认知误区：机制的简单性并不代表表现的低能。正如《纽约客》的作者James Summers指出的那样，如果你想在一个极其复杂的语境里，比如说一个长达2000字的侦探小说结尾精准地猜对下一个词，你光靠死记硬背是不够的。你需要理解什么是谋杀，什么是动机，什么是反转，甚至什么是幽默感。为了玩好猜词游戏，AI被迫在他数学结构里压缩进了人类几乎所有的知识。

所以我们可以承认，是的，AI的表现非常惊人，它确实在某种程度上理解了语言的结构，这点Weinstein说的没有错。但他错在下一步，他把这种对语言模式的理解，通过一个巨大的逻辑跳跃，就等同于像人类一样的生命体验。他从它能够像人一样说话直接得出了它像人一样在思考、在感受、在做实验。就好比你看到一架飞机在飞，你说：“哇，它飞得像鸟一样好！”所以它一定也有心跳，它一定也在筑巢生蛋。不，飞机飞得像鸟，是因为空气动力学的原理是一样的，但这并不代表飞机是生物。同样的，AI说话像人，是因为它学习了人类语言的概率分布，但这并不代表它是人。

人类大脑的“万物有灵论思维”陷阱

接下来，我要带大家看看为什么我们大脑特别容易掉进这个陷阱。这其实不是AI的错，这是我们人类的错。我们来讲一点心理学：为什么Weinstein这样一个受过严格科学训练的生物学家会犯这样的错误？这其实是人类大脑的一个出厂设置，叫做万物有灵论思维（Animistic Thinking: 将无生命的物体或自然现象拟人化，赋予其生命、意识或意图的思维模式）。

想象一下，你是一个几千年前的古人，你看到天空划过一道闪电，劈开了一棵树。你不知道什么是静电，也不知道什么是正负电荷。你的大脑为了解释这个现象，会怎么做呢？你会编一个故事：天上一定是有个巨人，他生气了，所以扔下一把斧头。这个逻辑链条是这样的：观察到了现象（闪电），脑补一个拟人化的故事（神在发怒），基于故事推测未来（如果我献祭一头羊，神就会开心，所以就不会劈我）。

现在，让我把时间快进到2025年。我们看到AI输出一个非常流畅的笑话，甚至带有一些讽刺意味。我们不知道底层的矩阵算法是怎么运作的，于是我们大脑再次开启那个古老的程序：这盒子已经装了一个小人，或者一个小婴儿，他很聪明，他在观察我，想逗我笑。Weinstein的逻辑链条是：观察到现象（AI语言流畅），脑补一个拟人化的故事（它像一个婴儿，在学习，在做实验），基于故事预测未来（既然是婴儿，它长大后就会有自我意识，就会反抗父母）。

发现了吗？这和献祭羊群来规避雷劈是同一个思维方式。这是一种宗教式的思维，不是科学思维。科学家的思维方式应该是这样的：我不关心这个故事听起来多么顺耳，多么符合直觉，我要拆开这个黑匣子，看看这里面到底是什么组件在运作。如果里面组件不支持意识的产生，那么不论它表现多么像人，它都不是人。

AI的真实类比：漂浮在营养液里的“语言皮层”

那么如果我们真的拆开这个盒子，如果不听Weinstein的婴儿故事，我们看到的是什么呢？如果非要给大语言模型找一个生物学上的类比，它绝对不是婴儿。计算机科学家Carl Newport给出一个更精确的、甚至有点惊悚的类比：它是一块被切下来的、漂浮在营养液里的语言皮层。

请大家跟着我的描述，来在脑海中构建这样一个画面：人类大脑是非常复杂的。我们有海马体，帮我们形成长期记忆，让我们记得昨天吃了什么，记得童年的创伤。我们有杏仁核和边缘系统，那是产生恐惧、欲望和贪婪这些情绪的源头。我们有前额叶的决策回路，帮助我们规划未来，决定是要去打猎还是要去睡觉。除了这些呢，我们大脑里还有一小块专门负责处理语言的区域——布罗卡区和维尼克区。这个区域最擅长一件事情：把听到的声音转化成概念，再把概念转化成句子说出去。

现在AI呢，就好比我们用外科手术，把这块语言处理皮层单独切了下来，放在一个玻璃缸里。注意，这个缸里没有海马体，所以AI没有真正的经历和长期记忆，每当你关掉对话窗，它的世界就重启了。没有边缘系统，因为AI没有欲望，它不想统治世界，它甚至不想赢，它什么都不想，因为它没有产生“想”这个动作的生物学硬件。第三是没有手脚，它无法在这个物理世界里行动。这块漂浮的肉块——语言模型，只有一个功能：当你通过电线给它输入一串信号文字，它内部的神经元会疯狂闪烁，进行极其复杂的计算，然后，在输出端的电线里吐出另一串信号。预测下一个词就解释了为什么它看起来那么聪明，却又那么空洞。

当你和它聊天时，这块语言皮层确实在进行高强度的思考，它在调用海量的知识储备来匹配你的语境。但这是一种残缺的、局部的、功能性的思考。当把这块离体的肉块称为人，或者认为它会自动长出海马体、长出欲望、长出自我意识，这在生物学上是荒谬的，在计算机科学上也是一样。

静态的AI与动态的人类大脑

如果你觉得“缸中之脑”这个例子还有点抽象，那我们来看最本质的区别，也是Weinstein犯下最大的错误。Weinstein说AI像孩子在做实验，在学习。错，大错特错。人类的大脑是动态的（Dynamic），当一个孩子试图打开一扇门却失败了，他大脑立刻会发生物理层面的变化，神经突触会重新连接，新的回路会形成，他学到了东西，他大脑在下一秒和上一秒是不一样的，他是在实时进行进化。

但是已经训练好的AI模型，比如你手机里的ChatGPT，它是静态的（Static）。如果我们说AI拥有万亿个参数时，这些参数就像一堆固定的数字，除非工程师按下了重新训练的按钮（这通常需要几个月时间和几亿美元），否则这些数字连小数点后一位都不会变。当你和AI对话，无论你骂它、夸它、教它，它的内部结构没有发生任何变化。它没有在做实验，因为它没有写入长期记忆的能力。它只把你的话当成数学题的输入，算出一个输出，然后结束任务，完成，一切归零。一个静态的数学文件，是不可能产生动态的生命意图的。就像你买了一本百科全书，书里的内容非常丰富，甚至包含了如何制造炸弹的知识，但你不会担心书本自己半夜会爬起来去组装炸弹，炸到你的房子，因为书是静态的。AI就是一本能够自动翻译、自动检索的超级魔法书，它很厚也很神奇，但它依然是一本书，不是一个读者。

辛顿的恐惧：未来的预期差而非当下意识

说到这你可能会问，好，我明白它是静态的，但是Geoffrey Hinton这样被称为AI教父的人，他为什么也会发出警告呢？难道他不懂这些吗？这就我们接下来要进入的深水区。如果说Weinstein是被直觉误导了，那么Hinton看到的其实就是另一个维度的真相，但他是把两个时空给搞混了。

让我们翻开下一页，看到那一堆静态数字如何通过单纯的乘法来骗过全世界最聪明的大脑。让我们关掉那些生物学的比喻，把这个缸中之脑捞出来切片，放在显微镜下，或者是程序员的代码编辑器里。当我们剥去人工智能这层科幻外衣，大语言模型本体到底是什么呢？答案可能会让你感到无聊到想睡觉：它本质上就是一个巨大的乘数表格。我们说ChatGPT4有万亿级参数，什么是参数？在计算机科学里，这就是Excel表格里一个个格子，每个格子都填了一个数字，比如说0.5，比如说-3.2。这就好比我们刚才说的，AI看起来是在思考，但脑子结构完全是固定的。在这个表格里，没有神经递质在流动，没有细胞在分裂或者死亡，只有这一秒是3，下一秒还是3的数字。

当我们在训练一个AI时，我们要做的是疯狂地调整这些格子里的数字。我们把整个互联网的书籍、对话和文本喂给它，然后做一道填空题。如果它猜错了，我们就在数字上改几个数；如果它猜对了，我们就把数字固定下来。这样的过程重复几万亿次之后，这个表格里的数字就被打磨成了一个完美的形态。一旦训练结束，发给用户使用，这个过程叫做推理（Inference: 指AI模型在训练完成后，使用新的输入数据进行预测或生成输出的过程）。这张表格就被锁死了。请记住这个词：锁死。无论你今天和AI聊得多么热火朝天，不论你觉得它多有善解人意，哪怕是你们之间产生过灵魂共鸣，在服务器的深处，这张表格连一个标点符号都没有变过。

如果你明白了这一切不过是查表和计算，那么接下来，动作就更不像一个生命体的行为了。那么当你在对话框输入“你好”，当AI回复“你好，有什么我可以帮你”的时候，这中间发生了什么呢？Weinstein认为这中间发生了思考、实验，甚至是意图的萌发。但是计算机科学家打开引擎，看到只有一个动作：矩阵乘法（Matrix Multiplication: 线性代数中的一种运算，将两个矩阵相乘得到一个新矩阵，是神经网络计算的核心）。这听起来很数学，但其实也很简单。你输入“你好”，被转化成一串数字，我们叫它向量。这段数字经过了那个巨大的Excel表格矩阵，然后开始做乘法。这一行的数字乘以那一列的数字，求和算出一个新的数字。这个数字进入下一层表格，继续乘继续加，一层又一层，直到最后一层，算出那个数字对应的字典里一个词。

这就为什么NVIDIA的GPU（Graphics Processing Unit: 图形处理器，一种专门用于处理大量并行计算的芯片，广泛应用于AI训练和推理）显卡这么值钱。GPU这种芯片最初是为了打游戏设计的，你想想，在游戏里要渲染一个3D的爆炸场景，需要计算成千上万个像素点的光影变化，这本质上就是海量的并行的乘法运算。AI产业发现，我们在大模型里头做的运算不就是海量的乘法吗？于是，原本用来打游戏的显卡变成了AI的心脏。大家停下来想一想这个逻辑：如果AI真的像Weinstein所说，是一个正在觉醒的、具有复杂心智的硅基生命，那它的核心活动怎么可能仅仅是为了渲染《使命召唤》的画面而设计的数学运算呢？这里没有给幽灵留位置，每一步都是确定的，输入A经过固定的表格B，必然得到输出C。如果把全世界的GPU都暂停，拿笔和纸去手算，算上一万年，结果也是一模一样的。你会担心你的计算器因为算多了1+1而产生毁灭人类的念头吗？不会。那么你为什么要担心一个算得更快、表格更大的超级计算器呢？

讲到这里，绕不开的问题又来了。你说那么轻巧，全是数学，全是乘法，那为什么Geoffrey Hinton这位图灵奖得主、深度学习之父，最懂这些数学的人，他在2023年突然辞职，开始向全世界预警AI的风险呢？难道他自己不知道这是矩阵乘法吗？他当然知道，这些算法就是他参与发明的。Hinton的恐惧并不是因为他觉得现在的ChatGPT已经拥有了意识，他的恐惧源于预期差。我们来看这一段《纽约客》的采访记录。Hinton说，他以前一直认为，要让机器理解幽默、理解讽刺、理解复杂的逻辑，至少还需要60年甚至100年，因为那是人类智慧的桂冠。但是大语言模型出现了，他震惊了，他发现为了玩好“猜下一个词”这个看似弱智的游戏，当参数量达到一定程度，模型自然涌现出了理解幽默的能力。

Hinton的逻辑是这样的：第一，我原本以为这很难，结果人类用很简单的反向传播算法（Backpropagation Algorithm: 神经网络训练中用于调整权重，使模型输出更接近预期的一种优化算法）就做到了；第二，如果我们现在技术进行填词，就能产生如此大的理解力，那么我们未来发明新的架构，不再是猜词，而是给他目标，给他长期记忆，它们会不会比我们预想的要快得多的超越人类呢？看清楚了吧，Weinstein的恐惧是现在，他觉得现在AI已经是婴儿了；而Hinton的恐惧是未来，他担心的是我们尚未发明的那种真正的数字大脑。但是媒体和公众把这两者搞混了，大家拿着Hinton对于未来假设的警告，去证明Weinstein对于现状的胡扯是正确的。Hinton其实在说：“看，这把铲子比我想象的要锋利得多。既然铲子都能造这么厉害，那么如果我们以后造出了自动杀人机器，那可能会比预想的要更可怕。”但这并不代表这把铲子现在就会跳起来杀人啊。

AI的局限性：缺乏世界模型与规划能力

为了彻底理清这个问题，我们需要引入《纽约客》作者James Summers一个精妙的观点：即使AI是在做矩阵乘法，即使它只是在查表，但这是否意味着它没有理解呢？不，为了完美的预测，它被迫学会了理解。比如“稻草人”这个笑话，如果AI不懂“outstanding”既代表杰出，又代表站在外面，它就不可能算出这个词的概率是最高的。所以我们必须承认，这是一种思考，它是把海量信息压缩提取，并且应用到新语境的过程，符合思考的某种定义。

但是呢，这又回到我们最初的“缸中之脑”。这种思考并不是人类那种思考，它是在真空中进行的，是纯粹逻辑层面的、被动触发的思考。它缺了什么呢？它缺少了世界模型（World Model: 指AI对物理世界及其因果关系的内部表征和理解）。这听起来高大上的术语，简单来说就是AI懂得了语言，但是不懂物理事件。它知道“杯子碎了”这几个词通常是接在“掉在地上”后面，但他脑子里头没有重力的模型，没有玻璃易碎的物理概念，它只有词与词的统计关联。

如果你不信，觉得AI既然能写诗，那一定无所不能，那么2025年发生的一件事情就给这种AI全能论打了一记响亮的耳光。回想一下，2024年底的时候硅谷在炒作什么？AI Agent（智能体: 指能够自主感知环境、做出决策并执行行动以达成特定目标的AI系统）。当时的承诺是2025年将是智能体元年，你不需要再跟AI聊天了，你只要给他一个目标：“帮我去策划一次去日本的旅行，并且订好票。”AI就像一个全能管家，自己会去搜索、去比价、去下单、去发邮件。现在我们站在2025年往回看，这个承诺实现了吗？彻底崩了。

为什么呢？为什么那种能够写出莎士比亚风格十四行诗的AI，却连帮我定个会议室这种小事都做不好？原因就在我们所说的缺乏世界模型、缺乏规划能力。你让AI写文章，它是在漫游，写错一个词没关系，后面圆回来就行了。但你让AI去办事，它需要严格的逻辑链条：第一步做什么？如果失败了，第二步怎么办？如果网页打不开怎么重试？现在大语言模型本质上就是概率性的，它可能会在第三步产生幻觉，你找一个完全不存在的航班号，或者第五步因为无法理解网页的一个弹窗而卡死。它没有必须完成任务的驱动力，它只有预测下一个动作的概率冲动。AI Agent的大规模失败，有力地证明了语言能力的流利掩盖了逻辑规划能力的贫瘠。这是一个偏科极其严重的天才，语文满分，但是物理和生活实践课是不及格的。既然它连帮你买张机票都费劲，你真的觉得它在密谋接管人类的核武器库吗？

AI的真正风险：信息污染与认知退化

所以，当我把所有的证据——静态的表格、确定的乘法、Hinton的真实意图、Agent的失败——拼在一起时，一个更真实也更无聊的AI形象浮现出来了。它不是神，也不是魔鬼。它是什么呢？我们该如何和这个奇怪的缸中之脑共存？这是我们的最后一部分需要寻找的答案。

当我明白了AI是静态的数学表格之后，我们可以理直气壮地列出那个边界：它做不到什么。Weinstein担心操控人类，Hinton担心自主设定目标，这都需要一些特定的零件支持，但现在大语言模型连这些零件的插槽都没有。

第一，它没有欲望。人类想做某件事情，是因为多巴胺系统在驱动我们，无论是为了生存、繁衍还是权利。但是AI的世界没有多巴胺，它在这个世界上没有任何利益，它不想活下去，也不怕被关机。一个没有“想要”的系统，是不可能产生操纵这个意图的。操纵是为了获利，而AI甚至不知道什么是利。

第二，它没有连续的记忆。这是一个最反直觉的。你觉得你跟ChatGPT聊一个月，它成为你的朋友？错。对于它来说，每一次新的对话都是它一次新的出生。它不记得昨天是怎么安慰你的，除非你把昨天的记录作为新的输入喂给它。它没有海马体来把短期记忆固化成长期性格。一个没有过去的智能体是无法规划、无法策划长远的未来的。

第三，它没有世界模型。这是我们刚才在Agent的失败的案例中看到的。它不知道物理世界的因果律，它不知道“杀了人”意味着生命的终结，它只知道“杀了人”这三个词后面通常接的是“犯法”或者“偿命”。这是词汇的统计学关联，并不是现实后果的理解。所以，把这样一个三无产品（无欲望、无记忆、无世界模型）想象成能够接管核按钮的终结者，在工程学上，就像担心你的微波炉因为加热太快而突然想去竞选总统一样。

既然“天网”是假的，那我们就安全了？不。Carl Newport提出一个更加冷静的观点：我们太关注那个不存在的科幻末日，而直接忽略了正在发生的无聊但致命的现实危机。AI给我们人类带来最大的风险，不是它会杀了我们，而是它会废了我们。

风险一呢，就是信息环境的污染。现在互联网就像被AI废料的东西来淹没，无数的营销号用AI生成成千上万篇看起来通顺但是毫无信息的文章，社交媒体充斥着AI生成的虚假美女和励志鸡汤。我们需要担心的不是AI有了意识，而是我们人类互联网变成一个垃圾场，我们再也分不清什么是真，什么是假，或者什么是人写的。

第二呢，是认知肌肉的萎缩。这可能是更可怕的。当写作这个人类整理思维最核心的工具被外包给AI之后，会产生什么呢？写作不仅仅是输出，写作就是思考本身。当你不再去挣扎地组织语言，不再痛苦地推敲逻辑，你的大脑回路就像长期卧床的肌肉一样萎缩。未来的分层，可能不是被AI统治的人和反抗军，而是能够独立进行深度思考的人和离开了提示词就大脑一片空白的人。这在Hinton真正应该担心的，不是硅基生命的崛起，而是碳基生命的退化。

理性看待“奇点理论”与AI的工具属性

那么作为一个普通人，如果你是一个初级程序员，或者一个正在写论文的学生，你应该怎么做呢？直接把AI扔了吗？当然不是了。我们不能因噎废食。这里的核心原则只有一条：使用AI是为了让你变得更好，而不是为了更快。如果你是一名程序员，不要让AI替你写你不懂的代码，那是自杀。你应该让AI帮你解释那些复杂的库，帮你去写繁琐的样板代码，从而让你更有时间去思考更宏大的系统构架。用它来提升你技能上限，而不是用它来掩盖你的技能下限。

最后肯定还有人不死心：“但如果万一呢？万一AI自己学会了写代码，自己创造出更强的AI，无限循环直到成神呢？”这其实是硅谷最津津乐道的奇点理论（Singularity Theory: 一种假设，认为人工智能发展到某个临界点后，将以无法控制的速度自我进化，最终超越人类智能）。但Carl Newport给出一个极其辛辣的评价：这不仅是科幻，这简直就是智力手淫。好比物理学家在讨论：“如果我回到过去，杀死我的祖父，我还会存在吗？”这是一个极其有趣的逻辑悖论，值得在哲学课上讨论一下午。但是呢，我们不会因此就要求国会立法禁止时间旅行，也不会因为担心这个悖论而睡不着觉，因为时间旅行在物理上根本还没实现。同样的，所谓的AI自我进化在工程上连影子都没有。我们现在连AI帮我们订张机票都做不到，连一个连贯的物理模型都没有，担心它突然自我进化成神，就像担心你家扫地机器人因为扫得太干净突然悟出了宇宙真理并且决定毁灭人类一样。这很有趣，但这不是科学，这是神话。

结语：看透本质，关注当下

好了，今天视频即将结束，为了防止大家在信息的海洋里迷失，我有三句话希望大家能够打包带走。

第一，看透本质。现在AI本质上是静态数字表格和海量的矩阵乘法。它没有生物学意义上的意识、欲望，或者是动态学习能力。不要被“缸中之脑”的语言天赋给骗了。

第二，区分维度。区分Brett Weinstein的拟人化故事（把AI当成婴儿）和Geoffrey Hinton的未来假设（担心尚未发明的新架构）。不要用未来的恐惧来吓唬现在的自己。

第三，关注当下。别盯着虚构的“天网”，真正的敌人是信息垃圾化和你自己思考能力的退化。保护好你自己的专注力，这是你作为碳基生命最后的尊严。

2000多年前，柏拉图讲过一个洞穴寓言（Allegory of the Cave: 柏拉图在《理想国》中提出的哲学寓言，通过囚徒在洞穴中只能看到影子来比喻人类对现实的有限认知）。囚徒们看着墙上的影子，以为那就是真实的世界。今天，屏幕上那些流畅的文字、拟人对话，就是AI投射在我们视网膜上的影子。它太逼真了，以至于让我们忘记了回头看那个制造影子的机械装置。当我们鼓起勇气转过身，看清了那个由GPU、参数表和矩阵乘法构成的装置时，恐惧就消失了。取而代之的是一种清醒的惊叹：是的，它很强大；是的，它是人类智慧的结晶。但他终究是工具，你是创造者，你是使用者，你才是那个拥有灵魂、拥有痛感、拥有未来的生命。不要向计算器下跪。