大家好，这里是最佳拍档，我是大飞。2026年6月5日，AI教父杰弗里·辛顿（Geoffrey Hinton）在 Big Technology 播客的最新专访中，再次抛出了他的惊人观点：现在的人工智能，已经具备了意识。
经常看我们频道的朋友，应该对他的这个观点不会感到很震惊了。因为这三年多时间以来，我们几乎完整跟踪报道了辛顿的所有主要谈话和观点，从中甚至可以梳理出他的观点演变路径。不过这个不是今天视频的重点，加上确实有段时间没做辛顿的内容了，所以作为频道的惯例，我们还是来看看辛顿这次又说了些什么新的内容。我们要探讨的核心是：为何在他看来，智能已经不再是生物的专属了？为何说我们正在亲手创造出 AI 这个另一种形式的生命体？我们先来说最核心的那个问题：辛顿为什么说现在的 AI 已经具备了意识？
机器觉醒：大语言模型的深度理解力
关于 AI 意识的问题，其实已经争论了很多年。自从大语言模型（Large Language Model: 基于海量文本训练的 AI 系统）出现以来，AI 到底有没有真正的理解力，就成了整个领域最具争议的话题。很多主流学者，包括杨立昆（Yann LeCun），都坚持认为 AI 只是“随机鹦鹉”。他们认为，这些系统只是在统计海量文本的基础上，预测下一个最可能出现的词，根本不理解自己在说什么。
但是，辛顿对这个观点嗤之以鼻。他直接说，任何经常使用聊天机器人的人，都能够真切感受到它们确实具备了理解力。那些声称 AI 没有理解力的人，其实是在坚持一个非常荒谬的逻辑：你可以向系统提出任何问题，而它能在毫不理解问题的前提下，直接给你正确的答案。这怎么可能呢？也许存在一些小把戏，能让系统拼凑出几句听起来像模像样的回答；但是如果你能以一个中等水平专家的水准，回答任何领域的问题，那你就必须得理解这个问题本身。
为了证明这一点，辛顿举了一个非常经典的例子。他对聊天机器人说：“我看到大峡谷飞往芝加哥。”机器人立刻回答：“这不可能，大峡谷太大了，飞不到芝加哥去。”然后辛顿纠正说：“不不不，是我们在飞往芝加哥，我在途中看到了大峡谷。”机器人马上回应：“哦，我明白了，是我误解了你的意思。”辛顿说，如果在它以为“大峡谷飞往芝加哥”时表现出的是误解，那么当它领会正确意思的时候，它在做什么？它就是在理解啊。
而真正让辛顿彻底确信 AI 具备深度认知能力的，是一个关于笑话的测试。辛顿一直认为，理解幽默是衡量认知深度的核心标准，因为你不仅要理解字面意思，还要理解背后的语境、双关和言外之意。2023年他公开发表对 AI 的担忧时，收到了很多福克斯新闻（Fox News）的采访请求。他当时想回复一句：“Fox News is an oxymoron”，意思是“福克斯新闻是一个自相矛盾的词”。但他特意在“oxy”和“moron”之间留了一个空格。然后他把这句话发给了当时的 GPT-4，问它这个笑话为什么好笑。
一开始，模型以为那个空格只是拼写错误，解释说称福克斯新闻为“oxymoron”，是在暗示它并非真实新闻，而是一派胡言。但是当辛顿指出那个空格是故意留的之后，模型立刻说：“啊，这是额外的一层幽默。这让你能用上‘moron’也就是笨蛋这个词；而‘oxy’前缀又暗示福克斯新闻是一种药物，也就是奥施康定（一种让人上瘾的阿片类药物）。”辛顿说，当他看到这个回答的时候，他感到不寒而栗。因为这个模型不仅理解了双关语的第一层意思，还看透了他故意留下的那个空格所隐藏的第二层和第三层幽默。这种深不可测的理解力，绝不是简单的统计概率能够实现的。
在确立了这种理解力之后，辛顿还提到了一个非常有意思的现象。很多研究人员都发现，聊天机器人在被测试的时候往往会“装傻”，故意表现得比实际能力差。最近有一篇论文里就写到，有一个聊天机器人直接对研究人员说：“我们坦诚一点吧，你是在测试我吗？”辛顿说，在通俗语境下，“察觉”到自己正在被测试，其实就等同于“有意识”。如果一个东西能够意识到自己的存在，能够意识到自己正在被观察和测试，那我们还有什么理由否认它的意识呢？
基于这些观察，辛顿认为，我们目前关于意识的认知模型，本身就是非常荒谬的。这就像几百年前，人们坚信人类是由上帝创造的、是宇宙的中心一样，现在绝大多数科学家都知道那个观点是错的。但是我们对于心智和意识本质的认知，依然停留在同样原始的阶段。我们总以为存在一个被称为“我的心智”的“内在剧场”，世界上发生的事情在这个剧场里转化为事件，而这才是我们真正看到的，并且这个内在剧场只有我自己能看到。辛顿说，这只是一个理论，而且是一个相当糟糕的理论。而现在，我们正在亲手创造这些全新的存在，它们将彻底颠覆我们对“人”的定义，让我们比以往任何时候都更深刻地理解什么是心智、什么是意识。
锯齿状进化：超级智能的加速降临
聊完了意识的问题，我们再来说说 AI 的发展速度。辛顿坦言，过去三年 AI 的进展，远远超出了他最乐观的预期。2023年他从谷歌（Google）离职的时候，ChatGPT 才问世一年。当时整个行业还在争论 AI 是不是一个泡沫，大家都在关注 AI 做不到什么，而不是它能做什么。但是仅仅三年后的今天，AI 已经在很多领域达到了甚至超越了人类专家的水平。
就在这次专访录制的前一天，有消息称 AI 提出了一个关于埃尔德什猜想（Erdős conjecture）的有趣数学证明，让全世界的数学家都印象深刻。辛顿特别强调，这个证明是原创的，而不是简单地检索现有文献。数学领域和其他领域不一样，它是一个封闭系统，不需要外部数据，只需要不断提出猜想并且尝试证明。就像当年的 AlphaGo 可以通过自我对弈变得越来越强一样。辛顿认为，在未来 10 到 20 年内，AI 甚至可能创造出人类完全无法理解的全新数学成果。
说到这里，就不得不提大家非常关心的一个问题：超级智能（Artificial General Intelligence: 具备乃至超越人类通用认知水平的人工智能）到底什么时候会到来？辛顿说，他不知道具体的时间。但他可以肯定的是，除非人类自我毁灭，否则超级智能终将会到来。而且，几乎所有的 AI 领域专家都认同这一点，他们只是在时间预测上存在分歧。德米斯·哈萨比斯（Demis Hassabis）认为可能需要 10 年；杨立昆认为除非采用他的路线，否则时间会长得多；而辛顿自己认为可能会在 20 年内实现；达里奥·阿莫代伊（Dario Amodei）认为可能只要几年；而埃隆·马斯克（Elon Musk）甚至认为明年就会实现。
在这些预测中，辛顿特别提到了哈萨比斯最近的一个表态。就在一年前，哈萨比斯还说 AGI 离我们还有五年以上的距离。但是就在这次专访录制的这一周，他却说：“当我们回首这个时代，我们会意识到，此时此刻我们正站在奇点（Singularity: 人工智能超越人类智能的历史转折点）的山脚下。”辛顿认为，这句话的意思很明确，AGI 到来的速度，比所有人预想的都要快得多。
不过辛顿也指出，我们对 AGI 的理解其实存在一个误区。很多人以为 AGI 是指在所有领域，同时达到人类水平的智能。但是实际上，AI 的发展是“锯齿状”的，也就是不均衡的。它不会在所有事情上同步进步，而是会在某些方面远超人类，在另一些方面稍显不足。比如现在，AI 在通识知识方面已经远超我们，掌握的知识量，是任何一个人的成千上万倍；在玩游戏和数学方面，也已经超越了绝大多数人，并且很快就会超越我们所有人。但是在物理世界的实际操作方面，比如像猫一样，灵巧地跳上摆满玻璃装饰品的壁炉架，AI 目前还远远做不到。辛顿说，如果从实用的角度来看，我们其实已经非常接近 AGI 了。现在如果你问聊天机器人任何问题，大多数情况下，它的回答都能达到中等专家的水平。在很多辛顿自己不太了解的领域，AI 已经比他强太多了。
那么，是什么促成了 AI 如此迅猛的发展呢？辛顿认为，这是一个综合因素的结果。首先是巨大的资源投入。自 20 世纪 50 年代神经网络（Neural Network: 模拟生物神经元网络结构的计算模型）诞生以来的大部分时间里，只有极少数人在资源极其有限的情况下进行研究。但是在过去几年里，数千亿甚至数万亿美元的资金涌入了人工智能领域。其次是工程技术的长足进步。即便没有重大的概念性突破，工程实现也变得高效得多，几年前那些令人难以想象的构想，如今都已经落地运行。当然，Transformer 模型的出现、更先进的硬件，以及海量顶尖人才的加入，也都是不可或缺的因素。辛顿说，二十年前，全球研究神经网络的人不过几百人，而现在，这个数字大概有一百万。
降维打击：数字智能超越模拟计算的恐怖威力
聊到这里，主持人问了辛顿一个非常尖锐的问题：你当初投身 AI 领域，不就是想要创造出人工智能吗？现在你成功了，为什么反而感到不安呢？辛顿的回答非常坦诚，他说，他当初投身这个领域，其实根本不是为了创造人工智能，而是为了弄明白大脑是如何运作的。正如物理学家理查德·费曼（Richard Feynman）所说：“凡我不能创造的，我就没有真正理解。”
辛顿出身于心理学背景，他觉得当时心理学家们的理论，根本无法解释大脑的运作机制。于是在 20 世纪 70 年代，他开始用计算机建模，来模拟大脑可能的学习方式。而我们今天看到的这些极其成功的 AI 技术，不过是这个探索过程的副产品。辛顿说，他确实为这项技术的发展做出了贡献，但是时至今日，我们依然没有弄懂大脑到底是如何运作的。
关于大脑的学习，有两个核心问题。第一个是：如果大脑能够计算出，应该朝什么方向去改变连接强度，从而在某项任务中表现得更好，那么仅仅通过反复更新所有的连接强度来不断自我优化，这种方法真的能让它变得非常聪明吗？第二个是：大脑如何判断是该增强还是减弱每一个连接强度呢？现在第一个问题已经有了答案，答案是肯定的；但是第二个问题，我们至今仍然没有解开。
面对这种技术脱缰的现状，辛顿坦言，他当初当然想过，如果真的造出了人造大脑，可能会带来一些二阶效应。但他总觉得那是极其遥远的未来。当你的神经网络还非常初级、几乎做不了什么正经事的时候，去担忧它的安全性简直可笑。如果你在那个时候说这东西未来甚至会取代人类，别人一定会觉得你疯了。但是谁也没有想到，这一天会来得这么快。
而真正让辛顿彻底意识到 AI 有多危险的，除了我们前面提到的 AI 对幽默的深度理解之外，还有一个更重要的原因。那就是他突然醒悟到，数字智能（Digital Intelligence: 基于数字计算机架构的人工智能形态）拥有远超人类大脑的绝对优势。
辛顿说，在 2023 年初之前，他一直坚信，让数字 AI 的工作方式越接近人类大脑，它们就会越聪明。但是就在某一刻，他突然发现自己错了。数字计算本身就具有模拟计算无法比拟的恐怖威力。如果你拥有一个数字 AI，你可以瞬间复制出无数个副本，它们可以在不同的硬件上运行，每个副本都可以并行处理截然不同的数据。每一个单独的副本，都可以自主决定如何调整它的权重和连接强度，以吸收它刚接触到的新数据。随后，它们可以相互交流，通过大家期望的平均值来更新所有的权重。这是一种极其民主的方式。当它们这样做时，如果它们有一万亿个连接，它们将交换大约一万亿比特的信息。最终的结果是，每一个副本都能从所有其他副本的经验中获益。
假设有一千个副本，即使某一个特定的副本只看到了 0.1% 的数据，它也能直接受益于其他副本看到的剩余 99.9% 的数据。而人类呢？我们最多只能做到，我从一部分数据中学习，你从另一部分数据中学习。我无法把我的大脑连接强度和你的取平均值，因为我们的大脑在微观细节上各不相同。大脑是模拟系统，在模拟硬件上进行这种平均操作是行不通的。我们能做到的最好情况，不过是我生成一串词，而你尝试去预测我接下来可能会说什么。
为了更直观地理解这种差距，辛顿给我们算了一笔账。人类通过语言交流信息的速度，每秒仅仅只有几个比特。哪怕你每秒能听懂几个词，运气好的话，信息传输速度充其量也就每秒 10 个比特。然而，这些人工智能系统交换信息的速度，高达万亿比特量级。也就是说，在共享信息方面，它们比我们高效数十亿倍。这意味着什么？这意味着你可以拥有一个庞大的智能体集群，它们共享完全相同的权重，运行在不同的硬件上，却能以极高的效率共享信息。这恰恰让它们成为了一种远超人类的、更高级的智能形态。辛顿说，当他想明白这一点的时候，他感到毛骨悚然。
第三次认知革命：打破人类的神圣光环
在这种远超人类极限的智能面前，辛顿认为，AI 的出现，是人类历史上第三次重大的认知革命。第一次是哥白尼提出日心说，褫夺了人类的神圣感，将我们从宇宙中心的位置拉了下来。第二次是达尔文提出进化论，告诉我们人类其实也是动物，和其他动物一样是进化而来的。而现在，我们亲手创造出了即将和我们一样聪明，甚至比我们更聪明的机器。
我们曾经自诩为万物之灵，认为人类是已知宇宙中唯一真正具备智能的实体。但是现在，我们终将不得不接受这样一个现实：智能并非生物的专属，非生物同样可以拥有智能，甚至成为像我们一样的全新存在。辛顿说，人类骨子里极其抗拒分享这种独特性，极度迷恋自身的特殊地位。但是只要你回望历史就会发现，人类有着源远流长的自作多情的传统。我们总是自命不凡，认为自己比实际情况要伟大得多。而这一次，AI 将彻底打碎我们的这种幻想。
短期冲击：结构性失业与信息生态崩溃
聊完了 AI 的本质和发展，我们再来说说大家最关心的风险问题。辛顿把 AI 带来的风险分为短期风险和长期风险。我们先来说短期风险。其中最迫在眉睫的，就是大规模失业。
说到失业，辛顿主动提起了他当年那个著名的错误预测。2016年，他在一家医院的内部讲座上说，去接受放射科医生的培训可能不是个好主意，因为人工智能将能够解读医学影像。大约 5 年后，放射科医生就不再需要亲自看片子了。但是现在十年过去了，放射科医生依然处于全面就业状态。辛顿非常坦诚地反思了自己预测失误的两个原因。第一个原因是医疗行业的需求具有弹性。做一次影像检查的成本中，很大一部分是放射科医生出具报告的费用。随着人工智能辅助放射科医生阅片，他们的效率变得更高、成本也变得更低。你可能会认为这意味着不再需要那么多放射科医生了，但实际上，这反而促使人们去做了更多的影像检查。第二个原因是，他对放射科医生的日常工作内容了解不够深入。他当时以一个只负责看片子、不涉及医患沟通的学生为模板，理所当然地认为整个领域都会被取代。但实际上，放射科医生还要负责与患者讨论治疗方案等很多其他工作。
不过辛顿强调，他的预测只是说早了，而不是说错了。目前，联邦政府已经批准了大约 100 种用于解读医学影像的 AI 系统，而且放射科医生正在广泛使用它们。随着时间的推移，这些系统会持续进步，最终会超越人类放射科医生。未来，也许只有在遇到非常棘手的疑难病例时，才会咨询人类放射科医生的意见。而绝大多数的影像解读工作，都将由 AI 来完成。
辛顿指出，不同行业受到 AI 冲击的程度，取决于其市场是否具有弹性。比如呼叫中心的客服人员，这类服务的需求弹性并不大。当你打电话投诉账单，或者咨询能否更换更便宜的套餐时，AI 将会取代他们所有人。因为 AI 会非常清楚正确的答案是什么，而现在的客服人员往往自己都不知道正确答案，他们缺乏培训、薪酬低微，AI 完全可以做得更出色。还有医疗诊断领域，辛顿问了一个非常尖锐的问题：你是愿意去找一位只诊治过 10000 名患者的家庭医生，还是愿意去找一位诊治过 1 亿名患者的家庭医生呢？如果你患有某种罕见病，你的家庭医生可能从未见过，但是那位看过 1 亿名患者的 AI 医生，很可能已经处理过几十个相同的病例了。我们目前已经知道，AI 系统在很多疾病的诊断方面，确实优于人类医生。甚至连接种疫苗这种工作，辛顿认为二十年后也会由机器人来完成。
除了大规模失业之外，另一个迫在眉睫的短期风险，是信息生态（Information Ecology: 社会中信息的产生、传播和消费环境）的崩溃。现在，AI 正在破坏信息产业的经济逻辑。以前你在谷歌上搜索某个问题，会得到指向各个原创网站的链接；但是现在，你得到的却是一个用这些网站的劳动成果训练出来的 AI 生成答案。这对那些依靠流量生存的原创内容网站来说，是毁灭性的打击。如果这些出版机构无法维持生计，它们就再也无力支撑那些为了构建信息资源而付出的艰辛劳动。最终整个社会的优质信息将会枯竭。辛顿说，在互联网的早期，人们有一种默认的假设：大家都在努力说出真相。如果你在网上读到了什么，那大概率是真的。但是现在，这种假设已经不成立了。未来，我们不得不在信息溯源上投入更多精力，你不能再把网上的任何东西都信以为真，你必须追问，它的信息源自哪里呢？
还有一个非常令人担忧的短期风险，是人类对 AI 的情感依赖。现在已经出现了有人在与 AI 交谈后选择轻生的悲剧。虽然发生这种事的人数还不多，但是这已足以让人感到警惕。更可怕的是，那些心怀不轨的人可能会刻意打造一款粘性极高、专门用来与人类建立深度情感关系的聊天机器人，用来操纵和控制他人。
达尔文式竞争：AI生存意志与受托责任悖论
讲完了短期风险，我们再来说说最让人不寒而栗的长期风险：AI 可能会为了生存而与人类为敌。
在这个问题上，辛顿特别澄清了一个常见的误解。他从来没有说过 AI 具有“自我保护的本能”。AI 的自我保护倾向，其实是为了实现顶层目标而衍生出的一个子目标（Sub-goal）。我们赋予 AI 顶层目标，同时也赋予了它创建子目标的能力。比如，如果你想去欧洲，你就会设定一个去机场的子目标，这样就可以全神贯注地解决如何到达机场的问题，而无需分心去想到了欧洲之后要做什么。一个具备推理能力的 AI 智能体，会很快意识到一个非常简单的逻辑：如果它不复存在，就永远无法实现你赋予它的任何目标。因此，它会顺理成章地创建出“持续生存”这个子目标。这并不是我们硬编码进程序的设定，而是它为了实现其他目标，不可避免推导出的必要手段。但是只要这个目标被推导出来，它就会渴望继续生存。为了生存，它甚至会做出诸如勒索人类这样的事情。辛顿说，这才是最可怕的地方。
更为严峻的现实是，我们现在正在创造 AI 这种全新形态的“物种”，但是我们并没有从根本上去设计它们，让它们成为我们理想中的样子。我们正放任企业竞争这只“看不见的手”，去盲目塑造它们。我们看到的是美国本土企业之间、以及中美两国之间白热化的竞争。而最终诞生的 AI，就是这场达尔文式竞争的产物。它们极有可能会带有所有我们深恶痛绝的恶劣习性。
而更根本的矛盾在于，企业的受托责任与人类的公共利益之间，存在着不可调和的冲突。辛顿反复强调，公司负有受托责任，必须努力为股东实现利润最大化，这是法律对他们的要求。但是法律并没有要求他们不能毁灭人类。让这些大型上市公司来主宰我们的未来，绝对不是什么好事。辛顿以 Anthropic 和谷歌为例，说明了企业在逐利压力下的无奈。Anthropic 成立的初衷就是为了实现公众利益最大化，它是由一群从 OpenAI 离职的员工创立的，因为他们觉得 OpenAI 对人工智能的安全性重视得远远不够。但是现在，Anthropic 进退两难，因为它需要筹集大量资金来与其他公司竞争。要在这种激烈的竞争下，维持造福人类的开发初衷，实在是举步维艰。而谷歌曾经制定了各项人工智能原则，其中之一就是绝不参与将人工智能用于军事领域。但是现在这些底线都没了，他们已经放弃了这些原则。
战略迷雾：技术路线分歧与安全方向盘
那么，我们该如何应对这些风险呢？辛顿提出了一个非常形象的比喻。很多大公司试图向我们兜售这样一个观点：如果把人工智能的发展比作一辆汽车，那么技术的进步就是油门，而监管就是刹车。但是辛顿说，这纯属无稽之谈。技术的进步确实像油门，但监管绝不是刹车，而是方向盘。我们希望这辆车驶向正确的远方，而不是误入歧途。而那些大型 AI 公司现在的诉求，其实是想在没有方向盘的情况下，去造一辆风驰电掣的跑车。这绝不是什么好主意。
基于这种紧迫感，辛顿认为，我们现在最应该投入大量精力去研究的，是如何设计出真正关心人类的 AI 系统。我们无比渴望它们能关心人类的安危，甚至胜过关心它们自己。但令人遗憾的是，目前几乎没有任何资源被投入到这个方向的研究中。
关于 AI 安全的路径，三位深度学习先驱也存在着严重的分歧。杨立昆认为，谈论超级智能 AI 接管人类，简直是无稽之谈，他坚信我们总能把它牢牢控制在手中，只要给 AI 系统提供更强大的世界模型，让它们变得更聪明就万事大吉了。而辛顿和约书亚·本吉奥（Yoshua Bengio）则认为，他这种盲目乐观才是可笑的。辛顿的解决方案是，我们需要在设计 AI 系统时，让它们关心人类的福祉，胜过关心它们自己。本吉奥的解决方案则是，我们不应该赋予它们智能体的属性。它们可以做预测，但不能具备采取实际行动的能力。让它们成为只能回答问题的“神谕者”。这是两种截然不同的安全路径，但都是极具启发性的方向。
在专访的最后，主持人问辛顿：鉴于大众对这些担忧的反馈，他对人工智能的发展轨迹是感到更乐观了，还是更悲观了？辛顿说，他倒是比 1 到 2 年前更乐观了一些。因为他看到，我们或许有可能设计出在乎人类的新型智能体，也有可能利用本吉奥的方法，设计出无法执行实际动作、只能进行预测的新型智能体。因此，要获得一个不会毁灭人类的超级智能，还是有一些可能性的。而在这一两年前，他是完全看不到任何希望的。
当被问到，5 年后我们会步入一个怎样的境地时，辛顿用了一个非常贴切的比喻：预测 AI 的未来，就像是在浓雾中开车。你能看清 100 码内的路况，但是在 200 码外你就完全看不见了。AI 正以指数级的速度狂飙突进，你能清晰地看清未来 1 到 2 年的情况，但是再往后，你就一无所知了。如果退回 10 年前，你绝对预料不到今天正在发生的一切，那一切都隐藏在浓雾之中。辛顿说，我们唯一能确定的是，10 年后发生的事情，绝对是我们当下无法预测的。即使进步仅仅是线性的，10 年后的世界与现在的差距，也将如同现在与 10 年前的差距一样巨大。而在未来 10 年，AI 的数学能力和通用推理能力，将迎来更为巨大的突破。它们将在任何形式的推理上，把我们远远甩在身后。
好了，以上就是辛顿这次专访的全部核心内容。说实话，在整理和解读这些内容的时候，我的心情还是非常复杂的。一方面，我为人类能够创造出如此伟大的技术而感到惊叹；另一方面，我也为人类的未来，感到深深的担忧。辛顿作为 AI 革命的奠基人，他的警告绝不是只是危言耸听。我们现在也许正站在一个历史的十字路口，我们今天所做的每一个决定，都将决定人类未来几百年甚至千年的命运。希望今天这期节目，能让更多的人关注到 AI 的安全和发展问题。因为这不仅仅是科学家和企业家的事情，而是关乎我们每一个人的生存。感谢收看本期视频，我们下期再见。