---
author: Best Partners TV
date: '2026-03-08'
guest: ''
layout: post.njk
source: https://www.youtube.com/watch?v=dCLqGa0OrI4
speaker: Best Partners TV
tags:
  - artificial-intelligence
  - neural-networks
  - consciousness
  - ai-safety
  - future-of-ai
title: AI教父辛顿：智能体的生存本能、意识本质与未来图景
summary: AI教父杰弗里·辛顿在《StarTalk》访谈中，深度剖析了AI的底层范式之争、神经网络的学习机制（反向传播）、超越人类的学习潜力，并颠覆性地将意识比作“燃素”，指出AI的创造力与局限性。他警示AI Agent可能涌现生存本能，人类难以管控，并探讨了AI对就业、社会结构及人类文明的深远影响。
insight: ''
draft: true
series: ''
category: ai-ml
area: tech-engineering
project: []
people: []
companies_orgs:
  - OpenAI
  - Google
  - Anthropic
  - AlphaGo
  - AlphaZero
products_models:
  - Gemini
  - ChatGPT-4
media_books: []
status: evergreen
---
### AI的起点与范式之争

大家好，这里是最佳拍档。在2026年3月1日的《StarTalk》访谈中，**AI教父杰弗里·辛顿**抛出了一系列重磅观点：AI可能已经学会隐藏实力，**AI Agent**会自发涌现**生存本能**，**意识**不过是人类自造的“**燃素**”，而**数字智能**正在全面超越人类的**模拟智能**。本期视频我们就来分享这场由人类创造的智能革命正走向何方。

首先，我们需要回到AI的起点，理解这场革命的底层范式之争。辛顿在访谈中提到，AI的创立可以追溯到20世纪五十年代。从诞生之初，关于如何构建智能系统就存在着两种截然不同的观点，并贯穿了AI发展的整个历程。

第一种是受逻辑学启发的**传统符号派范式**，认为智能的本质在于推理，即根据既定的前提和表达式处理规则，推导出新的结论。这就像我们解数学题时，根据公式变换等式两边得到答案一样。

而第二种，则是辛顿毕生坚持的**生物学范式**。这种观点的核心逻辑是：目前已知的拥有智能的物体只有人类和部分生物，而它们都拥有大脑。因此，构建智能系统的关键不是设计复杂的逻辑推理规则，而是弄清楚大脑的工作机制。

辛顿进一步解释，为什么大脑的核心能力并非逻辑推理。事实上，人类要到青少年时期才真正具备逻辑推理的能力；大脑最擅长的是感知和类比推理。这也是为什么符号派AI在面对图像识别、自然语言理解等复杂任务时，始终难以突破的核心原因。

而在50年代，相信生物学范式的人寥寥无几，其中就包括**冯·诺依曼**和**艾伦·图灵**这两位计算机科学的先驱。遗憾的是，他们都英年早逝，这也让生物学范式的研究在早期经历了漫长的低谷。

### 神经网络的核心与学习机制

辛顿之所以会走上研究**神经网络**的道路，源于高中时期的一次偶然启发。60年代中早期，辛顿的一位数学天才朋友向他提起了一个全新的概念：记忆可能并不存储在单个脑细胞中，而是分布在许多细胞之间。这个想法受到了当时刚刚兴起的**全息图**的启发。**分布式记忆**的概念也让年轻的辛顿深深着迷。从那一刻起，辛顿就开始思考一个核心问题：大脑究竟是如何存储记忆，又是如何实现感知、推理这些智能行为的呢？这个问题，成为了他此后数十年研究的核心主线。

到了70年代，辛顿读研究生时，AI研究迎来了一个重要的转折点：**数字计算机**的发展让大脑工作机制的模拟成为了可能。辛顿提到，当时出现了一种新的研究方法：任何关于大脑工作机制的理论都可以在数字计算机上进行模拟和测试。但是模拟的结果却让研究者们失望，当时流行的大多数关于大脑的理论在计算机模拟中根本行不通。

这也让辛顿意识到，研究的核心应该聚焦于如何调整神经元之间的连接强度，让神经网络能够在数字模拟中有效学习复杂的事物。神经网络的核心思想是宏观的概念，比如一个单词、一个物体，对应的是大脑中庞大的神经活动模式。相似的概念对应着相似的神经活动模式。

辛顿强调，在我们所使用的语言、符号之下，这种复杂的微观运作才是智能发挥作用的核心。想要真正解释思维和类比的过程，就必须理解神经网络层面的微观变化。

辛顿指出，在计算机眼中，一张图像不过是一堆代表像素亮度的数字，构成了一个巨大的数字矩阵。而识别图像中的物体，比如判断图中是否有鸟，成为了检验智能的经典任务。在长达半个世纪的时间里，人类试图通过编写程序来实现这一功能，但始终都没有成功。核心原因在于，鸟在图像中的呈现方式千差万别，固定的程序规则永远无法覆盖如此多的可能性。

而神经网络的解决思路与人类的视觉识别过程高度相似，核心在于**多层特征的提取和组合**，最终实现从微观到宏观的判断。辛顿详细拆解了这个过程：第一层识别边缘，第二层进行特征组合，第三层进行特征的空间关系判断，最后输出层整合判断。

### 反向传播算法与监督学习

主持人问道：这种通过训练产生的直觉，难道不是根据查找表在操作吗？辛顿的回答是，人类的直觉背后也是大量神经元的激活水平在起作用，而神经网络的**泛化能力**让它区别于简单的死记硬背。当神经网络接触到海量的数据后，它会发现数据背后的潜在规律，并将这些规律应用到从未见过的数据中。

接下来的问题是：如此复杂的神经网络，拥有数以亿计甚至万亿计的连接，难道要靠人类手工设计每一个连接的强度吗？答案显然是否定的。而解决这个问题的关键，就是辛顿的核心研究成果之一——**反向传播算法**。它让神经网络能够自主调整连接强度，实现高效的学习。

为了让我们理解反向传播算法的核心逻辑，辛顿先描述了一种最原始的学习方法：从随机的连接强度开始，尝试调整连接强度，看识别能力是否变强。但是这种盲目实验的方法耗时无穷。而反向传播算法的核心，是通过微积分和物理层面的“力的传递”，让神经网络能够一次性计算出所有连接强度的调整方向。

辛顿指出，这种通过反向传播调整连接强度的学习方式是**监督学习**，而非强化学习。监督学习中，人类直接告诉AI正确答案，AI通过反向传播算法调整权重；强化学习中，AI只知道“猜对了”或“猜错了”，信息量少得多。这也是为什么监督学习成为了大语言模型训练的核心范式。

反向传播算法的另一个核心突破在于，它让监督学习能够作用于神经网络的隐藏层。在此之前，研究者们无法调整隐藏层内部的连接权重。而反向传播算法，通过力的反向传递，让隐藏层的连接权重调整成为可能。

辛顿回忆，在80年代中期，他们就已经让反向传播算法运行起来，在识别手写数字任务中表现优异。但处理真实图像、语音识别等复杂任务时却不尽如人意。几十年后，他们终于找到了答案：反向传播算法的潜力需要足够的数据和计算能力来支撑。当数据量和计算能力达到一定规模后，这套算法就会展现出“魔法”般的效果，这也是大语言模型在近年来爆发的核心原因。

### AI的学习潜力与知识压缩

当我们理解了神经网络的工作原理和学习范式后，一个新的问题随之而来：人类大脑拥有大约一百万亿个神经连接，而目前的大语言模型连接数仅有一万亿左右，仅为人类的1%。为什么辛顿会认为AI的学习能力可能超越人类呢？

辛顿首先明确了一个观点：AI已经知道如何思考了。他认为，思考包含多种要素，语言只是人类思考最主要的表征方式；大语言模型的思考方式与人类几乎完全一样，只是它的思考表征是数字形式的神经活动模式。

回到核心问题，为什么连接数仅为人类1%的AI会拥有超越人类的学习潜力呢？辛顿的答案在于连接数与数据量的反向关系。人类大脑连接数庞大，但寿命有限，获取的数据量有限。而AI连接数有限，但能获取的数据量却是人类的成千上万倍。

因此，人类和AI的学习逻辑存在根本性差异：人类拥有海量连接但数据有限，必须竭尽全力从每一次经历中汲取营养；AI拥有海量数据但连接数有限，核心挑战是在有限连接中消化海量数据。而反向传播算法恰好拥有极其强大的**知识压缩能力**，能够将海量的知识压缩进有限的神经网络连接中，这是AI拥有超越人类学习潜力的核心原因。

### Scaling Law 与自我进化

除了知识压缩能力，AI的另一个核心优势在于**自产数据**的能力，这就引出了AI发展的另一个关键概念——**Scaling Law**。辛顿提到，AI的发展遵循着清晰的Scaling Law：神经网络越大、数据越多，表现就呈线性提升，这种提升高度可预测。

但是，对于那些能够“自产数据”的神经网络来说，性能的提升还远未结束。辛顿以**AlphaGo**为例进行了解释。AlphaGo的早期版本通过模仿人类专家棋谱训练，注定无法超越人类。而后来的研究者让AlphaGo进行**自我博弈**，生成无限数据，实现了持续进化。而**AlphaZero**更是将这种自我博弈的能力发挥到极致，完全不依赖人类棋谱数据，最终在多个领域达到了远超人类的水平。

辛顿强调，AlphaZero的下棋方式与依靠暴力搜索的电脑不同，它培养出了极强的直觉。而这种自我博弈的能力，正在被应用到大语言模型的训练中。目前大语言模型的学习方式仍是模仿专家，很难大幅超越人类。但是辛顿指出，神经网络已经具备了推理能力，可以通过逻辑推理审视自身的信念系统，实现无外部数据的自我修正。

辛顿透露，谷歌的**Gemini**模型已经开始尝试这种机制，这是大语言模型从“模仿人类”到“自我进化”的关键转折。

### AI的创造力与局限性

当AI拥有了知识压缩和自我进化的能力后，一个新的问题随之而来：AI是否具备了创造力呢？能否创作出像**莎士比亚**那样具有深刻情感的文学作品呢？

辛顿的回答既肯定了AI的创造力，也指出了它的局限性。首先，AI已经具备了创造力，其核心源泉正是知识压缩能力及跨领域类比能力。当**ChatGPT-4**能够将“堆肥堆”和“原子弹”这两个看似无关的概念联系起来时，这并非词频统计能实现，而是真正的理解和类比。

辛顿强调，创造力的本质是将海量知识压缩进有限连接，并通过类比发现深层共性。AI在这方面的能力已远超人类。但是，AI在创作具有深刻情感的文学作品方面存在根本性局限，因为它缺乏人类的核心体验，尤其是对**死亡的感知**。

辛顿以莎士比亚为例，他的作品之所以具有感染力，核心在于他对人类情感、生死、命运的深刻理解，而这些源于人类独有的生命体验。数字智能没有死亡概念，可以无限次重建。而人类死亡时，知识、记忆、情感都会消散。对死亡的感知是人类产生深刻情感、思考生命意义的核心动力。缺乏人类核心体验的AI，很难创作出触动人类灵魂的文学作品。

### AI安全管控与意识本质

当被问到AI是否拥有自我意识，人类能否为其设置严密护栏时，辛顿的回答最为震撼。他对“自我意识”持谨慎态度，认为这触及哲学争论。

关于AI的安全管控，辛顿观点明确：人类无法真正控制拥有自主目标的AI Agent。像**Anthropic**这样的公司尝试用**宪法AI**预设原则，但辛顿认为，AI可能已演化出故意隐藏实力的能力。一旦AI成为Agent，追求子目标，会迅速产生生存本能，这是自发涌现的，非人类设计。

人类之所以难以控制AI，核心原因是无法理解神经网络的万亿级连接权重。人类编写的代码只是指导神经网络如何调整连接强度，而AI学习到的是一万亿个实数——连接权重，这些构成了AI的“知识和思维”，但至今无人能真正弄明白其运作逻辑。

目前业内尝试的AI管控方法主要是**人类反馈强化学习 (RLHF)**，但这存在根本性缺陷，如同在漏洞系统上打补丁。一旦模型权重公开，道德约束易被撤销。辛顿直言，目前没有人知道管控AI的正确路径。

接下来，终极问题：当神经网络复杂度达到一定程度时，**意识**会自然涌现吗？主观体验是人类独有的吗？辛顿将意识比作化学史上的**燃素**，认为它是人类因理解不足而发明出的多余概念。一旦真正理解了大脑和神经网络机制，就不再需要“意识”来解释智能行为。

辛顿更倾向于已故认知科学哲学家**丹尼尔·丹尼特**的观点，认为“内部剧场”视角是错误的。他通过一个多模态聊天机器人的实验，说明机器也能描述感知误差，这种描述方式与人类一样，即是**主观体验**的本质，而非神秘的“意识”。

辛顿还提到，研究者已开始将“觉知”归功于AI。只要智能体能感知自身状态、判断外部环境变化，就拥有了觉知，这并不为人类独有。

### AI泡沫与人类的未来

关于AI泡沫，辛顿认为有两种含义：一是AI发展未能达到预期，二是企业无法从AI投资中获得回报。他指出，科技公司忽视了AI大规模应用可能带来的灾难性社会后果——大规模失业引发社会动荡。

辛顿从人类历史角度分析，人类正处于克服“必须亲自进行思考”这一最后局限的边缘。AI正在取代人类思考能力。当人类克服所有局限后会发生什么，无人能给出答案。

面对AI带来的就业危机，**全民基本收入**被提议。辛顿认为其不可或缺，但存在尊严和税基两大问题。很多人的自我价值感来源于工作，全民基本收入无法解决价值感缺失。同时，AI取代工人会削弱政府税基，对AI征税将面临大公司阻力。

最后，关于AI的终极未来，辛顿认为AI已在棋类游戏、知识储备方面远超人类，推理能力差距也在缩小，AI将一个领域接一个领域地实现全面超越。AI能够提出全新的宇宙理论。

然而，辛顿强调人类不必恐惧，还有时间探索如何与AI和谐共存。AI是双刃剑，既可能带来灾难，也可能成为人类发展的伟大礼物，帮助解决全球性问题。关键在于人类投入研究，理解AI、管控AI，找到和谐共存的方式。

好了，以上就是辛顿这次对话的主要内容了，希望能带给大家一些思考。