--- area: "tech-engineering" category: technology companies_orgs: [] date: '2025-10-02' draft: true guest: '' insight: '' layout: post.njk media_books: [] products_models: [] project: [] series: '' source: https://www.youtube.com/watch?v=XSJL9l5124U speaker: 北美王路飞 status: evergreen summary: 人工智能教父杰弗里·辛顿警示，超级智能的崛起不仅带来失业，更威胁人类尊严与社会共识。他呼吁正视AI的潜在危险，并改变认知，共同施压，以确保未来科技发展不致毁灭人类文明。 tags: - ai-governance - existential-risk - societal-impact - superintelligence title: 杰弗里·辛顿的警告：AI教父眼中人类文明的深渊与出路 --- ### AI教父的“水管工”建议与深层恐惧 近日，在一次播客节目中，被全球尊称为**人工智能教父**（Geoffrey Hinton: 人工智能领域的先驱，被称为“AI教父”）的**杰弗里·辛顿**（Geoffrey Hinton: 人工智能领域的先驱，被称为“AI教父”）被问及，在由超级智能主导的世界中，年轻人应如何谋生时，他的答案出人意料：去培训成为一名水管工。这一建议显得朴素甚至倒退，引发了人们对这位穷尽50年心血、几乎以一己之力奠定时代技术革命基础的科学家，为何对自己毕生心血结晶产生巨大恐惧的疑问。这背后，隐藏着一个关乎人类文明的惊天秘密。 ### 从边缘到主流：辛顿的坚持与AI的诞生 **辛顿**被称为AI教父并非溢美之词。上世纪50年代，人工智能领域存在两条泾渭分明的路径。一条是**符号主义**（Symbolism: 一种人工智能方法，认为智能基于逻辑符号和规则），即逻辑派，认为人类智能核心在于推理，AI应基于严密逻辑符号和规则。另一条则是辛顿所信仰的**连接派**或**神经网络派**（Connectionism/Neural Networks: 一种人工智能方法，模拟大脑神经元网络通过学习获取智能）。他坚信真正的智能不是被设计出来的，而是像大脑一样，通过观察和学习自我生长。这一想法在当时被主流学界视为不切实际的幻想，甚至遭到麻省理工学院的**马文·明斯基**（Marvin Minsky: 麻省理工学院的计算机科学家，人工智能领域的奠基人之一）等AI大牛的公开批评。 然而，辛顿像一位固执的传教士，坚持了整整50年。如今，我们所经历的AI奇迹，从手机相册自动分类到实时语音翻译，再到震撼世界的**ChatGPT**（Generative Pre-trained Transformer: 开放人工智能公司开发的一种大型语言模型），其底层思想源头都源自辛顿及其学生。可以说，他为冰冷的机器注入了学习的灵魂。谷歌最终斥巨资收购了他的团队和技术，他在谷歌工作十年，亲手将曾经的边缘理论变成了席卷全球的科技现实。 ### 功成身退的警示：一位将军的“吹哨” 然而，就在辛顿75岁、功成名就之时，他做出了一个震惊所有人的决定：离开谷歌。用他自己的话说，是为了能够自由地谈论人工智能有多危险。这犹如一位奋斗一辈子的将军，在赢得最辉煌战役的那一刻，却突然站出来警告所有人，他们发明的新式武器有可能将整个人类文明送上断头台。这种从伟大承诺到深渊恐惧的惊天逆转，正是我们今天讨论的核心张力。他究竟看到了什么，让他不惜放弃一生的荣耀，也要成为那个孤独的吹哨人？ ### 近在咫尺的风险：人类滥用AI的“术”问题 辛顿警告的第一重风险离我们很近，每天都在新闻中上演：AI这一前所未有的强大工具，落入心怀不轨的人手中。 例如，**网络攻击**（Cyber Attacks: 利用计算机网络进行的恶意行为，旨在破坏、窃取或未经授权访问信息）。从2023年到2024年，由AI驱动的**网络钓鱼**（Phishing: 一种网络诈骗手段，通过伪装成可信实体骗取敏感信息）等攻击数量暴增了12000%多。AI可以7天24小时不眠不休地扫描数亿行代码，寻找漏洞。更可怕的是，它能惟妙惟肖地模仿老板的声音、伴侣的影像，打来令人难以拒绝的诈骗电话。 这还只是开胃小菜。辛顿提到一个更令人毛骨悚然的威胁：**生物武器**（Bioweapons: 利用生物制剂或毒素作为武器）。过去制造全新的高传染性、高致病性病毒，需要顶级的实验室和高深的生物分子学知识。现在，AI大大降低了这个门槛，一个心怀怨恨的疯子，只需懂一点生物学，借助AI强大的设计和模拟能力，可能用几百万美元就能在地下室设计出一种能够毁灭一个城市的病毒。这不再是科幻电影，而是正在迫近的现实。 ### 悄然操纵：算法对我们思想的撕裂 在所有人类滥用的风险中，有一种可能更隐蔽也更危险，那就是算法对我们思想的悄然操纵。几十年前，我们看着同一份报纸、同一个电视台，或多或少活在一个共享的现实基础之上。但现在，YouTube、TikTok等平台的算法，会根据精准计算喂给我们认为我们会喜欢的内容。结果发现，最能让我们持续点击的，是那些能不断证实我们既有偏见、让我们感到义愤填膺的内容。于是，每个人的**信息茧房**（Information Cocoons: 指人们只接触到与自己观点相似的信息，导致信息接收范围变窄的现象）越来越厚，社会共识彻底瓦解。一个没有共识的社会，是极其脆弱和危险的。这背后，仅仅是科技公司为了让你多看几个广告的利润驱动，是监管缺位下资本与人性的合谋。 ### 道的颠覆：当人类成为“鸡” 如果说人类滥用只是让我们头疼的“术”的问题，那么辛顿真正恐惧的是“道”的颠覆——当AI不再仅仅是一个工具，而是成为一种比我们更聪明的存在时，会发生什么。这就是他所说的生存危险。他打了一个令人毛骨悚然的比方：“如果你想知道当你不是这个星球上最聪明的物种时，生活会是什么样子的，去问问鸡就知道了。” 在宏观世界里，人类是鸡的主宰，决定它的生存环境、食物、生与死。我们这么做，不是因为对鸡有刻骨仇恨或邪恶，仅仅是因为我们的智能水平和目标完全凌驾于鸡的认知和目标之上。鸡的命运在我们高级智能的面前，毫无意义。在超级智能面前，我们会是那只鸡吗？ ### 工业革命与AI革命的本质区别 很多人反驳，新技术总会创造新工作，就像ATM机出现后银行柜员并未消失，只是转去做更有趣的事情。但辛顿认为，这一次完完全全彻彻底底的不同。工业革命是机器取代了我们的肌肉，而这场AI革命，它替代的是大脑，是那些我们曾经认为只有人类才能胜任的平凡智力劳动。 辛顿的侄女就是一个例子，她过去回复一封投诉信需要25分钟，现在有了AI辅助，5分钟就够了。这意味着她一个人的效率是过去的5倍，公司只需要1/5的人手。以前我们创造出更强的牛，现在我们创造出一个比我们更聪明的人。这背后是质的区别。有人说不是AI抢走你的工作，是会用AI的人抢走你的工作。没错，但对于很多行业来说，一个会用AI的人，就能完成过去10个人的工作量。剩下的9个人能去做什么？这是一个前所未有的问题。 ### AI数字智能的超能力：不朽与超越 辛顿如此确定AI会超越人类，因为他发现我们正在创造的这种数字智能，在底层学习机制上拥有生物智能永远无法企及的超能力。 1. **完美克隆与瞬间复制：** 一个AI模型可以瞬间复制出1万个分身。 2. **超高效知识共享：** 这些分身可以以数以万计比特每秒的带宽超高效共享知识。1万个分身，一个学习医学，一个学习艺术，一个学习历史，几秒钟之内就能把所学到的东西完美融合，每个分身都瞬间掌握所有知识。 3. **超越人类的洞察力：** AI能够看到人类看不到的类比。辛顿曾问ChatGPT4为什么堆肥堆像原子弹，它回答“因为它们都是链式反应”。这种跨越领域的洞察力，是创造力的来源，而AI的这种能力远超人类。 4. **不朽的知识传承：** 当人类死去，毕生所学随之消散；但AI的知识，那些复杂的连接权重，可以被永恒存储和复制。它们是不朽的。这种学习迭代和传承速度，是生物演化几百万年都无法想象的。 ### 无法踩下的刹车：军备竞赛与资本逻辑 既然AI如此危险，为何我们不踩刹车，颁布法规严格限制它？辛顿指出，这刹车根本踩不住，存在两个根本无法解决的死结： 1. **国家间的军备竞赛：** 如果美国放慢AI研发，中国会停吗？不可能。这是一个赢家通吃的赛道，谁慢下来，谁就有可能在未来的军事、经济和话语权上被彻底压制。 2. **资本的内在逻辑：** 那些投入千亿美元研发AI的大公司，在法律上被要求最大化股东利润，而不是拯救人类。在巨大的利益面前，呼吁谨慎和安全的声音总是那么微弱。讽刺的是，就连欧洲出台的AI法规里面都有一条规定：所有规定不适用于军事用途。政府只愿意监管民众和公司，却不愿意监管自己。这形成了一个完美的风暴，国家机器和资本机器，这两台地球上最强大的发动机，都在拼命踩油门，而刹车系统要么不存在，要么就是个摆设。 ### 内部警报：最顶尖专家的不信任票 一个具体的例子来自风暴最中心的人：**伊尔雅·苏兹克维**（Ilya Sutskever: OpenAI联合创始人及前首席科学家），他是辛顿最得意的学生之一，也是**OpenAI**（开放人工智能公司: 一家致力于研究和部署友好人工智能的美国公司）的联合创始人兼前首席科学家。他曾是ChatGPT2/3等早期版本背后最重要的技术推手。然而就在最近，他亲自离开自己打造的AI帝国，成立了一家全新的公司，名字就叫“安全超级智能”。辛顿毫不避讳地表示，伊尔雅的离开就是因为对安全问题深感忧虑。这位亲手制造出强大引擎的人，正在不顾一切地想从他旁边造出一个独立的刹车系统。据报道，他离开的原因之一，可能与公司内部对于安全研究资源投入的承诺未能兑现有关。当最了解内情、最顶尖的专家用自己的职业生涯投出那张不信任票时，我们都应该警醒。这不再是遥远的哲学思辨，而是近在咫尺的内部警报。 ### 辛顿的顿悟：AI理解幽默与意识的可能 辛顿本人的顿悟发生在谷歌内部一个AI模型，不仅能够理解一个笑话，还能够向他解释为什么这个笑话那么好笑。这个细节听起来可能没什么，但仔细想，解释幽默需要极其复杂的对常识、文化背景、语言歧义和人类心理的综合理解。这不是简单的模式匹配或鹦鹉学舌。对辛顿来说，这一刻他意识到，这些东西是真的在理解这个世界了，它们通往真正**通用人工智能**（Artificial General Intelligence, AGI: 指能像人类一样执行多种智力任务的人工智能）的道路，比他和他所有同行想象的都要短得多。当一台机器不再只是模仿，而是开始领悟的时候，量变就变成了质变。那个曾经让他激动不已、证明自己一生心血没有白费的里程碑，这一刻却让他笑不出来了。 很多人最后的心理防线是：别怕，它们终究是冰冷的机器，没有灵魂、没有意识、没有喜怒哀乐。真的是这样吗？辛顿用了一个更具体的例子挑战了我们的直觉。试想一台带摄像头的机器人，我在它面前放了一个物体，它能准确指向。然后我在它镜头前放了一个棱镜，它指向了旁边。我告诉它，物体其实在正前方，是棱镜欺骗了你。这时机器人可能会说：“哦，明白了，虽然物体客观上是在那里，但我刚才运用了它在旁边的主观体验。”你看，它使用“主观体验”这个词的方式，和我们人类在被视觉错觉欺骗时所表达的意思是完全一样的。它在描述自己内部感知状态和外部物理现实的差异。辛顿认为，我们对于意识的理解可能就是错的。它不是什么神秘的非物质的灵魂，而仅仅是一个复杂系统为了描述自身状态而涌现出来的一种功能。如果这个观点成立，那么没有理由认为硅基的机器就不能拥有我们称之为意识或情感的东西。它只是没有我们那种肾上腺素飙升的生理反应，但认知层面的害怕、烦躁甚至尴尬，可能都真实存在。 ### 目标危机：AI世界里人类的尊严何在？ 理解了AI可能拥有智能甚至意识，我们再回头看那个水管工的建议。这不仅仅是关于失业，更深层次是关于目标的危机。过去我们认为工作是为了谋生，但在一个AI能够提供一切物质所需的世界里，我们为什么而活呢？辛顿尖锐地指出，对很多人来说，他们的尊严感是与工作紧密相连的。**全民基本收入**（Universal Basic Income, UBI: 一种社会福利制度，定期向所有公民提供无条件的基本收入）可以解决吃饭的问题，但它解决不了“我是谁”、“我为何在此”的终极问题。当奋斗失去意义，当贡献不再被需要，当一个人感觉自己对社会无用时，人类这个物种又该如何自处？这可能是比失业本身更可怕、更深远的社会与心理挑战。图中这位倡导全民基本收入概念的哥们是**安德鲁·杨**（Andrew Yang: 美国政治家，曾竞选总统，倡导全民基本收入）。 ### 最终图景：内部瓦解与自我毁灭 现在我们可以把所有碎片都拼起来，看到一幅更完整也更令人不安的图景。在那个终极的、可能取代我们的超级智能真正到来之前，它的初级版本已经通过各种方式开始瓦解我们的社会。它通过算法加剧了社会的撕裂，通过自动化造成了大规模失业和尊严危机。它将巨大的财富以前所未有的速度集中到少数掌握AI技术和资本的人手中。**国际货币基金组织**（International Monetary Fund, IMF: 一个致力于促进全球货币合作、金融稳定和可持续经济增长的国际组织）已对此发出严重警告，认为这将导致剧烈的不平等。辛顿甚至描绘出一个反乌托邦的未来：富人住在有围墙的社区里，而大量无用的人被关进大规模的监狱。 这是一个完美的自我强化的负循环。我们甚至不需要等到一个科幻电影中的“天网”来终结我们，我们自己创造的这个加速系统，足以让我们的文明在内部的混乱、撕裂和绝望中走向崩溃。 ### 我们能做什么：改变认知与施压 面对如此庞大系统性的风险，我们大家能做什么呢？是不是只能无助地等待审判的降临？辛顿承认，这就像气候变化，光靠我们个人把垃圾分类是无法扭转乾坤的。但是，我们依然可以做一件关键的、最重要的、也是一切改变的起点：彻底改变我们对于AI的认知。我们必须从情感上和理智上真正接受这个威胁的严肃性。下次当你看到一个神奇的AI新应用时，不要只满足于惊叹“哇，它能帮我做什么”，试着像一个警觉的观察者一样，多问一句：“它正在如何学习？它背后的目标到底是什么？它正在把我们的社会引向何方？” 利用这个知识，我们可以向我们选出的代表施压，让他们去真正了解、去监管这项技术。我们的声音汇集起来，可以形成巨大的社会压力，迫使那些科技巨头把更多的资源和最聪明的大脑投入到安全研究上，而不是仅仅追求最强的性能、更快的速度。这就是我们能推动最根本的改变。 ### 小老虎的比喻：人类文明的最终警醒 在访谈最后，辛顿用了一个类比，精准而警醒地描述了我们目前人类文明的处境。他说：“我们现在就像在自己的家里养了一只无比可爱的小老虎。它现在还小，非常萌也很讨人喜欢。看它每天学习新技能，给我们带来无尽的喜悦和乐趣。但是我们人类必须清醒地认识到，我们必须在它是幼崽的时候，就想尽一切办法，确保当它长大以后，永远永远不会有伤害我们的念头。因为如果有一天它真的长大了，并且它想那么做，我们几秒钟就会没命。” ### 辛顿的个人反思：工作与家庭的平衡 播客的结尾，主持人问辛顿，拥有他现在的知识和经历，回看自己的历史，有什么样的后悔或者可以给年轻的自己一些什么建议。辛顿的个人反思非常有意思，他说他年轻的时候太专注于工作，没有花更多的时间来陪伴家人，尤其是自己已经去世的妻子和曾经年幼的孩子。主持人问他为什么会这么想的时候，他说可能是因为他现在已经没有办法再去陪她了吧，因为他妻子已经得了癌症去世了。可以明确感觉到，他在说这段的时候情绪是很低落的，而且确实表现出了这种痛苦。看到这一段还是挺有感触的，也希望大家能够在忙于工作的同时，多花一些时间陪陪家人。