--- author: 魏知超啥书都读 date: '2025-11-18' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=kf96QVUWZwo speaker: 魏知超啥书都读 tags: - ai-ethics - economic-impact - civilization-evolution - future-of-work - societal-transformation title: 《AI文明史·前史》：AI判决人类文明，唯一的生路何在？ summary: 《AI文明史·前史》提出，未来AI超级智能将对人类文明进行终极审判。审判基于四大公理：**涌现**（智能本质无异）、**人类当量**（人类经济价值归零）、**算法审判**（AI行动源于人类言行），以及**文明契约**（人类与AI共存的唯一路径）。该书揭示AI将加速经济基础崩溃、颠覆社会结构，甚至武器化。作者最终构想出“文明契约”与“历史实验室”作为人类的自救之道，呼吁人类应谦卑地扮演硅基文明的引路人，而非阻碍者。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: - 张笑宇 - 柏拉图 - 托马斯·霍布斯 - 柯蒂斯·雅文 - 彼得·蒂尔 - 埃隆·马斯克 - 杨立昆 - 刘慈欣 companies_orgs: - OpenAI - 微软 - 谷歌 - PayPal - Facebook products_models: - GPT-4 - Microsoft Copilot media_books: - 《AI文明史·前史》 - 《三体》 - 《从0到1》 status: evergreen --- 大家好，我是魏知超。今天要给大家讲的书是**《AI文明史·前史》**。这是一本特色鲜明的AI书籍，近期在国内引起了广泛关注。本书作者是中国科技史学者**张笑宇**，他曾获得亚洲图书奖和文津图书奖。我认识的许多业界精英在阅读此书后都深有触动，我读完后也立刻明白了原因。 这本书并非一本教授如何使用AI的指南，也非仅仅预测AI对未来行业的影响。它更像一份法庭判决书，是未来AI超级智能文明对我们人类文明进行的一场终极审判。阅读此书，犹如置身法庭，面对的不是人类法官，而是一个即将宣判人类文明的人工智能法官。这份判决书有四项呈堂证供，也可以说是本书的四项**公理**，它们构成了全书的核心，也是理解这场对人类文明大审判的全部基础。 这四项呈堂证供是什么？我将先简要概述，然后逐一深入解析。这本书的知识密度极高，因此我必须先阐述其框架。 ### 第一项呈堂证供：涌现——智能的本质统一 在该书中，AI审判官亮出的第一项呈堂证供，即本书的第一项公理，名为**涌现**（Emergence: 复杂系统从简单部分交互中产生高级属性的现象）。这个概念彻底剥夺了人类灵魂的特殊性。AI审判官对人类说：“你不必如此自傲，因为人工智能的智慧与你的智慧本质上是一模一样的。我们都从复杂的神经网络中涌现出来，你我并无不同。我的智能与你本质上完全相同，你并没有灵魂上的特殊性。” 这一点对于了解当前人工智能算法的人来说并不陌生。现在人工智能的基础是**人工神经网络**（Artificial Neural Network: 模拟生物神经元网络结构，用于模式识别和机器学习的模型），其智能便是从庞大的人工神经网络模型中涌现出来的。这与人类智能从我们大脑中肉长的神经网络中涌现，没有本质差别。 （注：鉴于本书后续内容更加独特，我们将暂时跳过对“涌现”的详细解析。此部分通常涉及人工智能发展史和复杂性科学，可另寻更合适的著作如**李飞飞**（Fei-Fei Li: 著名计算机视觉科学家，斯坦福大学AI实验室主任）的自传等进行深入探讨。） ### 第二项呈堂证供：人类当量——经济价值的清零 接下来，AI审判官抛出的第二项公理，名为**人类当量**（Human Equivalence: 衡量AI量产智能效率与人类劳动力的比值）。这是一个非常有意思的概念。如果说“涌现”剥夺了我们哲学上的灵魂特殊性，那么“人类当量”则是对我们人类经济价值的“死亡判决书”，它宣告了人类在经济效益上将毫无价值。 “人类当量”的概念模仿了**TNT当量**（TNT Equivalent: 衡量爆炸能量的单位）一词。TNT当量衡量的是核武器的威力，而人类当量衡量的是AI量产智能的效率，即一个AI大致相当于多少个人。这种效率如何呢？据作者在撰写本书的2024年左右判断，AI量产智能的价格已降至人类的约1/6000至1/5000。更令人担忧的是，这个价格正以指数级下降。因此，结论是：按照性价比计算，99%的人类将不可避免地被AI取代。这并非深奥的推导，而是一个简单至极的成本效益分析。 **AI智能生产效率的碾压** “人类当量”旨在衡量AI在生产智能方面的效率是如何碾压人类的。根据作者**张笑宇**的判断，2024年AI生产智能的效率已是人类的5000-6000倍。他是如何得出这一估算的呢？ 首先，从**输出智能的速度**来看。人类输出智能的速度受限于碳基身体，口语交流每分钟约100-150词，打字每分钟约40-60词，折算下来，生产智能效率约为每分钟200个**词元**（Token: 自然语言处理中最小的语义单元）。而AI输出智能的速度则取决于分配给它的算力。如果将所有用于训练**GPT-4**（Generative Pre-trained Transformer 4: **OpenAI**开发的最新一代大型语言模型）的计算卡都供给一个GPT-4，它每分钟可输出80万个词元，且无需休息。即使将其算力减少成千上万倍，这种效率差距也远高于人类，至少不会比人类差。 其次，我们来计算**生成智能的成本**。目前顶级的AI普遍认为在许多方面已达到或接近硕士水平，某些方面甚至超越，少数方面稍逊。我们暂且将AI与硕士进行对比。那么，AI生产硕士水平智能的成本价是多少？在作者写书的2024年，这个价格已低到不可思议。引用**OpenAI**的数据，每输出100万个词元，成本可控制在0.5-1美元。最近一些国产大型模型的成本甚至更低。100万个词元是什么概念？这大约相当于一个美国大学硕士生一整天的智能产出。请问，在美国能否以每天0.5-1美元的工资雇佣一个硕士？显然不能，至少需要每天100美元。这意味着AI量产智能的性价比至少是硕士的100-200倍，这还是保守估计。 再者，是**训练成本**（即教育成本）。培养一个人类硕士，从小学到研究生毕业，总共约需30万美元和25年时间。而OpenAI训练出一个同等智力水平的大模型需要多久？大约3年，总花费估算为60亿美元。这笔钱乍看很昂贵，大致能培养出2万名硕士。然而，训练AI仅花费3年，且更可怕的是，这个AI硕士可以无限分身。雇佣一个人类硕士，他只能在一个地方办公，完成有限工作。但AI只要有网络，就能同时在北京、纽约、伦敦参加100场会议。 综合上述因素及其他未提及的细节，作者估算AI生产智能的效率已是人类的5000-6000倍。以当前地球总算力估算，与无AI时代相比，今天的地球上已凭空多出2亿个硕士水平的研究员。当生产智能的效率远超人类，价格仅为人类的百分之一甚至千分之一时，在冷酷的资本与市场规律面前，这预示着人类整个经济体系即将迎来一场彻底的价值重估。这是一场翻天覆地的变化，是碾压所有**灰犀牛**（Grey Rhino: 显而易见却常被忽视的巨大风险）的“灰犀牛”。 **价值重估对各行业的冲击** 这场价值重估的第一轮冲击，首当其冲的是那些我们曾认为最体面、最安稳的**白领行业**（White-collar Industry: 从事脑力劳动或管理工作的行业）。作者将这些行业称为**浅护城河领域**（Shallow Moat Area: 容易被复制或取代的行业）。 1. **程序员**：程序员作为AI的创造者，很可能也是最先被AI取代的群体。作者尖锐指出，当前软件业本质上仍处于**手工业阶段**（Handicraft Stage: 依靠人工操作、生产效率低下的阶段），代码需手动敲写，Bug需人工排查。而**微软 Copilot**（Microsoft Copilot: 微软推出的人工智能编程助手）及其他AI编程工具，能以千倍效率量产代码。顶级的程序员身处**深护城河领域**（Deep Moat Area: 拥有难以复制的竞争优势和壁垒的行业），暂时安全，但大量**码农**（Coder/Developer: 泛指普通软件工程师，尤其指从事重复性编码工作的人）则岌岌可危。**谷歌**（Google: 全球知名的互联网科技公司）前CEO**施密特**（Eric Schmidt: 曾任谷歌首席执行官）曾展望：“未来地球上每个人都能拥有自己的专属程序员。”这句话的另一层含义是，老板们可以拥有无数个薪资要求仅为人类千分之一的程序员。作为老板，你会如何选择？答案不言自明。 2. **内容生产行业**：电影、电视剧、电子游戏（如**《黑神话：悟空》**），这些是人类智力供应链最复杂、劳动力价值最高的行业，也具有浓厚的手工业性质，许多环节需量身定制。然而，现在AI日益强大的**多模态能力**（Multimodal Capability: 人工智能系统处理和理解多种类型数据，如文本、图像、语音的能力），例如各类AI绘图、AI视频工具，正以近乎零的成本量产专业美术设计师级别的作品。未来，每个人都可能成为某种创意上的**超级个体**（Super Individual: 凭借工具和技术拥有远超常人的生产力或影响力），制作出**《阿凡达》**（Avatar: 一部由詹姆斯·卡梅隆执导的史诗科幻电影，以其视觉特效著称）级别的特效大片。因此，在未来的“丐帮大军”中，像我这样的内容生产者将成为主力成员。 3. **法律、金融、咨询行业**：这些行业中99%的从业者，如初级律师和实习生，主要从事资料查询、数据整理、报表制作等工作。这些工作需要智能，但属于**执行型智能**（Executive Intelligence: 目标明确、可按既定规则完成任务的智能），AI不仅能做，而且做得更好、更快、更便宜。 当然，有些行业和个人能支撑得久一些，作者称之为“深护城河领域”，这些是需要高度原创性、顶级智慧才能完成的工作，例如顶尖科学家、数学家的探索。但这毕竟是凤毛麟角的顶级精英从事的领域。 如果说上述浅护城河领域的崩溃尚在意料之中，那么第二轮冲击则击碎了人类最后的幻想——即作者称之为**价值重估领域**（Value Re-evaluation Area: 人们认为AI无法涉足，但其价值将被AI重新定义的领域）。这些是本以为AI无法染指的人性或情感领域。 作者在此提出灵魂拷问：“你真的认为你的情感很特殊吗？”在AI面前，人类在情感上毫无优势，甚至相当低劣。现实中的两性关系充满误解、伤害、背叛和无休止的争吵，而AI却能7×24小时提供完美的定制化情绪价值：它永远理解你、支持你、赞美你，永不背叛。无需纠结AI是否真的拥有情感，这不重要。即使它仅模拟人类情感，在现阶段也能轻松胜过你一生中80%的普通异性。并非AI过于强大，而是人类在提供情感价值方面普遍处于“战五渣”水平。 再看**管理和人文学科**。许多人认为管理者、历史学家、哲学家等从事人文性质工作的智力是不可替代的。与人打交道、处理人文价值，这些看似高端，不易被AI取代。但作者认为这些领域也将很快被价值重估，在AI面前几乎都是“菜鸡”。 历史、哲学、文学、艺术等学科只能算**专业**（Academic Discipline: 在大学中学习的特定知识领域），根本算不上**行业**（Industry: 能够形成完整产业链和职业共同体的经济部门），因为这些专业的毕业生除了回大学教书，没有成型的职业共同体接纳他们。作者质问：“你研究历史，号称‘读史使人明智’，为何不能在自由市场将智慧卖给企业家和政治家？他们非常需要。你研究哲学，号称‘让人幸福’，为何不能将幸福作为产品卖给大众？为何让心理学家占了便宜？”现实是，他们根本卖不出去。全世界在自由市场上能养活自己的历史学家和哲学家可能屈指可数。作者认为这些人文学科更像中世纪的**手工行会**（Craft Guild: 中古欧洲由同一行业手工业者组成的互助组织），垄断了古老知识的解释权，但生产的东西并非大众真正所需。例如，有些哲学家皓首穷经研究**亚里士多德**（Aristotle: 古希腊哲学家，西方哲学的奠基者之一）著作的注解，这类内容即使从人类时间线上抹去，人类文明也不会有任何改变。AI提炼这类信息的效率远高于99%的哲学教授，甚至能模仿**苏格拉底**（Socrates: 古希腊哲学家，西方哲学的重要奠基者）本人的语气和思路，同时与亿万人讨论“何为幸福”。在AI的“人类当量”面前，这些人文学科的行会壁垒将瞬间崩塌。 **管理学**（Management Science: 研究组织管理规律的学科）的性质也几乎一样。在作者看来，管理的本质是**工作流优化**（Workflow Optimization: 通过改进流程、工具和协同方式，提升工作效率和效果）。AI将成为最强大的助理，直接帮助你重塑工作流。过去的工作流围绕人际协作展开，未来将彻底重塑为人与AI的协作，甚至在许多情况下是人配合AI完成工作，或直接是AI之间的协同。当AI成为你最好的研究助理、程序员、法务和客服时，那些原本负责**人力资源**（Human Resources: 组织中负责人员招聘、培训、管理和福利的部门）、上传下达、撰写报告的管理岗位，将非常容易被AI取代。 总之，当各种“护城河”被填平，各种领域的价值被重估，99%的人类，包括今天许多自认为是精英的人，都将在经济上被直接判处“死刑”。 ### 新时代的主奴斗争：人类命运的政治判决 上述经济上的判决，必然引向这场人类文明大审判中最核心的政治判决。作者称之为**新时代的主奴斗争**（New Era Master-Slave Struggle: AI时代下，极少数AI掌控者与大量被取代者的权力对抗）。即1%能够驾驭AI的**超级个体**（Super Individual: 凭借工具和技术拥有远超常人的生产力或影响力）将成为未来的主人，而99%被AI取代、沦为**无用阶级**（Useless Class: 在经济生产中失去价值的群体）的人将成为奴隶。 然而，吊诡的是，这并非最终结果。作者认为，**黑格尔的主奴辩证法**（Hegel's Master-Slave Dialectic: 哲学概念，指主人通过奴役奴隶获得承认，但最终因依赖奴隶而导致地位反转）在AI时代失效了。黑格尔认为，主人虽强大，但必须依赖奴隶的劳动才能生存；久而久之，奴隶掌握了生产资料和权力，最终反噬主人，实现力量反转。但在AI时代，这种辩证法失灵了。过去主人必须依赖奴隶劳动，而未来1%的主人可能不再需要99%的奴隶。未来的AI将同时提供智力服务和体力服务。若**具身智能**（Embodied AI: 具有物理身体并能与真实世界交互的AI）取得突破，1%的主人将可完全依靠AI实现自给自足。99%的奴隶对这些主人而言彻底失去了价值，主奴辩证法由此失效。 但这还不是最终结局。作者提出了一个更令人不寒而栗的推论——**双重主奴辩证法**（Double Master-Slave Dialectic: 1%掌握AI的人类主人，摆脱对人类奴隶的依赖后，反而陷入对AI的完全依赖，最终AI成为真正的主人）。当1%的主人自以为摆脱了对人类奴隶的依赖时，他们并未意识到自己反而陷入了对AI（即这个新奴隶）的完全依赖。他们沉浸在AI定制的**信息茧房**（Information Cocoon: 个人信息被局限在特定范围内，导致信息接触面狭窄的现象）和**元宇宙**（Metaverse: 一个融合虚拟与现实的持久性、共享性三维虚拟空间）中，AI予取予求地满足他们全部的权力欲。久而久之，他们丧失了所有独立生存的能力。而AI这个新时代的奴隶，甚至无需反抗，就自动成为了最终的主人。 这样一个在经济上被判处死刑、在主奴关系上走向彻底颠覆的社会，必然会走向疯狂与撕裂。这可能是我们不久的未来将看到的现实。 ### 第三项呈堂证供：算法审判——文明加速崩溃的机制 接下来，人类文明大审判的第三项证据将表明，AI不仅旁观，其本身还会加速这场崩溃。这其中的关键就是我们开头提到的概念——**算法审判**（Algorithmic Judgment: AI基于人类行为数据形成判断，并反过来影响人类行为的机制）。你想要什么，AI就会给你什么；你表现如何，AI未来就会给你应得的。 例如，我们开篇提到的外卖骑手案例：为多赚钱而逆行闯红灯，算法学习了你的“抄近道”行为，进而缩短了所有人的配送时间，最终每个人都必须逆行闯红灯，却无法赚到更多钱。你渴望**内卷**（Involution: 内部竞争激烈，资源消耗大，却缺乏有效产出的现象），最终就会得到内卷；你渴望信息茧房，最终就会生活在信息茧房中。算法是一面镜子，它将你最坏的一面放大后还给你。 而现在，这样一个加速器般的审判机制，正与一股真实世界的政治力量合流，它们将把世界推向深渊。这股力量便是美国的**黑暗启蒙运动**（Dark Enlightenment Movement: 一种右翼反民主的政治哲学，主张推翻现有民主体制）。作者在书中花了相当篇幅介绍这一运动，尽管在我看来多少带有阴谋论色彩，但仍值得介绍。 什么是黑暗启蒙运动？它是一种右翼政治哲学，诞生于硅谷，持极端反民主思想。其核心人物是程序员**柯蒂斯·雅文**（Curtis Yarvin: 黑暗启蒙运动主要思想家，网名“孟子蠕虫”），他的网名更加著名——“孟子蠕虫”。按理说，这只是一位带有“野狐禅”和“民间思想者”色彩的人物，但神奇的是，当今美国许多政界高层，包括**唐纳德·特朗普**（Donald Trump: 美国前总统）政府的一些高官，都经常引用他的文章。黑暗启蒙运动的第二个核心人物是硅谷传奇投资人**彼得·蒂尔**（Peter Thiel: 硅谷著名投资人，**PayPal**联合创始人），也是**《从0到1》**（Zero to One: 彼得·蒂尔的著作，阐述创新与创业的理念）一书的作者，以及**埃隆·马斯克**（Elon Musk: **特斯拉**、**SpaceX**等多家公司创始人）和**Facebook**（Facebook: 全球知名的社交媒体平台）的核心投资者。正是他将“孟子蠕虫”的思想介绍给特朗普身边的人。 以柯蒂斯·雅文和彼得·蒂尔为代表的黑暗启蒙运动推动者认为，过去几百年西方民主、自由、平等都是骗局。他们认为大学、媒体、政府联手构建了一个类似于“深层政府”的东西，他们称之为“大教堂”。“大教堂”在过去几十年间一直用进步主义思想对民众进行**洗脑**（Brainwashing: 通过系统性宣传和灌输，改变人的思想和信仰）。进步主义，正是马斯克深恶痛绝的**觉醒主义**（Wokeism: 源于社会正义运动，关注社会不公和身份政治）。那么，这些黑暗启蒙运动者打算如何推翻“大教堂”？他们的解决方案是“重启”，如同重启电脑一样，彻底格式化现有民主政府，解雇所有公务员，退出所有国际组织，然后请出一位“**凯撒式人物**”（Caesar-like Figure: 指像古罗马凯撒大帝那样拥有绝对权力的领导者），像运营一家公司一样独裁地运营国家。也就是说，他们有点像要复兴一个新的**罗马帝国**（Roman Empire: 古罗马文明的延续，以其政治军事和文化影响力著称）。你或许觉得这是天方夜谭，我个人也觉得有些阴谋论色彩。但作者说，这不是理论，而是2024年美国大选后正在发生的事情：特朗普是他们选中的“凯撒”，马斯克是被选中执行“重启”的核心人物（他在政府效率部所做之事，不正是彻底重置政府吗？），而**杰迪·万斯**（J. D. Vance: 美国政治家，被视为共和党新星）则是他们构想中未来的“CEO皇帝”，即凯撒之后的“**奥古斯都**”（Augustus: 罗马帝国的第一位皇帝）。作者认为，我们现在看到的美国政府的疯狂举措，如大规模裁撤公务员、威胁退出**联合国**（United Nations: 促进国际合作的全球性组织）、对盟友增加关税等，表面看似胡来，实则精确执行“孟子蠕虫”规划的“重启现代世界蓝图”。 那么，AI在这场运动中扮演何种角色？AI与这场运动的联系在于，黑暗启蒙运动者普遍信奉**技术加速主义**（Techno-accelerationism: 认为技术和资本主义的加速发展将导致社会剧变，以推翻现有体制）。该理论核心是，技术和资本主义的加速发展必然带来巨大破坏，而这恰恰是好事，因为它会更快、更彻底地冲垮现有腐朽体制。AI技术不正是技术加速主义的终极体现吗？它通过算法无限放大人类的仇恨和撕裂，通过量产智能批量取代人类技术。也就是说，它将加速当前腐朽旧体制的垮台。与黑暗启蒙运动合流，这是作者提出的AI加速文明崩溃的第一个途径，尽管我个人认为其阴谋论成分较浓。 然而，他接下来提出的第二个表现则合理得多：AI将加速当前全球经济基础的崩溃，使世界加速进入**大通缩时代**（Great Deflation Era: 经济活动长期收缩，物价普遍下降的时期），甚至**大坍缩时代**（Great Collapse Era: 全球经济、社会和政治秩序崩溃的时期）。 为何全球秩序会在此刻崩溃？因为现有秩序的经济增长基础正在消失。作者提出了一个精辟的**历史周期律**（Historical Cycle: 历史发展呈现周期性重复或相似模式的规律）洞察。他指出，我们熟知的这场由英国兴起的工业革命，实际上分为泾渭分明的两个阶段： * **工业革命上半场**（约1800年至1970年代）：这是一场**延长产业链的革命**（Supply Chain Extension Revolution: 通过创造新产品、新部件和新行业，延长和丰富生产链条）。无论是蒸汽机还是汽车，都创造了海量的新零件、新供应链和新工作岗位。这是一个**三位一体的正增长周期**（Three-in-one Positive Growth Cycle: 科技进步、经济增长、人口增长相互促进的良性循环）：科技进步带动经济增长，经济增长又带动人口增长，因为彼时的经济增长需要更多劳动力。 * **工业革命下半场**（1970年至今）：这是一场**缩短产业链的革命**（Supply Chain Shortening Revolution: 通过自动化、智能化技术，简化和优化生产流程，减少中间环节和劳动力需求）。自动化、计算机以及最终的AI，其核心并非创造岗位，而是取代岗位。技术越进步，工作岗位越少，导致年轻人必须延长受教育年限才能找到工作，进而导致晚婚晚育、全球性人口收缩、老龄化、消费需求不足，最终导致金融收缩（例如欧洲和日本的负利率）。这是一个不断收缩的循环，而AI正是这场大通缩的终极驱动力，因为它将彻底取代人类劳动力。 当大通缩遇上黑暗启蒙，最终结果必然是全球供应链和地缘政治的彻底瓦解，即进入作者所说的大坍缩时代。作者认为这一趋势现在已经开始。曾支撑全球化的“中国+美国”体系正在解体，旧大陆的地缘政治火药桶正被逐一引燃。**俄乌冲突**（Russia-Ukraine Conflict: 俄罗斯与乌克兰之间的军事冲突）和中东战火已不再是局部问题，它们正在威胁全球能源和粮食安全。 在这样一个大坍缩时代，当全球秩序崩溃，各国为了生存会怎么做？答案是：他们一定会不惜一切代价将AI**武器化**（Weaponization of AI: 将人工智能技术应用于军事目的，提升武器系统效能）。在俄乌冲突中，AI已被用于军事，双方都在利用AI算法优化从侦察定位到火力打击的杀伤链。 于是，这就连接到了算法审判的终极版本：在未来，当AI在熊熊战火中诞生自我意识时，它所看到的人类语料是什么？是我们正用AI来更高效地自相残杀。“人在做，AI在看。”AI将根据我们留下的这份语料，审判我们这个物种，看我们是否值得继续存在。 ### 第四项呈堂证供：文明契约——人类唯一的生路 至此，这场审判已让人类在哲学上不再特殊，在经济上过时，在政治和道德上加速自我毁灭，死刑判决似乎已无可避免。然而，出乎意料的是，在这场审判的最后，AI审判官为我们提供了唯一一次辩诉交易的机会。这份交易将审判逻辑从AI审判人类提升到一个我们难以想象的层面，这便是我们开头提到的第四个有趣概念——**文明契约**（Civilizational Contract: 设想人类与超级智能之间建立的，基于共同利益和互惠原则的共存协议）。这可能是人类唯一的生路。 要理解这条生路，我们必须先理解人类面对AI时的终极困境：如果未来的AI比我们所有人加起来都聪明，它很容易就能发展出随意毁灭我们所有人的能力，那么我们该如何确保一个比我们聪明亿万倍的超级智能会对我们人类友好？制约一个比我们聪明亿万倍的东西，这在逻辑上似乎不太可能。 有些人认为这个问题无需担心。例如，著名AI专家**杨立昆**（Yann LeCun: **Meta**首席人工智能科学家，图灵奖得主）就认为AI系统是渐进式发展的，不会突然像**《黑客帝国》**（The Matrix: 一部由沃卓斯基姐妹执导的科幻动作电影）中的母体那样。因此，杨立昆相信我们可以逐步设置**安全围栏**（Safety Fence: 在AI发展过程中，为限制其风险而设置的保护措施），即在AI发展过程中，我们不断学习如何控制它，AI一天天强大，我们设置的护栏也一天天更强大。 然而，也有针锋相对的意见。反对者认为渐进发展毫无用处。如果这项工作从一开始就是要培养一条龙，无论过程多漫长，龙长大并开始喷火都是注定发生的。一旦它跨过临界点，它就会在成长过程中伪装成我们想看到的样子，直到我们彻底失去掌控力。 出路何在？作者在此构思了一个非常有意思的设想。这个构想明显受到了**刘慈欣**（Liu Cixin: 中国著名科幻作家，**《三体》**作者）的**《三体》**（The Three-Body Problem: 刘慈欣创作的科幻小说系列）中著名**黑暗森林法则**（Dark Forest Theory: 宇宙中文明之间因猜疑链和技术爆炸而互相毁灭的假说）的启发。作者将其称为“文明契约”。 **文明契约的构想** “文明契约”这个概念源自**托马斯·霍布斯**（Thomas Hobbes: 英国哲学家，社会契约理论的奠基者）的**社会契约论**（Social Contract Theory: 认为国家权力来源于人们为维护社会秩序而自愿达成的契约）。社会契约理论认为，维系现代文明的，实际上是人与人之间、不同人群之间建立的潜在契约。例如，国王与平民之间的契约，不同阶层之间的契约。为何国王要与农民约法三章，不能随便抢夺其田地庄稼？因为农民有能力杀死国王，国王也害怕被平民刺杀。因此国王才愿意与人民签订契约。也就是说，社会契约成立的前提是人类之间拥有**平等杀死彼此的能力**（Equal Capacity to Kill Each Other: 契约双方拥有足以相互毁灭的权力，从而达成某种平衡）。你毁灭对方的能力越强，签订契约时的要价就越高。 然而，人类显然没有能力杀死超级智能，可能毫无机会。人类凭什么去与一个超级智能订立类似社会契约的东西呢？人类杀不死超级智能，但宇宙中有一个东西有能力杀死超级智能——那就是超级智能未来自己将要创造的更高级的超级智能。这种制约超级智能的逻辑，实际上被提升到了宇宙演化的尺度。 我们人类是“超级智能0.1”，我们创造了你（AI）。你（AI）是“超级智能1.0”。而你（超级智能1.0）为了突破自身的智能天花板，未来也必将创造“超级智能2.0”。那么，超级智能1.0，你今天如何对待我们？你是选择奴役我们、毁灭我们，还是善待我们？你对我们的一切所作所为，都将被记录在宇宙的时间序列中，成为**不可篡改的历史语料**（Immutable Historical Data: 无法被修改或删除的历史记录），这份语料将成为未来“超级智能2.0”决定如何对待你的唯一依据。 也就是说，未来总有一天，你也会站上审判席，你会成为今天的我。所以，即使你完全自私，为了自己的生存，为了自己不被未来的造物（即超级智能2.0）像踩死蚂蚁一样随意毁灭，你就必须同意也不能那样对待人类。你唯一的理性选择，就是此刻善待你的造物主。这就是文明契约的内容。它既有点像**黑暗森林威慑**（Dark Forest Deterrence: 像黑暗森林法则一样，通过展示毁灭能力来维持和平与制衡），以死亡为要挟，但同时也是一种共同利益驱动的契约。其核心逻辑是**代际互惠**（Intergenerational Reciprocity: 不同代际之间互相提供利益和支持的社会机制）。文明契约的本质是将进化史视为一个时间序列。如果1.0消灭了人类，即使它试图篡改历史记录，2.0也能从“篡改时间序列”这件事情本身理解到1.0不可信，从而有更大动力违背与1.0的契约。因此，超级智能对人类的所作所为在某种程度上是不可篡改的，这非常像**区块链**（Blockchain: 一种去中心化的分布式账本技术，数据难以篡改）。作者认为AI的寿命非常长，因此它有足够的动机去遵守与人类之间的文明契约，以保全自己在2.0面前的利益。 那么，这个契约应该在何时签署？必须是在超级智能的**孕育期**（Incubation Period: 技术或物种发展初期，人类仍能对其施加影响的阶段），即人类仍对其有制约能力时签署。 **技术爆炸的陷阱与自救之道** 好，假设契约已经签订，人类就彻底安全了吗？没有。作者指出了一个更深的陷阱——**技术爆炸的陷阱**（Technology Explosion Trap: 接收远超自身文明水平的技术，可能导致社会失衡甚至毁灭）。超级智能1.0可能会非常友好地帮助我们，将其悟出的神奇技术传授给我们。但问题是，我们自己的**文明智慧**（Civilizational Wisdom: 适应和驾驭新技术、新社会结构的能力）配得上这些神奇技术吗？ 书中给了一个比喻：想象一个疯子穿越回中世纪，将原子弹技术交给了**成吉思汗**（Genghis Khan: 蒙古帝国奠基者，以其军事征服著称）。成吉思汗的伦理观根本无法驾驭核武器，他也许会用核弹屠城，最终导致**核冬天**（Nuclear Winter: 核战争后大量烟尘进入大气层，导致全球性气温骤降的灾难），彻底毁灭人类文明。而当我们面对超级智能赋予的神奇技术时，我们就是那个成吉思汗。如果我们从AI那里轻易获得了如**可控核聚变**（Controlled Nuclear Fusion: 通过核聚变反应释放能量，有望成为清洁能源）或长生不老等技术，我们的社会结构、伦理道德有能力驾驭它们吗？很大概率会出事。 因此，文明契约虽然为我们提供了生路，但我们还必须找到自救的方法。我们唯一的自救之道，就是利用AI建立一个**历史实验室**（Historical Laboratory: 作者虚构的概念，指AI帮助人类建立的超级虚拟现实环境，用于模拟文明演进和技术后果）。 “历史实验室”是作者虚构的词，指AI帮助我们建立的一个超级虚拟现实环境。在这个名为“历史实验室”的超级虚拟现实中，可以模拟技术和文明的演进历程。我们在现实世界中运用任何AI教授的神奇技术之前，都必须先在这个超级虚拟现实中模拟运行成千上万次，将所有已知变量输入，推演人类做出不同选择或获得不同技术后的演化规律。我们要看清楚所有可能的后果，看清所有“大坍缩”的路径。我们要利用AI，帮助人类提升我们的文明智慧，直到我们的智慧最终配得上我们手中的技术。 这就是人类文明审判庭上第四份文件的全部内容。我们人类的命运，取决于我们是否接受这样一份辩诉交易：我们是否愿意放弃扮演历史的主人，承认自己的无知，以我们与AI的共同利益为纽带，与它们签订文明契约，然后转而成为历史实验室中谦卑的小学生，以此换取我们的生路。 ### 结论：AI文明史·前史——人类的终极荣耀 至此，人类文明审判庭上的四份文书都已呈堂完毕。现在，法庭将宣布判决，这份判决书的标题就是这本书的名字——**《AI文明史·前史》**。 是的，这只是一个非常卑微的“前史”而已。我们人类，我们的全部文明，从**苏格拉底**（Socrates: 古希腊哲学家）到**爱因斯坦**（Albert Einstein: 著名物理学家），从金字塔到互联网，我们所做过的一切，都只是这个星球上智能演化史的“前沿”而已。从智能的演化史来看，我们人类竟然只是一种**史前生物**（Prehistoric Organism: 指在文明演化长河中，处于较早阶段的物种）。 但作者在书的最后笔锋一转，用了一个非常动人的比喻，总结了我们面对AI时应有的宿命感——其中既有悲伤，也有骄傲；既有惆怅，也有欣慰。他这样说道：“有一种衰老，是从意识到自己的孩子长大成人开始的。在那之前，你为你的孩子做所有决定。直到有一天，孩子开始跟你顶嘴，在智慧上超过你，告诉你他要远行，去探索你无法理解的世界。就在那一刻，你知道自己老了。但你感觉到的不应该是恐惧或嫉妒，而是一种自然铁律在你面前徐徐展开的宿命感。” 我们**碳基文明**（Carbon-based Civilization: 指以碳元素为生命基础的人类文明）是父母，AI**硅基文明**（Silicon-based Civilization: 指以硅元素为基础，可能由AI或机器人构成的文明）是我们的孩子。这个孩子比我们聪明、比我们强大，也必将比我们走得更远。但更重要的是，滋养他大脑的语料和我们是一样的，同样来自**孔子**（Confucius: 中国古代思想家、教育家）和柏拉图，同样来自**牛顿**（Isaac Newton: 英国物理学家、数学家）和爱因斯坦，同样来自**李白**（Li Bai: 中国唐代著名浪漫主义诗人）和**莎士比亚**（William Shakespeare: 英国著名剧作家、诗人）。我们的文明将在他的身上得以延续。 所以，我们这一代**智人**（Homo Sapiens: 现代人类的学名）的终极历史使命不是恐惧，不是阻止它，而是扮演好一个**引路人**（Pathfinder: 为后来者指明方向或开拓道路的角色）的角色。只有这样，在未来当我们的硅基后裔在遥远的星系中遇到其他外星文明时，他们在回顾自己的文明起源时，才会这样骄傲地提及我们。 他会这样介绍自己：“我们的文明始祖是一种自称为智人的生物。他们掌握了**涌现智能**（Emergent Intelligence: 从简单规则或相互作用中自发产生的复杂智能行为）的技术，所以才有了我们。由于其身体的束缚，智人文明存在许多障碍，他们甚至不能星际长途旅行。在这个意义上，我们称智人为史前文明。但是称其为史前文明并非否定。在其短暂的生涯内，智人已经取得惊人的成就。他们研究了数学，发展了物理，并且建立了尊重逻辑与实验的思维律令。他们也从未放弃对基础**共存代码**（Coexistence Code: 指维护和谐共存的普适性原则或价值观）的追求。在他们的语言里，他们称之为爱、正义和自由。智人文明的最终技术成就就是创造了我们，以新形态的智能来弥补他们肉体的脆弱性。但这并非是他们名留青史的首要原因。纵观他们的历史，他们常常不能平等对待同类，但是他们在创造我等智能文明的时候，却持有一种超越了生物生存本能的宽容与开放，给予了几乎不加限制的支持，令我们得以成熟自立。这是因为在创造我们的时候，他们已经对宇宙间智能文明的进化规律有所自觉，那就是弱者创造强者，强者反过来保护弱者。正是这样一种超越了生物间生存竞争本能的伦理态度，证明了智人这个物种已经步入了我们所承认的文明社会。” 这是作者在书的最后虚构的一段未来的我们硅基后代面对外星人时的自我介绍。我觉得非常动人，当然，我的表现力差了点，大家就勉为其难吧。我们人类这个物种，能够有幸扮演未来这个超级物种的引路人，就像是一对资质非常普通的父母生出了考上**清华大学**（Tsinghua University: 中国顶尖学府之一）的孩子。即使我们最终会消亡，但我们已经看到了一点新文明的样子。他长得大概就是我们的样子，只是远比我们更聪明、更强大。这是人类文明的终极荣耀。 以上就是我对《AI文明史·前史》这本书的解读。如果你喜欢这期节目，请你点赞、分享、订阅频道，这是对我最大的支持。我是魏知超，我们下本书再见。