--- author: 北美王路飞 date: '2026-07-10' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=nxWdGiSrjAI speaker: 北美王路飞 tags: - neural-networks - symbolic-ai - cognitive-science - model-evaluation - artificial-general-intelligence title: 被硅谷大厂嘲笑的孤勇者：加里·马库斯与深度学习的三十年路线之争 summary: 本文基于物理学家布莱恩·格林对认知科学家加里·马库斯的深度访谈，系统梳理了马库斯与深度学习阵营长达三十年的AI学术与产业路线之争。文章解构了大语言模型在抽象推理、世界模型以及泛化能力上的底层缺陷，分析了符号系统与神经网络结合的混血趋势，并警示了AI失控带来的现实安全挑战与未来社会变革。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: - 加里·马库斯 - 布莱恩·格林 - 杨立昆 companies_orgs: - OpenAI - IBM - Google - Apple products_models: - GPT-4 - Claude media_books: - 《代数的心智》 status: evergreen --- ### 舆论转向：从讨厌鬼到预言家 前两年，科技巨头**苹果公司**（Apple）发表了一篇题为《思考的幻觉》的学术论文。这篇论文在人工智能学界和产业界投下了一颗重磅炸弹，其核心实验非常简单而残酷：研究人员将市面上几乎所有声称具备强大逻辑推理能力的 **大语言模型**（Large Language Model: 基于海量文本训练的 AI 系统）拉出来，进行了一系列严谨的推理测试。然而，测试结果令所有人大跌眼镜，这些被神化的大模型在面对稍微偏离训练分布的逻辑变体时，当场全部露馅。这篇论文发布后，硅谷著名的风险投资人**乔什·沃尔夫**（Josh Wolfe）在社交媒体上发了一条极具讽刺意味的推特。他写道，苹果公司这篇论文所做的工作，本质上就是把大模型的推理能力彻底地“加里·马库斯化”了一遍。 在这条广为流传的推特中，乔什·沃尔夫直接将一个人的名字转化为了动词来使用。这个词就是 **加里·马库斯**（Gary Marcus: 纽约大学心理学和神经科学名誉教授，AI 路线之争的代表人物）。在美国的人工智能圈子里，这个词汇在过去三十年中已经逐渐演变成了一个专有的动词和文化符号。所谓“加里·马库斯化”，其字面意思就是去公开唱空人工智能、去黑人工智能、去揭露大模型看似无所不能的表象背后的各种逻辑漏洞。 从某种意义上说，加里·马库斯在过去的三十多年里，几乎是在以一己之力专注地扮演着人工智能行业的“扫兴者”角色。但必须要指出的是，他本人并不是一个对计算机技术一无所知的局外人，相反，他自己就是人工智能和认知科学领域的资深学者。由于他长期以来对主流深度学习路线的激烈批评，产业界和学术界的大佬们给他扣上了各种各样的帽子，比如“过时的认知主义者”、“蹭流量的学术小丑”甚至是“人工智能发展的绊脚石”。 然而，这种一边倒的舆论风向在最近一年多时间里发生了微妙而深刻的变化。随着生成式大模型在商业化落地中频频撞上瓶颈，越来越多的业内顶尖人士开始悄悄地、甚至是不情不愿地承认，这个在他们眼中曾经极其讨厌的“唱衰者”加里·马库斯，在过去三十年中所指出的核心问题，从头到尾竟然都是对的。即便是像 Meta 的首席 AI 科学家 **杨立昆**（Yann LeCun: 深度学习三巨头之一，图灵奖得主）这样曾经与马库斯公开论战多年的学术巨擘，最近发表的一些关于大模型局限性的观点，在马库斯看来，也不过是把他早年间说过的陈词滥调重新包装一遍，假装是自己想出来的全新洞见。 为了彻底理清这场决定着人类未来科技走向的路线之争，物理学家**布莱恩·格林**（Brian Greene: 世界著名弦理论学家，科普作家）在世界科学节上对加里·马库斯进行了一场深度的访谈。在这场对话中，马库斯将他三十年来的核心论点和底层逻辑全盘托出。如果我们必须要用一句话来概括他的核心结论，那就是：我们每天都在使用的、看似无所不能的 AI，实际上只是在“表演思考”，而不是在“真正思考”。 --- ### 学术溯源：天才少年的认知起点 这场持续了三十多年的 AI 路线战争，其实有一个非常戏剧性的历史起点。那是在二零一二年十一月，著名的《纽约时报》发表了一篇由资深科技记者约翰·马科夫撰写的深度报道。文章热情洋溢地宣告：**深度学习**（Deep Learning: 一种基于多层人工神经网络的机器学习方法）的时代已经正式到来。随着多层神经网络算法的成熟，配合上英伟达强大的 GPU 芯片，人工智能终于迎来了它有史以来的最强春天。这篇报道几乎成为了这一轮人工智能狂潮的全球发令枪，瞬间引燃了学术界和资本市场的无限热情。 然而，几乎就在这篇报道发表的第二天，加里·马库斯就在《纽约客》杂志上发表了一篇泼冷水的评论文章。他紧接着在不到十天的时间里连续发表了两篇文章，尖锐地指出：神经网络和深度学习确实非常有用，也能够在模式识别上取得突破，但我必须警告所有人，这套基于概率统计和海量数据的系统，根本学不会真正的抽象概念，也学不会严谨的逻辑推理。如果仅仅依靠堆叠数据和增加参数，人类是绝对无法到达真正的通用人工智能彼岸的。 这两篇在同一个星期里前后脚发表的文章，其背后的张力在随后的十几年里定义了整个 AI 学术圈的路线之争。可问题在于，如今这已经不仅仅是象牙塔内部的学术探讨了。在过去的几年时间里，全世界的政府、科技巨头和风险资本，朝着深度学习和 scaling law（缩放定律）的方向压上了上万亿美金的巨额赌注。十三年过去了，天文数字般的资金已经花出去了，但行业翘首以盼的强人工智能和通用人工智能却依然没有出现。 那么，这个敢于跟全球万亿资本对赌的加里·马库斯，究竟有着怎样的学术背景和底气？ 回顾加里·马库斯的成长履历，他是一个典型的“别人家的孩子”和天才少年。在巴尔的摩著名的约翰霍普金斯大学所举办的天才少年项目里，年仅十岁的马库斯接触到了一种模拟计算机运行的纸质教具。就在当天晚上，这个年仅十岁的孩子就登上了当地的电视台，对着镜头和全美观众侃侃而谈这台纸计算机的底层工作原理，完成了他人生中第一次硬核科普。到了高中十年级，他自己动手编写了一个拉丁文翻译程序，凭借这个项目，他被大学直接提前录取，甚至连高中都还没读完就跨入了大学校门。 在选择大学的过程中，汉普夏学院寄来的一份招生材料引起了他的注意。材料里附赠了一本全新认知科学教材的样章。马库斯读完后立刻意识到，这所学校里有一帮真正懂行的人。他就是冲着这篇样章进入了这所学校，而样章的第一作者，后来真的成为了他的本科导师。 真正决定马库斯一生学术走向的，是他在读博期间的经历。当时，他跟随世界顶尖的心理学大师 **史蒂芬·平克**（Steven Pinker: 语言学家，认知心理学家，著有《语言本能》）研究一个在认知科学领域极其刁钻且经典的课题：小孩子到底是如何学会说话的？具体而言，他们是如何掌握英语动词过去式的规则变化的？ 在英语中，动词过去式的规则变化是直接在词尾加上“-ed”（例如 walk 变成 walked），而不规则变化则毫无规律可循（例如 go 变成 went）。小孩子在牙牙学语的过程中，经常会犯一些有趣的错误，比如他们会把过去式的“went”说成“goed”。当时主流的人工智能和心理学界都认为，小孩子学说话完全是靠模仿大人的说话声音，再结合联想进行瞎猜的。 马库斯对这种粗糙的解释深表怀疑。在二十世纪九十年代初，他利用极其简陋的计算资源，编写程序对海量的亲子对话记录进行了系统性的筛选与分析。在那个时代，这已经算得上是最早的语言大数据分析了。结果发现，小孩子根本不是在瞎猜，他们在百分之九十六的情况下都能够准确无误地使用动词过去式，大人之所以觉得小孩子总犯错，只是因为那百分之四的错误（如说出 goed）实在太好笑、太令人印象深刻，从而造成了认知偏差。 更具有颠覆性的发现是，当时也有学者试图用神经网络模型来模拟小孩的语法犯错过程，并得意地宣称神经网络和人类大脑的学习机制完全一样。马库斯将神经网络的数据与真实儿童的数据摆在一起比对，戳穿了这个谎言。他指出，儿童犯的错误是有着极强规律性的，他们是在脑海中应用了一套抽象的、概括性的语法规则（即将所有动词默认加上“-ed”）；而当时的神经网络所犯的错误则毫无逻辑，仅仅是在进行统计意义上的词汇比对，看哪个词在字形上更相似。这种“一个靠抽象规则，一个靠统计相似度”的区别，彻底埋下了马库斯此后三十年与联结主义阵营抗争的火种。 --- ### 一九九八年实验：无法逾越的数理鸿沟 为了向整个学术界证明神经网络在处理规则逻辑上的致命缺陷，加里·马库斯在一九九八年设计了一个极其经典的实验。这个实验的数理逻辑非常简单，甚至连小学生都能一眼看懂。 他训练了一个简单的神经网络模型，让它去学习数学中最为基础的恒等函数：$f(x) = x$。也就是说，输入任何内容，模型都需要原样输出相同的正文内容，这可以说是宇宙中最基础、最不容置疑的规则了。在实验中，马库斯使用二进制数字来喂养这个模型，但他刻意在训练数据中留了一个心眼：模型在训练阶段所见过的所有数字，全部都是奇数。 在完成训练后，马库斯首先用一些模型在训练集里从未见过的奇数去测试它。结果非常完美，模型给出了百分之百正确的输出。从表面上看，这个神经网络似乎已经成功理解并掌握了“原样照抄”的数学规则。然而，紧接着马库斯给这个模型输入了一个偶数，神经网络在瞬间彻底崩溃，输出的答案变得一塌糊涂。 一个连三岁小孩都能轻松掌握的照抄规则，为什么这个在奇数世界里经历了成千上万次迭代训练的神经网络，一碰到偶数就变成了傻子？ 马库斯对此给出了极其深刻的理论解释：神经网络在本质上并没有学会“恒等”或“照抄”这条抽象的逻辑规则，它所做的事情，仅仅是把训练数据中所有见过的奇数，在它的多维向量空间里围成了一片特定范围的 **点云**（Point Cloud: 多维空间中的数据点集合）。只要你测试的问题落在这一片点云的内部，模型就可以通过 **内插**（Interpolation: 在已知数据点范围内预测新数据点的方法）和模仿给出看似正确的答案；然而，一旦你输入的数据落在这一片点云之外（例如从奇数跨越到偶数），模型就会彻底丧失方向，开始漫无边际地胡言乱语。 二零零一年，马库斯将他这一阶段的研究成果和思考汇集成书，出版了著名的学术著作《代数的心智》。这本书的名字听起来颇为高深，但其核心观点非常接地气。马库斯指出，人类的大脑在进化过程中，天生就配备了一套高效运行的“心算代数”系统。当你伸出手去接一个迎面抛过来的棒球时，你身体的肌肉和神经系统在瞬间实际上等于在求解一套复杂的微积分方程，尽管你可能一辈子都无法在纸上写出这些公式。 马库斯断言，单纯依靠数据驱动的神经网络是远远不够的。如果我们想要制造出真正具备泛化能力和严谨逻辑的机器，我们就必须在底层的系统架构中，为机器装上基于“符号”和“规则”的逻辑处理芯片。 --- ### 表演思考与大模型的“伊丽莎效应” 在理清了马库斯的学术背景后，我们就可以更清晰地审视他对当下人工智能产业最为猛烈的批评。 如今，无论是 OpenAI 还是谷歌，各大科技巨头都在不遗余力地向公众灌输一个故事：AI 已经学会了真正的推理。为了佐证这个说法，他们会展示 GPT-4 能够解出极其复杂的奥数题目，能够编写高质量的代码，甚至在答题时还会像人类学霸打草稿一样，一步一步地向用户展示它的“思考链”（Chain of Thought: 大模型在输出最终答案前生成中间推理步骤的技术）。 但在加里·马库斯看来，这完全是人类自作多情所产生的认知幻觉。大模型根本没有在进行任何物理意义上的推理，它只是在超大规模的互联网文本库中，进行着人类无法想象的检索与模仿。因为它在训练集中已经见过了人类撰写的几亿份数学草稿和解题步骤，所以它能够极其逼真地把“打草稿”的视觉样式和语言逻辑表演出来。这种“表演思考”与人类大脑的“真正思考”之间，依然隔着一九九八年那个奇数/偶数实验所画出的无法逾越的深渊。 马库斯指出，大模型如今所展现出来的惊人表现，其实在六十多年前就已经被人类的科学实验所预言了。一九六五年，心理学家乔治·米勒等人就曾做过语言概率统计的实验：如果仅让机器统计和模仿两个英文单词之间的搭配概率，输出的文本就会有一点人话的意思；如果把三个词的搭配概率统计到位，机器说话就会变得有模有样；而一旦我们能把连续七个词的统计概率完美计算出来，机器生成的段落就已经达到了以假乱真的地步。 因此，在互联网文本数据堆叠到今天这个规模后，大模型说话越来越像人，这在统计学上根本不是什么不可思议的科技奇迹，而是六十多年前就已经写好剧本的数学必然。但必须要强调的是，能够把话说的像人，和能够像人一样进行严谨的逻辑思考，完全是两码事。 面对这一指责，很多支持深度学习的人会反驳：可是大模型在过去几年的进步是显而易见的，现在的 GPT-4 确实比几年前的 GPT-3 聪明了太多，这难道不是 scaling law 的胜利吗？ 马库斯给出了一个非常辛辣的行业内幕揭露。他指出，大模型最近这两年看起来变聪明了，其核心动力根本不是来自底层的算力增加或数据堆叠，而是来自行业内部所使用的 **套具**（Harness: 指用于约束、校验和增强大模型输出的外置工程框架）。大模型公司在后台悄悄地为模型挂载了计算器、Python 代码解释器、以及各种基于逻辑规则的静态检查流程。 当我们看到大模型能够精准地算出一道数学大题时，其实是底层的神经网络在生成一段代码，然后将这段代码交给外挂的计算器去执行，最后把执行结果返回给用户。这种在外围拼命搭建循环、条件判断和规则校验的做法，本质上就是加里·马库斯在二零零一年所开出的那副“符号系统”的药方。那些在台前大喊着“规模就是一切”的硅谷大佬，实际上在后台偷偷摸摸地给模型装上了老式的符号系统。马库斯将这一现象形象地称为“AI 行业不出声的投降”。 为了进一步剖析人类为什么如此容易被大模型所欺骗，马库斯将时间拨回了一九六五年。当时，麻省理工学院的计算机教授约瑟夫·魏岑鲍姆编写了一个名为 **伊丽莎**（ELIZA: 世界上第一个聊天机器人系统）的程序。这个程序的底层原理简单到了寒碜的地步，它甚至没有任何神经网络，仅仅是利用极其简陋的关键词匹配和固定句式来跟人类对话。它扮演的是一名罗杰斯学派的心理医生，其核心策略就是顺着用户的话茬反问。 例如，当用户对它说：“我今天觉得压力很大，因为我妈总是让我很烦。”ELIZA 程序检测到了“我妈”这个关键词，就会自动套用预设的模板回复道：“多跟我讲讲你的母亲吧，你们的关系一直这样吗？” 就是这么一个粗制滥造的程序，在当年却引发了令人震惊的社会现象。很多测试者明知道对面是一个只有几行代码的机器，却依然跟它聊得情真意切，甚至有人要求其他人离开房间，好让自己跟这个程序倾诉隐私心声。据历史记载，连魏岑鲍姆教授自己的秘书都深陷其中，每天对着这个程序吐露心声。这种面对极其愚笨的系统，人类却会自作多情地脑补出对方具有高度智慧和同理心的心理现象，在认知科学中被称为 **伊丽莎效应**（ELIZA Effect: 人类倾向于对计算机程序进行拟人化思考的现象）。 马库斯在二零一九年出书时，曾将这种现象称为“亲信鸿沟”。他至今仍开玩笑地表示，自己很后悔起了这么一个含蓄且学术气十足的名字，导致大众很难记住，早知道就应该直接借用“伊丽莎效应”这个经典术语。 这种脑补能力的背后，实际上是写在人类基因里的进化缺陷。进化心理学早就发现，在原始社会里，人类为了在大自然中生存下来，发展出了一种天生爱给万事万物赋予主观意志的生存本能。如果风吹过草丛，草丛动了一下，那些脑补“草丛里有野兽”的人类祖先更容易活下来；而那些觉得“这只是物理风力现象”的理智祖先，可能早就被隐藏的野兽吃掉了。这种进化带来的心理红利，在今天的 AI 时代，却成了人类被大模型商业营销精准收割的软肋。 --- ### IBM 沃森的医疗车祸与大模型的统计幻觉 在马库斯预测 AI 走向的漫长生涯中，他也有过被事实“打脸”的经历，但他对待失败的态度，恰恰展现了一个真正科学家的严谨作风。 在二零一零年前后，科技巨头 **IBM** 制造了一台名为 **沃森**（Watson: IBM 开发的问答超级计算机系统）的智能机器。为了展示这台机器的智能，IBM 让它登上了美国国民级的知识问答节目《Jeopardy!》（危险边缘）。这档节目的题目以刁钻、双关语和知识面极广而闻名，涵盖了历史、文学、地理等各门学科。 马库斯当时根据自己的符号逻辑理论，斩钉截铁地预测沃森必输无疑。他的理由非常扎实：要回答这种充满人类文化隐喻和双关语的题目，机器必须能够真正理解自然语言，并且具备复杂的常识推理能力，这和计算量巨大的国际象棋完全是两个维度的难题。 然而，比赛结果却给了马库斯一记响亮的耳光。IBM 沃森在节目中大杀四方，将多位人类历史冠军打得毫无还手之力。 面对这个结果，马库斯没有寻找借口，而是展现了他极其执着且较真的一面。他千方百计地找到了 IBM 沃森项目的总负责人大卫·费鲁奇，试图彻底弄明白这台机器到底是怎么赢的。然而，大卫·费鲁奇吐露的技术真相却让马库斯哭笑不得。 原来，在这档国民问答节目中，出题人为了省事，百分之九十九的题目答案，实际上都是维基百科中的某个词条标题。出题人的思路非常简单：先在维基百科里挑一个词条（如“亚伯拉罕·林肯”），然后倒着把词条里的介绍句改写成一句刁钻的问题。 因此，IBM 沃森在答题时根本不需要理解任何人类语言的微妙隐喻，它所做的事情，仅仅是利用强大的算力，在维基百科的语料库里，找出哪一个词条的上下文与题目的文本特征在统计上最接近，然后把那个词条的标题吐出来即可。 马库斯感叹，这确实是一次极其了不起的分布式工程实践，但沃森赢下比赛的实际方式，和公众以为它具备了人类智慧的想象，完全是风马牛不相及的两码事。这种“挂羊头卖狗肉”的技术路线，很快就在随后的商业化转型中付出了惨痛的代价。 IBM 后来试图将沃森强大的“问答能力”推向医疗诊断行业，试图用它来帮医生诊断癌症。然而，医院里的真实病例诊断，根本不是维基百科式的名词配对。现实中的医疗病历充满了缺失值、医生的口误、各种复杂的并发症以及个体差异。缺乏真正世界模型和因果推理能力的沃森，在医疗一线遭遇了史诗级的车祸，给出了大量荒唐甚至危及患者生命的诊断建议，导致该项目最终以一地鸡毛的悲剧收场。 马库斯对这次失败极其耿耿于怀，他后来甚至专门做了一档名为《人类对抗机器》的播客节目，把当年的技术负责人大卫·费鲁奇以及被沃森打败的人类冠军肯·詹宁斯请来，反复探讨当年那一幕的底层逻辑。这就是人工智能发展史中反复上演的剧本：机器交出了一份极其漂亮的成绩单，而人类则用自己的心智去脑补了机器的解题过程。成绩虽然是真的，但那个看似充满智慧的解题逻辑，完全是人类自己脑补出来的。 大模型的逐字输出方式，在马库斯看来，也是一种无心插柳的“视觉戏法”。从纯技术角度来看，大模型在后台算好整段话后一口气吐给用户，在工程上是非常容易实现的，也是计算机系统的常规操作。然而，它偏偏要像人类思考一样，一个字一个字地在屏幕上蹦出来。不管这是大模型自回归生成机制的自然物理体现，还是产品经理刻意为之的设计，这种逐字跳动的视觉效果，让用户在潜意识里产生了一种错觉：屏幕对面仿佛真的坐着一个正在边思考、边敲打键盘的智慧体。 这种统计模型的本质，注定了它无法摆脱 **幻觉**（Hallucination: AI 生成看似合理但与事实不符的信息的现象）的折磨。 马库斯举了他朋友哈里·希勒（Harry Shearer: 美国著名配音演员，曾为《辛普森一家》多个角色配音）的真实案例。有一天，希勒给马库斯发了一封邮件，里面附带了一份由 ChatGPT 撰写的关于希勒的生平介绍。这段介绍写得极其流畅自然、毫无破绽，声称哈里·希勒是一位非常杰出的“英国喜剧演员和喜剧大师”。 然而，哈里·希勒实际上是一位土生土长的洛杉矶人，一辈子都在美国生活和工作。 大模型为什么会犯这种低级错误？马库斯解释道，在互联网的大规模文本中，从事喜剧和配音行业的顶尖演员里，英国人的比例非常高。因此，在神经网络的概率计算中，将“喜剧演员”和“英国人”拼凑在一起，是一个统计概率非常高、听起来极其顺口的搭配。大模型的唯一工作就是预测下一个词，它根本没有去核对数据库和维基百科出生地的概念，它只管写出一段在统计学上最自然的文字。 物理学家布莱恩·格林也分享了自己刚接触 ChatGPT 时的尴尬遭遇。在二零二二年，格林输入问题询问大模型：“物理学家布莱恩·格林的妻子是谁？” 大模型在毫秒级的时间内给出了极其自信的回答：“他的妻子是著名歌剧演唱家芮妮·弗莱明。” 事实上，布莱恩·格林和芮妮·弗莱明仅仅是在多年前共同参加过一次公开的科学论坛同台活动。大模型在统计概率的撮合下，不仅直接强行给他们俩结了婚，甚至还编造了他们孩子的姓名和细节，显得有鼻子有眼。 格林在访谈中提出疑问：这是否只是模型版本早期的缺陷？随着数据量的继续增加和算法的迭代，这种幻觉错误难道不能被彻底消灭吗？ 马库斯的回答是：绝无可能。他给出了一个非常直观的数据：最近的一项专业评测显示，在特定逻辑任务中，Claude 模型的正确率已经达到了百分之九十二。这听起来是一个非常惊人的数字，但如果倒过来读，那就是百分之八的错误率。 为了把这百分之八的错误率压下去，整个硅谷已经烧掉了成百上千亿美金的算力成本，遇到了极大的边际效应递减。而且，人类的心理存在着“选择性失明”：那些狂热相信 AI 的人，眼睛里只看得见那百分之九十二的正确输出，而对那随时可能在关键时刻要命的百分之八的谎言视而不见。只要大模型的底层逻辑依旧建立在概率统计的“点云”之上，那百分之八的幻觉幽灵就永远不会消失。 --- ### 苹果论文的汉诺塔测试与物理世界模型的缺失 在逻辑推理层面，加里·马库斯在访谈中详细拆解了苹果公司那篇《思考的幻觉》论文中一个非常经典的实验。 研究人员使用了一个人类非常熟悉的游戏来测试大模型：**汉诺塔**（Tower of Hanoi: 一种经典的数学和逻辑益智游戏）。这个游戏的规则非常简单：在三根柱子上有一叠大小不一的圆盘，玩家需要将所有圆盘移动到另一根柱子上，且在移动过程中，大盘子绝对不能压在小盘子上面，一次只能移动一个盘子。 这个游戏在认知心理学上有一个非常关键的特性：如果一个孩子真正学会了移动四层圆盘的方法，那就意味着他实际上已经掌握了汉诺塔游戏的底层通用递归算法。接下来无论你给他五层、六层、还是下一百层圆盘，他都能够游刃有余地解出来，无非就是多花一些步骤和时间而已。 苹果的研究人员在不让大模型调用外部代码、纯粹依靠底层的神经网络进行语言推理的情况下，对大模型进行了汉诺塔测试。结果令人深思：大模型在处理七层及以内的汉诺塔时，表现得极其出色，几乎能给出完美的移动步骤；然而，当研究人员仅仅将圆盘数量增加到八层时，大模型在瞬间彻底瘫痪，给出的移动步骤完全违背了游戏的物理规则。 “七层会，八层就不会”，这个事实无情地揭示了一个底层真相：大模型根本没有理解或掌握汉诺塔游戏的任何算法逻辑。它之所以能解出七层，是因为它的训练数据中包含了互联网上大量现成的、关于七层汉诺塔的步骤图解；而八层汉诺塔则是那个落在训练集“点云”之外的未知世界。一九九八年奇数与偶数的尴尬一幕，在换了一件华丽的衣服后，又在万亿参数的模型上原封不动地重演了。 马库斯还举了另一个极具讽刺意味的例子。在二十世纪七十年代末，雅达利家用游戏机上曾推出过一款国际象棋卡带。以今天的技术标准来看，那个老古董卡带的微处理器算力，甚至还不如我们今天家里的电视遥控器。然而，就是这么一个几KB大小的古董程序，在纯下棋规则的博弈中，能够轻而易举地把 ChatGPT 斩落马下。 ChatGPT 的数据库里读过几百万盘大师的棋谱，甚至能一字不落地给你背诵国际象棋的官方规则说明书。但在真实的棋盘对弈中，如果你不给它挂载外部的代码检查器，它就会在几步之后走出极其荒唐的违规棋步（例如让小兵横着走，或者强行吃掉自己的棋子）。规则它全能背出来，但在多维概率的冲刷下，它根本无法把规则转化为具体的行为约束。 马库斯断言，这背后暴露了当前主流 AI 路线最大的阿喀琉斯之踵：**世界模型**（World Model: 指智能体对客观世界物理规律、因果关系和逻辑常识的内在模拟体系）。 当一个十三岁的小孩玩一款全新的沙盒游戏时，他不需要几百万次死亡的训练数据。他的大脑会在几个小时内，在脑海中搭建出这个游戏世界的物理规则（重力如何作用、墙壁是否可以穿过、火是否会烧伤人）。当人类阅读《哈利·波特》时，即使小说描绘的是一个骑着扫帚飞行的魔法世界，读者的脑海里也会自动生成一个合乎逻辑的动态世界，并能顺理成章地推断出：什么样的扫帚流线型更好，可能飞得更快。 目前这种基于神经网络的 AI，最欠缺的就是这种从陌生环境中主动摸索并建立因果物理世界模型的能力。它只能像一个死记硬背的抄书吏，把人类已经建立好的世界描述片段抄写下来，一旦世界发生了一丝一毫的规则改变，它就彻底失去了方向。 --- ### 格林反驳：高维宇宙的半个研究生 在听完了马库斯滔滔不绝的尖锐批评后，作为物理学家的布莱恩·格林并没有完全妥协，而是抛出了一个非常强有力的亲身案例来进行现场反驳。 格林提到，他自己和物理学界的同事在多年前曾写过一篇极其艰深的理论物理论文。这篇论文研究的是一个纯粹假想的、在物理现实中根本不存在的高维宇宙模型。在这个宇宙中，存在着超出人类感官的额外空间维度，这些维度首尾相连，且在数学性质上呈现出一种极其罕见的、不分左右的对称性。这种在物理学中被称为卡拉比-丘流形的高维几何性质，全世界可能只有极少数职业弦理论学家一辈子才会研究一次，在互联网上的公开文献也极其稀少。 在论文正式发表之前，格林突发奇想，决定把 GPT-4 当成自己带的博士生来进行一次测试。格林没有直接把论文的结论喂给大模型，而是像一个耐心的导师一样，只给出了几个基本的物理常识起点，并在这个虚构宇宙的逻辑框架下，轻轻点拨了模型几句。 令人震惊的是，在短短半个小时的交互中，大模型顺着格林的引导，一步一步地推演，最终竟然摸到了那篇论文最为核心的数学结论。 格林在访谈中原话感叹道：“那一刻，我真真切切地感觉到，这个盒子里装了我这辈子遇到过的最好的研究生。” 这个案例在逻辑上直接戳中了马库斯的软肋。按照马库斯的理论，大模型不会搭建世界模型，只能在见过的训练数据里内插。但是，格林所说的这个高维假想宇宙，在互联网语料库中几乎是完全没有出现的“绝对云外世界”。为什么大模型能够在没有现成答案的情况下，单凭几句点拨就推导出了复杂的弦理论物理结论？ 面对这个极具杀伤力的现场质疑，马库斯并没有狡辩，他承认了格林所描述的事实，但紧接着给出了逻辑极其严密的三层反击： 首先，马库斯指出，格林忽略了自己在这场半小时的对话中所起到的决定性作用。在这场交互中，是格林这位世界顶级物理学家，在每一次大模型即将滑向逻辑混乱的边缘时，利用自己人类最顶尖的智力在关键节点进行了精准的“兜底”和“拽回”。 有大量的认知研究表明，人工智能在今天的实际应用中呈现出一种极端的两极分化现象：**行家用 AI 越用越强**，因为行家知道在什么地方纠偏，知道大模型的垃圾输出在什么时候需要过滤；而**外行直接向 AI 索要答案**，往往只能得到一堆听起来非常专业、实则满纸荒唐的致命毒药。 其次，格林的个体经验存在着严重的“幸存者偏差”。格林是极其聪明的顶级学者，他能够用完美的逻辑去引导大模型，而忽略了在全世界成千上万个普通用户的终端上，大模型编造荒唐幻觉、给出错误代码的尴尬场景每时每刻都在上演。我们不能因为一个顶级科学家在特定温室环境下测试出了一个惊艳的样本，就得出大模型已经具备通用逻辑推理的结论。这依然是谷歌无人车测试中，工程师扭头够公文包的心理陷阱。 第三，也是最硬的一条客观标准：既然格林认为大模型已经达到了顶级研究生的水平，那么请问到今天为止，在这个世界上，有没有哪怕一个案例，是人类彻底把物理学家撤走，让大模型自己独立在没有任何人类点拨的情况下，推导出哪怕一个哪怕微小但真正成立的全新科学发现？ 马库斯说，答案是零。大模型可以成为一个极好的工程辅助器，但它目前展现的所有创造力，依然像是一条需要人类牵引的辅助线，它无法独立迈出探索未知世界的第一步。 --- ### 创造力本质：高级缝合怪与吉他大师的念头 布莱恩·格林紧接着又抛出了关于“创造力”的终极哲学追问：如果马库斯认为大模型只是在把旧的语料和概念重新排列组合，那么人类引以为傲的创造力，其本质又是什么呢？ 格林拿现代物理学的巅峰爱因斯坦举例。他指出，当我们去解构阿尔伯特·爱因斯坦创立广义相对论的伟大历程时，你会发现，爱因斯坦所使用的原材料，实际上全都是前人已经创造出来的旧东西：一八八零年代就已经发展成熟的黎曼微分几何、牛顿力学中流传下来的经典引力常识，以及他自己在此前创立的狭义相对论。 爱因斯坦最伟大的贡献，是把这三样原本风马牛不相及的旧理论组合在了一起，从而诞生了弯曲时空的相对论宇宙。按照这个逻辑，人类最顶尖的创造力，在本质上不也是一种非常高级的“缝合怪”吗？这和神经网络在多维空间中将不同概念进行概率重组，真的有本质区别吗？ 马库斯对此给出了非常经典的艺术史反驳。他承认，人类的创造确实离不开素材的组合，但核心在于：到底是谁产生了这个“把这两种风马牛不相及的东西怼在一起试一试”的原始冲动？ 他讲了两个在流行音乐史上极具代表性的故事。第一个是摇滚乐史诗级人物**鲍勃·迪伦**（Bob Dylan: 美国民谣歌手，诺贝尔文学奖得主）。鲍勃·迪伦在二十世纪六十年代写出的歌词，其文学深度和意象冲击力跟当时的同行相比，简直不像是同一个物种的产物。 迪伦的这种文学爆发力是从哪里来的？音乐史学家研究发现，这源于他在二十年代开始如饥似渴地阅读德国剧作家布莱希特的戏剧与诗歌。布莱希特的冷峻政治隐喻和先锋戏剧结构，在文学界早就是公开的秘密，道路就在那里，人人都可以走。但在迪伦之前，从来没有一个民谣歌手动过这样的念头：把严肃的德语现代派戏剧和街头的吉他民谣融合在一起。 第二个故事是传奇金属乐队愤怒的机器（Rage Against the Machine）的吉他手**汤姆·莫雷洛**（Tom Morello）。莫雷洛十五岁才开始认真学琴，起步极晚，为了赶超同龄人，他每天疯狂苦练八个小时，将吉他的弹奏技术练到了炉火纯青的境界。 然而，技术达到顶峰后的莫雷洛面临着一个巨大的困境：他弹出的声音和市面上成千上万个优秀的吉他手没有任何区别，他找不到属于自己的独特定位。直到有一天，他站在街头看着嘻哈 DJ 在唱机上进行搓盘采样，发出各种奇特而刺耳的机器噪音。 那一刻，莫雷洛的脑海中闪过了一个极其荒诞的念头：既然打碟机能弄出这种动静，我能不能用我手里的这把吉他、通过控制效果器和拨片，把这种嘻哈打碟的机器噪音模仿出来？ 就是这个匪夷所思的冲动，让莫雷洛开创了吉他演奏的新纪元，成为了一代吉他宗师。 马库斯对格林说，组合本身确实不神秘。莎士比亚一生所用的英文单词，也都在英语词典里明摆着。真正神秘的、至今无法被物理算法解释的，是人类心智中那股“偏不走大路，偏要找两个八竿子打不着的东西撞击一下”的原始生命冲动。 如果你命令 AI：“给我把德国先锋戏剧和街头民谣组合一下写首歌。”AI 的确可以交出一份质量还凑合的作业。但在这里，那个决定将这两个概念并置的“伟大念头”，依然来自于屏幕前发号施令的人类本身。AI 只是那个交了二十份作业的勤奋学生，而决定哪两份作业具有艺术灵魂的“挑剔审判者”，依然是坐在人类座位上的曼科夫们。 --- ### 资本困局：万亿游戏的双倍或归零 如果大模型的底层局限如此明显，为什么全球顶尖的科技巨头和风险资本还要像飞蛾扑火一般，将上万亿的美金砸进这个似乎永远填不满的黑洞？ 马库斯在访谈中用极其冷静的商业逻辑解构了这场硅谷的资本豪赌。他将牌桌上的主要玩家分为了三类： 第一类，是处于食物链顶端的**风险投资人**（Venture Capitalist）。大众往往以为风投的利润全部来自项目最终上市或卖掉后的分成，但实际上，风险投资行业有一个雷打不动的行规：每年收取基金总规模百分之二的固定管理费。 这意味着什么？只要“堆叠算力就能实现 AGI”的宏大叙事能够继续讲下去，硅谷的巨头们就能把这个市场的估值撑到一个十万亿美金的庞大盘子。即使最终通用人工智能没有实现，光是这百分之二的年管理费，就意味着几百亿美金的真金白银已经稳稳地落入了风投机构的口袋。对于他们而言，故事最后能不能成真并不重要，重要的是这个游戏必须持续进行下去。任何像加里·马库斯这样站出来砸饭碗、试图唤醒市场理性的唱衰者，都会成为风投界公认的敌人。 第二类玩家，是像 OpenAI 创始人**山姆·奥特曼**（Sam Altman）这样的公司掌门人。马库斯毫不客气地评价道，奥特曼在底层的计算机学术造诣上非常平庸，但他绝对是人类商业史上最顶尖的销售大师。 在现在的硅谷大模型行业里，隐藏着一个心照不宣的秘密：几乎所有的大模型公司都在以每天天文数字的速度亏本运行，高昂的电费和芯片折旧费正在疯狂蚕食资本。奥特曼应对这种困境的商业策略，被马库斯称为“双倍或归零”（Double or Nothing）。 奥特曼不能停下来优化现有的商业模型，他唯一的活路就是不断抬高估值，讲一个比上一轮融资大十倍的宏大叙事（例如需要七万亿美金去重建全球半导体芯片供应链），用下一轮融来的巨额资金，去填平上一轮留下的财务窟窿。这是一场一旦停下就会立刻粉身碎骨的超级旁氏博弈，没有人知道这个泡沫能吹到什么时候。 第三类玩家，则是那些“懂数学，但不懂智能”的算法工程师。这群技术精英的手里拿着名为“神经网络”的强大锤子，在他们的眼里，这个世界上所有的认知问题就都成了可以被梯度下降解决的钉子。 这种技术盲目性，导致行业内患上了一种名为“天真外推”的认知疾病。马库斯在推特上转发过一个流传很广的学术段子：一位新手爸爸骄傲地宣布，我儿子出生头一个月，体重整整翻了一倍！照这个速度外推下去，等我儿子上大学的时候，他的体重将达到惊人的一万多磅！ 这听起来是一个极其荒诞的数学笑话，但整个 AI 行业在过去十年里做的事情，本质上和这位新手爸爸没有任何区别。他们仅仅在神经网络的拟合曲线上找到了三个表现不错的点，就迫不及待地画了一条延伸到无限远处的直线，宣称自己已经看到了通用人工智能的曙光。 --- ### 现实危机：不够聪明带来的破坏力 当我们在社交媒体上讨论人工智能的毁灭性风险时，公众的脑海里往往会浮现出好莱坞科幻电影中的场景：天网觉醒、超级智能在瞬间控制了全球的核武器发射井，试图抹杀人类。 加里·马库斯非常严肃地警告道：大家把危险的方向彻底搞反了。AI 真正的现实危险，根本不是它变得太聪明，而是它“智能不够，却大权在握”。 马库斯引用了 AI 权威学者**斯图尔特·罗素**（Stuart Russell: 加州大学伯克利分校计算机科学家，著有《人工智能：现代方法》）的观点：在底层的控制理论上，我们至今都无法保证大模型能够百分之百准确地执行人类的对齐指令。 然而，就是这么一个存在着百分之八逻辑谎言、会将美国人指认成英国人的不成熟系统，如今却被各个国家的决策部门迫不及待地部署到了关系到平民生死的关键岗位上。它们被用来筛选求职者的简历、决定谁能获得贷款，甚至在军事领域，被用来筛选和锁定战术打击目标。 马库斯在访谈中提到了一件当时刚刚发生的悲剧：美军在伊朗周边的一次战术空袭中，由于情报系统过度依赖自动化目标识别的算法筛选，最终误炸了一所女生小学。 马库斯忧心忡忡地推演道，这种由于算法不够聪明导致的致命误判，如果发生在国际地缘政治冲突更加剧烈、火药味更加浓厚的地区，极易引发敌对国之间防御系统的自动链式反应。在情绪和误判的层层叠加下，人类社会在毫无准备的情况下滑向大规模地缘摩擦甚至核战争，在技术层面上是完全具有可行性的。 大模型的另一个现实破坏力，在于它彻底消解了人类社会的“真实信任基础”。大模型虽然不懂得什么是客观真实，但它是操纵和模仿人类文风的宇宙顶级高手。如果你命令它：“帮我编造一条听起来极其专业、符合美联社排版和写作风格的突发新闻，声称某国电网正在遭遇俄罗斯的致命网络攻击。”大模型在毫秒内就能交出一份毫无破绽的假新闻文本。它根本不会产生“我是不是在传播谣言”的道德审判，因为“真”和“假”这两个维度在其高维向量空间里根本不存在。 一旦在未来的信息战中，第三方政治势力利用大模型在互联网上瞬间生成海量的、多角度相互印证的假新闻，人类社会的舆论系统将在瞬间陷入彻底的瘫痪。当人们不再相信网络上看到的任何视频、图片和文字时，民主制度的基石就将彻底坍塌。 --- ### 技术混血与未来的终极演变 在访谈的后半部分，布莱恩·格林将话题转向了大众最关心的就业问题。 二零一六年，深度学习教父**杰弗里·辛顿**（Geoffrey Hinton: 深度学习三巨头之一，图灵奖得主）曾在一场公开演讲中放下一句狠话：“如果你们现在还在培养放射科医生，那你们就是疯了。五年之内，AI 将在毒片和诊断领域全面超越并接管放射科医生的工作。” 如今，近十年过去了，马库斯指出，据他所知，在全球范围内，至今没有哪怕一个放射科医生因为 AI 的出现而彻底失业。放射科医生当然会在未来被替代，但这个时间跨度绝不是辛顿所吹嘘的五年，甚至不是十年。 马库斯用经济学家**埃里克·布林约尔松**（Erik Brynjolfsson: 斯坦福大学数字经济实验室主任）的一个经典理论解释了这一现象：**任务**（Task）和**工作**（Job）是两个完全不同的概念。 AI 确实能极其高效地完成放射科医生日常工作中的某几项具体任务（例如在 X 光片中自动标注出疑似肿瘤的阴影像素）。但是，一个完整的“工作”是由成百上千个复杂的任务捆绑在一起的（例如与患者进行沟通、与其他科室医生讨论治疗方案、以及在关键时刻承担医疗事故的法律责任）。 最后一条尤为关键：在商业社会里，出了医疗事故必须有一个具备法律主体资格的人类来承担法律责任、去坐牢或者赔偿，大模型作为一个软件，是无法为结果“背锅”的。因此，很多企业打着“AI 替代”旗号进行的裁员，在马库斯看来，不过是老板在经济下行期本来就想裁员，顺便拿 AI 当作平息公愤的挡箭牌而已。 但这并不意味着人类可以高枕无忧。马库斯预测，从长期来看（比如三十到五十年的跨度），人工智能一旦在世界模型和物理控制上跑通，其对就业市场的破坏将是毁灭性的。 如果无人驾驶技术哪天真的实现了在任何天气、任何陌生路况下都能像人类老司机一样安全行驶，那么全球千万名货车和出租车司机将在短短几年内彻底失去生计。这种自动化的低复制成本，是人类肉体无法竞争的。因为马库斯在底层依然是一个物理主义者，他相信人类的大脑从物理本质上来说也是一台极其精密的碳基生物机器，既然是机器，那么硅基芯片在未来的某一天彻底复制并超越它，只是一个时间问题。 至于这个就业被碾碎的过渡期将以何种方式完成，马库斯给出了一个非常灰暗的预警：历史规律表明，这种涉及社会财富分配的体面过渡，几乎都是在街头骚乱、暴力摩擦、甚至有人对 CEO 开枪的血泪史中艰难完成的。 如果这一关人类真的挺过去了，AI 乌托邦的终极场景会是怎样？马库斯的答案竟然来自于他在内华达沙漠中领到的一袋免费爆米花。 在内华达沙漠每年举办的“火人节”上，几万名艺术家和参与者凭空搭建起一座临时城市。在这座城市里，没有任何商业买卖，所有的生活物资和艺术表演都是以“礼物”的形式免费赠送的。马库斯在排队领爆米花时，本能地去掏钱包，掏到一半才反应过来这里不收钱。 在这个短暂的社区里，艺术家们花费几个月的时间和极大的心血，制造出令人叹为观止的宏大艺术装置，仅仅在沙漠里展示一个星期，然后亲手一把火将其烧成灰烬，没有任何人指望靠这个赚钱。 马库斯认为，这或许就是 AI 终极乌托邦的草图。如果未来的机器人和核聚变能源能够将人类的物质生产成本降到几乎为零，粮食和商品都趋于白给，那么“钱”这个概念就会彻底退场。人类将不再需要为了生存而被迫出卖劳动时间去打工，而是完全根据自己的主观兴趣去创造、去生活，就像那些在沙漠里亲手烧毁自己杰作的艺术家一样。 当然，马库斯也迅速泼了冷水：同样的技术，在糟糕的政治体制下，也会导致一个极端的赛博朋克结局——三家科技巨头利用无限的智能占领了全球海景房和所有生产资料，而剩下百分之九十九的人类只能在贫民窟里喝西北风。分蛋糕从来不是一个技术问题，而是一个底层的政治智慧问题。 在访谈的最后，布莱恩·格林问了一个私人问题。格林的父亲曾是一位作曲家，因为穷怕了，从小坚决阻拦孩子们学音乐，导致格林半途撂下了钢琴，他问马库斯：“我现在这个年纪重新开始学钢琴，还有戏吗？” 马库斯给出了非常实在的建议。他在四十岁时曾零基础学习吉他，并将这段经历写成了一本书。他建议格林：“不要想着去成为下一个李斯特，也不要想着去和邻居家的神童较劲。去学会即兴演奏，学会自娱自乐，这带给你的多巴胺满足感将超出你的想象。” 有趣的是，这位全美最著名的 AI 唱衰者，在访谈的最后，竟然极力向格林推荐去使用现在的 AI 和弦识别软件来辅助练琴。 这或许就是加里·马库斯在这场持续了三十年的路线战争中，从未动摇过的终极立场： 大模型和神经网络是一件棒极了的、能极大拓展人类能力的工程工具。前提是，我们必须始终把它当成工具，而千万不要把它当成神，更不要把它当成人。