--- layout: post.njk source: https://blog.qiaomu.ai/dwarkesh-patel-agi-learning-bottleneck speaker: 向阳乔木 title: AGI还要多久？一个国际知名 AI KOL 的真实困惑 · 乔木博客 date: '2026-04-28' summary: Dwarkesh Patel argues that continuous learning is the key bottleneck for AGI, not raw intelligence. Current LLMs fail to learn persistently like humans, hindering their ability to become true long-term employees. While reasoning capabilities are improving, the lack of adaptive learning prevents AI from automating many white-collar jobs. He predicts significant AI capabilities by 2028 and true continuous learning by 2032, emphasizing that solving continuous learning could lead to rapid AGI development. area: tech-engineering category: tech-trends tags: - agi - continuous-learning - ai-models - ai-development people: - Dwarkesh Patel companies_orgs: - Anthropic - OpenAI - DeepSeek products_models: - Claude Code - Claude 4 Opus - Gemini 2.5 - DeepSeek R1 - DeepSeek o1 media_books: [] draft: true status: evergreen --- 乔木博客 全部 AI工具 AI教程 AI生成 AI资讯 健脑房 播客解读 论文学习 # AGI还要多久？一个国际知名 AI KOL 的真实困惑 AI资讯 · 2026年4月28日 · 355 次阅读 · 约 15 分钟 Dwarkesh Patel（德瓦克什·帕特尔）是硅谷科技圈里挺有意思的一个人。 他做播客，专门采访AI领域最顶尖的研究员，嘉宾包括Dario Amodei（Anthropic CEO）、Ilya Sutskever（OpenAI联合创始人）、Andrej Karpathy（前Tesla AI总监、前OpenAI研究员）这些人。 他不是研究员，但他花了大量时间和这些人深聊，也花了大量时间亲自用AI工具折腾自己的工作流。 他去年6月份写的一篇文章，谈为什么他觉得AGI（通用人工智能）没那么快到来。 虽然过去了快一年，内容还是值得读 > https://www.dwarkesh.com/p/timelines-june-2025 ## 先说他的基本立场 他不是AI悲观主义者。 他在文章里明确说，自己是"AI forward"的人，也就是对AI持积极开放态度。 他甚至说，看着Claude Code拿到一个模糊的需求，自己琢磨十分钟，然后直接跑出一个能用的应用，这种体验很牛逼。 他用了一个词："powered baby general intelligence"，大意是，这已经是某种初级的通用智能了。 但他同时认为，从现在到真正的AGI，还有几个关键瓶颈没有解决。 其中最重要的一个，叫持续学习。 ## 核心论点：持续学习才是真正的瓶颈 ### 他自己的亲身经历 Dwarkesh说，他花了超过一百个小时，试图用LLM搭建自己播客的后期制作工具。 任务都很简单： 把自动生成的文字稿改写得更易读 从对话里挑选适合发X的段落 让AI和他一起协作分段写文章 这些任务完全在语言输入输出的范围内，理论上应该是LLM最擅长的领域。 结果呢？他给了个评分：5分（满分10分）。 他说，这个分数已经很厉害了。 但问题不是模型不够聪明，问题是模型不会随着时间变好。 ### 萨克斯类比 他举了个类比，我觉得特别好。 教一个孩子吹萨克斯，你让她吹，听声音，调整，再吹，这是学习。 现在换一种方式：学生吹一次，吹错了，你把她送走，写一份详细的错误分析报告。 下一个学生来了，读你的报告，然后直接冷启动尝试演奏查理·帕克（Charlie Parker，爵士乐史上最伟大的萨克斯演奏家之一，曲子极难）。 失败了，你再改报告，给下一个学生。 这就是我们现在"教"LLM的方式，调整system prompt（系统提示词，就是在正式对话开始前给AI设定的背景指令和规则）。 不管你的prompt写得多精妙，没有孩子能只靠读说明书学会吹萨克斯。 ### 一个很真实的细节 他在文章里提到一个细节，让我觉得非常真实： 有时候他和LLM一起写文章，前四段的建议都很烂，他把自己重写的版本发给模型，说"你写的不行，这是我写的"，之后模型确实能给出更好的建议。 在那次对话里，它开始"懂"他了。但这种微妙的理解，在对话结束后就消失了。 下一次对话，从零开始。 ### RL微调解决不了这个问题吗？ 这里需要解释一个概念。 RL微调（Reinforcement Learning Fine-tuning，强化学习微调）是现在让AI变聪明的重要方法之一。 简单说，就是让AI做大量练习题，做对了给奖励，做错了给惩罚，AI慢慢学会什么是好答案。 DeepSeek的R1、OpenAI的o1，都用了这个方法。 有人会问：用RL微调不就能让AI学习了吗？ Dwarkesh的回答是：这和人类学习有本质区别。 RL微调不是一个主动的、自适应的过程。 他的编辑们变得很厉害，不是因为有人给他们搭建了专门的训练环境，而是因为他们自己注意到了很多小细节，思考什么内容对观众有共鸣，什么内容让他兴奋，然后自发地改进了日常工作流。 这种有机的、情境化的、自我驱动的学习，RL微调目前做不到。 他也承认，理论上可以想象一种方案：一个足够聪明的模型，能给自己构建专属的RL训练环境，根据高层反馈自动生成可验证的练习题，甚至搭建一个完整的演练场景。 但他说，这听起来真的很难，而且我不知道这些技术能不能推广到各种不同类型的任务和反馈上。 ### 长上下文窗口是解法吗？ 另一个常见的反驳是：用更长的上下文窗口（Context Window，就是AI一次能"记住"的对话长度）不就行了？ 比如Claude Code有一个滚动压缩机制，每隔一段时间把对话历史压缩成摘要。 Dwarkesh的回应是：把丰富的隐性经验蒸馏成一段文字摘要，在软件工程以外的领域会很脆弱。 软件工程是高度文字化的，代码本身就是文字，逻辑可以用语言精确描述。 但很多工作不是这样的。 他举了个例子：即使是Claude Code，也经常会在/compact（压缩命令）之后，把之前我们一起费劲优化出来的某个方案给忘掉，因为当时做这个决定的原因没能进压缩摘要。 ## 他不同意的一个流行观点 Anthropic的两位研究员Sholto Douglas和Trenton Bricken曾在他的播客里说过这样一段话（引用的是Trenton的话）： > "就算AI进步完全停滞，模型非常参差不齐，没有通用智能，它的经济价值也已经足够高，而且收集各种白领工作任务的数据足够容易，所以我们应该预期在未来五年内看到这些工作被自动化。" Dwarkesh不同意。 他说，如果AI进步今天完全停滞，他认为不到25%的白领工作会消失。 技术上，Claude 4 Opus确实能帮他改写文字稿。 但因为没办法让它随时间改进、学习他的偏好，他还是雇了人类来做这件事。 就算有更多数据，没有持续学习的突破，AI在白领工作上的处境不会有根本性变化。 它可以做很多子任务，但无法作为真正的员工在你的公司里运转。 ## 计算机操作智能体：他同样持怀疑态度 计算机操作智能体（Computer Use Agent）是指能自己操作电脑界面、点击按钮、填写表单、发邮件的AI。 这是AI从"聊天工具"变成"真正干活的员工"的关键一步。 Sholto和Trenton在播客里预测，到明年年底，你应该能对AI说："去帮我报税。" 然后它会自己翻你的邮件、亚马逊订单、Slack消息，向需要开发票的人发邮件，整理所有收据，判断哪些是商业支出，在边界情况下请求你确认，最后把1040表格（美国个人所得税申报表）提交给IRS（美国国税局）。 Dwarkesh对此持怀疑态度。他的理由有几个： 第一，任务时间越长，出错的机会越多。 AI需要连续操作两个小时，才能看出它做得对不对。 这和回答一个问题完全不同，错误会在过程中累积，很难中途纠正。 第二，没有大规模的预训练数据。 他引用了一家叫Mechanize的公司的观点：过去十年的AI进步，是被互联网上海量的文字数据"喂"出来的。 但计算机操作的数据，也就是人类实际操作电脑界面的录像和记录，根本没有这个量级的积累。 他用了一个类比：想象用1980年的所有文字数据去训练GPT-4，数据量远远不够，哪怕算力足够。 第三，算法创新比看起来难得多。 DeepSeek在R1论文里解释的RL训练方法，高层逻辑听起来很简单，让模型做大量可验证的数学和编程题。 但从GPT-4发布到o1发布，中间用了整整两年。 这两年里有大量的工程调试、剪枝、排除错误方向。 看到实现一个"简单"想法需要多长时间，让他觉得我们在低估计算机操作这个更复杂问题的难度。 ## 但他也承认：推理能力的突破是真实的 说了这么多冷水，他也专门留了一节说好话。 他问：你有没有认真读过o3或者Gemini 2.5的推理过程？ o3是OpenAI的推理模型，Gemini 2.5是Google的推理模型。 这类模型的特点是，在给出答案之前，会先生成一段"思考过程"，就像人在心里打草稿一样。 他说，那个思考过程是真实的推理：拆解问题，思考用户真正想要什么，对自己的内心独白做出反应，发现自己走错方向时自我纠正。 他有点惊讶于大家对此的淡然："哦对，机器会去想一堆东西，然后带着聪明的答案回来。这就是机器该做的事。" 大家好像已经把这件事当成理所当然了。 他觉得，部分人之所以过于悲观，是因为他们没有在这些模型最擅长的领域里认真用过最聪明的那些模型。 ## 他的具体预测 他强调，他的概率分布非常宽，不确定性很高。 他也明确说，为"2028年出现失控的超级智能"做准备，在他看来是完全合理的，那是一个真实存在的可能世界。 但以下是他愿意打五五开赌注的时间点： ### 预测一：2028年 AI能像一个能干的通才经理一样，端到端处理小企业报税。 包括追发票、在不同网站上找收据、和相关人员来回发邮件、填写表格、提交给税务机构。 他的推理逻辑：现在的计算机操作智能体大概处于GPT-2时代的水平。 从GPT-2到GPT-4用了四年。 报税这个任务，对计算机操作智能体来说，大概相当于GPT-4对语言任务的难度。所以，2028年。 他特别补充：2026年和2027年会有很酷的计算机操作演示，就像GPT-3很酷但不太实用一样。 但那时候的模型，还没能力端到端处理一个需要一周时间、涉及大量计算机操作的复杂项目。 ### 预测二：2032年 AI能像人类一样，在任何白领工作中自然地边干边学。 比如，雇一个AI视频编辑，六个月后，它对你的偏好、你们频道的风格、什么内容对观众有效，有和人类编辑一样深入的理解。 七年听起来很长，但他说，GPT-1就是七年前发布的。 从那时到现在，变化有多大，大家都知道。 ## 持续学习一旦解决，会发生什么？ 这是文章里我觉得最有意思的部分。 Dwarkesh说，他对近期AI持谨慎态度，但对长期极度乐观。 原因在于，一旦持续学习被解决，我们可能看到一次巨大的不连续跳跃。 AI会被广泛部署到经济的各个角落，做各种工作，同时在工作中学习，就像人类一样。 但和人类不同的是，所有这些AI实例可以汇聚它们的学习成果。 一个AI，实际上在同时学习世界上每一种工作。 他的原话是：一个具备在线学习能力的AI，可能在没有任何进一步算法进步的情况下，迅速在功能上成为超级智能。 ## AGI时间线的对数正态分布 这是他文章里一个重要的结构性判断，值得单独说清楚。 他说，AGI的时间线符合对数正态分布。 这个统计学概念用在这里的意思是：概率不是均匀分布在未来每一年的，而是集中在某个区间，过了那个区间之后，每年的概率会大幅下降。 原因是这样的： 过去十年，AI进步的核心驱动力是训练算力的扩展，大约每年增长四倍。 但这个趋势在2030年之后很难持续，无论从芯片产能、电力供应，还是从占全球GDP的比例来看，都接近物理和经济极限。 2030年之后，AI进步必须主要依靠算法突破。 但那时候，深度学习（Deep Learning，现在主流AI技术的基础框架）范式内的低垂果实也差不多摘完了。 所以他的结论是：要么AGI在这个十年内发生，要么之后每年的概率反而会变低，而不是线性累积。 用他自己的话说："AGI要么在这个十年，要么就得等很久。" ## 评论区里值得看的两个回应 文章发出后，有两个评论写得很有质量，值得一提。 Daniel Kokotajlo，曾参与撰写AI 2027预测报告的研究员，说他和Dwarkesh的分歧其实没那么大。 他对"报税"这类任务的预测也在2028年附近。 主要分歧在持续学习：Dwarkesh说2032年，他说2028年底。 他的理由是：一旦AI达到"超级程序员"水平，算法进步速度会加快，然后进入全面自动化AI研发的阶段，那时候持续学习这类问题会比正常节奏快得多地被解决。 Ryan Greenblatt，AI安全研究员，对Dwarkesh的核心论点提出了一个有意思的挑战。 他认为，RL和人类学习的差距，更多是量的差距，而不是质的差距。 人类在工作中学习，本质上也是一种RL：注意到某件事做得好或不好，然后更新自己的行为。 有时候是外部反馈（同事告诉你），有时候是自我验证（自己看结果判断好坏）。 AI目前在两件事上比人类差： 稳健的自我验证能力，也就是准确判断自己做得好不好，而且这个判断不会被AI自己"钻空子" 样本效率，也就是从每一次经验里学到多少东西，人类会分析原因，AI目前效率低得多 但他认为这两点都在改进，是量的问题，不是原理上做不到。 他还补充了一个有趣的观察：如果AI真的达到了和人类一样的样本效率，而且每个数据点用的算力和人脑差不多，那我们已经有足够的算力让AI在极短时间内变得远超人类，因为我们很快就会跑规模达到人类一生学习总量一千倍的训练。 所以，要么样本效率还差得远，要么匹配人类样本效率本身就需要消耗更多算力，二者必居其一。 ## 我觉得他说得对的地方 他的核心洞察，关于持续学习的缺失，我认为是真实的，而且被严重低估了。 很多人在讨论AI能力时，关注的是某个任务上的峰值表现，比如它能不能通过律师考试，能不能解奥数题。 但实际工作不是一次性的考试，是持续的、情境化的、需要不断校准的过程。 当前LLM的使用体验，更像是每次都在雇一个聪明但完全陌生的临时工，而不是培养一个会越来越懂你的长期员工。 这个差距，在很多白领工作中，是决定性的。 ## 一个开放的问题 Dwarkesh说他不期待看到某个实验室突然宣布"持续学习问题已完全解决"。 他预计会先看到一个残缺的早期版本，然后是逐步改进。这给了我们一定的预警时间。 但问题是，当那个临界点真的到来时，我们能认出它吗？ 还是说，等我们意识到的时候，那个"迅速成为超级智能"的过程已经开始了？ 这个问题，我现在没有答案。 © 2026 · 向阳乔木