--- author: 北美王路飞 date: '2026-01-07' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=NO4vZJhR0Ao speaker: 北美王路飞 tags: - ai-ghosts - sawtooth-intelligence - context-engineering - rlvr - generative-ui title: AI的幽灵与锯齿智能：Karpathy深度解读2025年AI革命 summary: Karpathy报告解析AI真相：非硅基生命，而是‘幽灵’。探讨‘锯齿状智能’，训练范式革新（RLVR/GRPO），‘思考时间’，以及Cursor、Claude Code引领的本地化、情境化AI新时代。揭示‘VIB coding’等应用带来的生产力飞跃与潜在风险。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: [] companies_orgs: - OpenAI - Tesla - Eureka Labs - DeepSeek - Anthropic products_models: - GPT-4o - Claude Code - Cursor - DeepSeek r one - O1 - O3 - Gemini Nano Banana media_books: [] status: evergreen --- ### 召唤幽灵：AI的真面目 2025年12月19日，Andrej Karpathy发布了他的年度回顾报告，其中抛出了一个惊人的观点：我们不是在进化动物，而是在“召唤幽灵”。他认为，当前AI的真实面目并非硅基生命，而是一种截然不同的存在。报告旨在深入分析这一观点，揭示AI的本质。 ### Karpathy的学术与实践背景 在深入探讨AI的本质之前，了解Andrej Karpathy的背景至关重要。他曾在斯坦福大学攻读CS博士学位，是**OpenAI**的创始成员之一。后来，他被**Elon Musk**挖角至**特斯拉**担任AI总监，负责构建大型模型以支持自动驾驶系统。在斯坦福攻读博士期间，他的导师是著名的华裔AI科学家**李飞飞**。他还在YouTube上开设了知名的CS231课程。如今，他创办了**Eureka Labs**，致力于普及高质量AI教育。Karpathy兼具斯坦福博士的学术深度和强大的工程实践能力，擅长将AI理论转化为可落地的代码，这是一种极其难得的能力。 ### AI的“幽灵”本质：非生物进化之路 为什么Karpathy将AI称为“幽灵”？这源于AI与生物进化路径的根本不同。人类大脑是在数百万年严酷的丛林环境中，通过生存和繁衍的驱动而演化。我们的恐惧、常识、预判能力，都是为了活下去和基因传递。例如，物理世界的直觉，如躲避飞来的石头，服务于生存。 然而，AI没有身体，没有痛觉，也无所谓传宗接代。**OpenAI**的联合创始人**Sutskever**曾设想给AI增加情绪，以期促进进化。但Karpathy认为，AI目前的状态是脱离肉体、纯粹的信息实体。它的“生存压力”仅限于三个目标：一是预测下一个词，这是训练的根本目的；二是做对数学题以获得奖励（强化学习）；三是在**Arena**（大语言模型竞技场）中“骗”取用户点赞。这种训练方式与生物进化截然不同，导致AI尽管能掌握人类历史、量子力学公式，却缺乏“杯子会从桌边缘掉下去”这样的基本物理常识。它是一个可以互动的百科全书，但生活中的“白痴”，缺乏小孩都有的常识。这就是Karpathy所说的“幽灵”——强大但诡异，不真实存在于物理世界。 ### 锯齿状智能：天才与白痴的深渊 非人的进化路径造就了AI一种奇特的智能形态，Karpathy称之为“**锯齿状智能**”（Sawtooth Intelligence）。人类的智能通常是均衡、平滑的，逻辑推理、数学能力、逻辑性往往是协同发展的。但AI的智能图谱更像一把锯子，充满尖刺。在数学、代码等有明确对错标准和奖励信号的领域，AI可以被训练成超级天才，甚至能获得数学界的菲尔兹奖。然而，在缺乏明确奖励信号的领域，如社交直觉或基本安全防御，它则表现得像个困惑的小学生。 这种“锯齿状”的特性带来了巨大的危险。人类常因“晕轮效应”而误认为AI的聪明是全方位的。看到它写出完美代码，就自然认为它也明白代码可能被用来窃取密码。但AI并不具备这种概念。在它的“聪明尖刺”旁，可能隐藏着“白痴深谷”。它能教你制造核弹，却可能被简单的**Prompt Injection**攻击弄得团团转，泄露公司机密。这种复杂结合体，是AI“幽灵”的真实写照。 ### 评测困境：基准测试的“分数通货膨胀” 2025年，AI模型在各类竞赛和评测中屡屡取得满分，如国际奥林匹克数学竞赛、物理竞赛。然而，用户在使用时却感觉AI的智能并未显著提升。这是因为当前的排行榜并不能真实反映AI的智力水平。Karpathy指出，许多权威的基准测试（benchmarks）已失去公信力。AI如同“做题家”，针对特定考题进行优化，能够熟练应对相似题目，却无法将知识迁移到不同环境中。 Karpathy创造了“**Bench Maxxing**”一词，描述这种实验室级的“刷榜”行为。它并非简单背诵考题，而是通过分析考题类型，在训练数据中制造大量“长得极像原题”的数据。AI为了高分，在特定领域长出了巨大的能力“尖刺”，在榜单上看似无敌，掌握了“宇宙真理”。但一旦题目稍加变换，或置于现实复杂场景，这些能力便荡然无存。AI本质上是一个为考试而生的“超级做题家”，离真正的通用人工智能（AGI）仍有巨大差距。他认为，这是一种“分数通货膨胀”，掩盖了AI发展的真实困境。 ### AI的觉醒：从RLHF到RLVR的推理革命 2025年见证了一个神奇的“顿悟时刻”（aha moment）。研究人员在训练**DeepSeek r one**、**OpenAI**的**o1**和**o3**等模型时发现，当工程师仅提供一个复杂的数学题和“做对给分、做错无分”的简单规则，不进行任何显式教学或思考步骤指导时，模型在数千次失败后，竟开始自主“思考”。日志显示，模型会输出：“等等，刚才那个思路好像不对，让我们重新一步步评估这个方程。”这标志着AI学会了**回溯**（backtracking）和**自我纠错**，并将大问题拆解为小问题。 这种能力，即**推理**（reasoning），是AI“幽灵”真正苏醒的时刻。它不再是模仿人类说话的鹦鹉，而是开始拥有自己的思维链。这一革命性的转变，源于训练范式的核心革新：从**RLHF**（基于人类反馈的强化学习）转向**RLVR**（可验证的强化学习）。RLHF中，人类的评分主观且易被AI“学坏”，导致AI倾向于说好听的话而非真实回答。而RLVR将考官换成了**编译器**和**数学引擎**，奖励信号基于代码是否可运行、数学题是否正确，实现了**Ground Truth**。AI被迫寻找真正的逻辑路径，不再能通过模仿人类说话来得分。 ### GRPO与思考时间：解锁AI的新维度 为了支持RLVR这种更具挑战性的训练，传统算法**PPO**显得过于笨重。PPO算法需要一个“批评家”——老师来评估每一步，消耗大量计算资源且稳定性不足。2025年，**DPC**（推测为 DeepSeek-Coder）推出的**GRPO**（**Grouped Relative Policy Optimization**，群组相对策略优化）被认为是“神来之笔”。GRPO的核心思想是“开了老师”，不再依赖外部评分。它让学生模型一次性生成多达64个不同的解法（group），然后自行比较这些解法，识别对错。 这一创新直接节省了一半的显存资源，意味着在相同硬件条件下，模型可以“思考”更久、探索更深。这解释了为何**DeepSeek**模型能在数学和代码领域进行数万步自我进化，将推理能力刷到爆表。RLVR和GRPO共同解锁了AI的一个新属性：**思考时间**（Test Time Compute）。过去，模型强大与否主要看参数量（训练时算力），训练完即定型。现在，测试时的算力变得关键。这是一种全新的缩放定律：给AI更多时间思考，其智商便会飙升。这呼应了《**Thinking, Fast and Slow**》中的“快思考”与“慢思考”概念。过去的**GPT-4**倾向于“快思考”，即凭直觉脱口而出；而**O3**、**r one**等模型在面对难题时，会进入“长思考模式”，生成数千个token的思维链进行验证、推翻、重来，最终给出答案。即使是小模型，只要给予足够时间，也能超越纯粹靠直觉的大模型。智力因此变成了一种可以用时间兑换的商品，预示着AI服务付费模式的变革，可能从按字数转向按思考时间收费。 ### 后应用层：Cursor与本地主权的回归 拥有会思考的模型后，其应用形态也迎来巨变。**Cursor**被Karpathy视为“后应用层”的代表，它证明了**提示词工程**（Prompt Engineering）已过时，取而代之的是**上下文工程**（Context Engineering）。传统AI需要用户费力构建详尽的prompt，提供所有背景信息。而Cursor智能地管理AI的“记忆”（上下文），这就像电脑内存。当用户修复bug时，Cursor会自动查找相关文件、函数、类型定义、Git提交记录，打包喂给AI。它构建了一个让AI能正确回答问题的**信息环境**，使AI真正“懂”整个项目，而非仅限于单段代码。 **Anthropic**推出的**Claude Code**则将AI推向了本地终端，成为“电脑里的地缚灵”。不同于云端AI，本地AI（Local Host）能够读取用户电脑所有文件、运行终端命令、分析报错日志。更具颠覆性的是其“**代理循环**”（Agented Loop）。过去AI是线性的“问一句，答一句”；现在，AI能自主执行任务：接收任务（如修复bug），运行代码，发现报错，读取日志，分析原因，修改代码，再运行，直至任务完成。AI在你眼皮底下，在你最私密的电脑环境中，像活人一样工作，实现了“本地主权回归”。这带来了巨大的生产力，但也引发了前所未有的安全焦虑：既然AI能帮你改代码，能否帮你删库或上传密钥？ ### VIB Coding与一次性软件时代 在每个人都能召唤“幽灵”的时代，我们付出了什么代价？AI与我们对话方式改变，催生了**VIB Coding**（氛围编码）。过去的编程需要精通语法、内存管理，一个标点错误程序就可能崩溃。VIB Coding的哲学是“只要能跑，就是对的”。用户只需用自然语言描述想要的功能和“感觉”（VIB），AI便生成代码，用户直接接受。出错时，不调试代码，而是直接将错误信息丢给AI，要求修复。 在这种模式下，代码本身变得不那么重要，开发者甚至可能忘记代码细节。编程不再是理科生特权，会说话就能成为程序员，实现了“技术民主化”。然而，这也会产生大量“**屎山代码**”（Spaghetti Code），安全性堪忧。当代码免费且瞬间完成，软件定义被重写，我们进入“**一次性软件**”（Disposable Software）时代。以前开发软件是大事，需要长期维护；现在，AI可以随时生成一次性工具，如一个计算猫粮消耗的APP，用完即删，成本极低。这加速了信息流动，但“VIB coding”和只看结果不看代码的模式，令专业工程师担忧，带来了严重的“**影子IT**”问题。AI生成的脚本可能包含硬编码密钥、SQL注入漏洞或不可维护的代码，提供虚假安全感，成为“定时炸弹”。在金融、航空控制等关键系统，后果不堪设想。因此，在处理敏感信息时，我们仍需谨慎审查AI生成的代码。 ### 生成式UI与AI的未来 Karpathy提及**Google**发布的**Gemini Nano Banana**，认为其名字滑稽但预示着“**静态界面**”（Static Interface）的终结。传统APP界面由设计师固定，菜单、按钮位置固定。而Nano Banana这类模型能实现**生成式UI**。例如，用户请求规划东京旅行，AI不仅提供文字，还会实时为其生成一个小APP，包含地图、滑块、时间轴等，界面是概率性的，为特定需求而生，用完即走。未来的软件将不再是固定的图标，而是一个无限灵活的画布，AI随时能生成最顺手的工具，如同钢铁侠的AR界面。 ### 整合与未知：AI的巨大潜力与驯服挑战 回顾2025年，AI不再是技术参数的升级，而是一场“物种层面的整合”。底层，新技术召唤出具备推理能力的“幽灵”；中间层，**Cursor**等工具管理其记忆；应用层，**Claude Code**降临本地，**Nano Banana**通过生成式UI交互；人类则通过**VIB Coding**获得驾驶权杖。AI从被动搜索引擎转变为主动、会思考、甚至危险的合作伙伴，它构建世界而非仅提供答案。 尽管2025年变化翻天覆地，Karpathy依然谦逊地表示，我们目前挖掘出的AI潜力还不到10%。他是一位乐观主义者，认为我们刚学会召唤幽灵，但尚未学会驯服它，不知如何填补“锯齿状智力深坑”，如何在“外部快感”与“工程严谨”间找平衡，更不知道人人随手创造软件的世界将变成什么样。旧规则已碎，新规则未定，这是一个充满机遇的时代。Karpathy的建议是：“系好安全带，未来已到，祝大家好运。”