--- author: Best Partners TV date: '2025-12-15' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=9Hfj9ZgodyE speaker: Best Partners TV tags: - data-quality - ai-training - bootstrapped - ai-slop - objective-function-design title: AI 时代的质量革命：Surge AI 的自力更生之道与数据伦理 summary: Surge AI 凭借 60-70 名员工实现 10 亿美元营收，不依赖 VC。它专注于 AI 训练数据质量，强调“品味与审美”而非“做题”。文章批判了当前 AI 发展的“AI Slop”现象，并展望了基于 RL 环境和目标函数设计的未来 AI 训练范式，指出人类价值在 AI 时代回归。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: - 埃德温·陈 companies_orgs: - Surge AI products_models: - Claude media_books: [] status: evergreen --- 大家好，这里是最佳拍档，我是大飞。 ### Surge AI 发家史：反叛硅谷增长叙事 如果我告诉你，有一家 AI 公司，在成立不到四年的时间里，不仅实现了盈利，而且在只有 60 到 70 名员工的情况下，营收规模达到了惊人的 10 亿美元。更不可思议的是，这家公司是完全依靠自有资金自力更生起家的，没有拿过风险投资机构的一分钱。在如今这个烧钱如流水的 AI 时代，这听起来是不是像天方夜谭？甚至可以说，这在**硅谷**的历史上都是前所未有的。这家公司就是 **Surge AI**，而它背后的掌舵人是一位极其低调的华裔创始人——**埃德温·陈（Edwin Chen）**。 为什么我要专门做一期视频来聊这家公司？因为 Surge AI 不仅仅是一个商业奇迹，它实际上掌控着当今最顶尖 AI 模型的“胃口”。无论是 **OpenAI**、**Anthropic** 还是 **Google**，这些处于前沿的 AI 实验室，都在使用 Surge AI 提供的数据来训练他们的模型。埃德温和他的团队，正在重新定义什么是高质量数据，以及我们究竟该如何教导 AI 变得更像人，而不是一个只会为了讨好人类而产生垃圾内容的机器。 今天，我们就来拆解一下他和 Lenny 的播客对话，看看这家反直觉的公司是如何建立的，以及更重要的是，通过他们的视角，去发现 AI 发展当下最严重的瓶颈和未来最底层的逻辑。 首先，我们要聊聊 Surge AI 的发家史，因为它本身就是对**硅谷**传统增长叙事的一种反叛。在传统的**硅谷**剧本里，一家初创公司的成功路径通常是这样的：你需要一个能在电梯里就把投资人说得热血沸腾的故事，然后你需要疯狂融资，紧接着是闪电式扩张，招聘成百上千名员工，哪怕实际上并不需要这么多人。然后在产品还没完全打磨好之前，不断地根据市场风向进行转型，直到撞上所谓的产品市场契合点。 但是，埃德温完全拒绝了这个剧本。他并非草根出身，曾经在 **Google**、**Meta** 和 **Twitter** 等科技巨头担任核心研究员。在那段经历中，他产生了一个非常强烈的感受：这些大公司里其实充满了冗余。他甚至在访谈中直言不讳地说，他总是觉得这些大公司可以裁掉 90% 的人，剩下的 10% 精英反而能跑得更快，因为他们不再需要面对那 90% 的人制造出的各种流程干扰和噪音。 这种精英特种部队的理念，成为了 Surge AI 的建队基石。他们不想玩**硅谷**那种为了增长而增长、为了融资而融资的游戏。埃德温认为，创业不应该是为了在简历上通过热门公司来镀金，也不应该是为了迎合 **VC**（**风险投资**：为初创企业提供资金并期望获得高额回报的投资机构）的口味去调整你的愿景。真正的创业，应该是找到一个只有你能解决的难题，然后用最精干的团队去攻克它。 正因为没有拿 **VC** 的钱，Surge AI 不需要为了短期的季度报表去优化数据，也不需要为了让 PPT 好看去追求虚荣的指标。这种不受约束的状态，反而让他们能够专注于一件极其困难、但是又极其重要的事情——那就是解决 AI 领域最底层的数据质量问题。这让我们不得不反思，现在的科技圈是不是有太多的创始人，原本可能在某些垂直领域有着极深的技术造诣，现在又摇身一变成了 **AI** 公司创始人。这种缺乏连贯性和使命感的追风口行为，往往导致了资源的巨大浪费。而 Surge AI 的故事告诉我们，极度的专注和极简的团队，在 AI 时代不仅可行，甚至可能是一种更优的进化形态。 ### 数据质量的飞跃：从“做题”到“品味” 既然 Surge AI 是一家数据公司，那么他们所谓的数据到底有什么不同呢？在很多人的刻板印象里，**数据标注**（Data Labeling：为机器学习模型提供带有标签的训练数据）是一个劳动密集型的低端产业。大家想象的画面可能是，成千上万的人坐在电脑前，机械地给图片里的汽车画框，或者给一句话打上正面或负面的情感标签。如果你的思维还停留在这个阶段，那你可能就无法理解为什么现在的 AI 模型能写代码、写诗，甚至进行推理了。 埃德温给出了一个非常生动、甚至带有一些哲学意味的例子，来解释什么是 AI 时代的高质量数据。假设我们要训练一个 AI 模型，让它写一首关于月亮的**八行诗**。在传统的、低质量的数据标注逻辑里，外包团队可能会这样评估 AI 的产出： * 第一，这是一首诗吗？是的。 * 第二，它有八行吗？是的，数了一下确实是八行。 * 第三，它里面包含“月亮”这个词吗？包含。 好了，三个条件都满足，这是一个完美的答案。但是，这真的就是我们想要的吗？如果这首诗的内容只是毫无逻辑的文字堆砌，或者只是像顺口溜一样平庸，它符合了所有显性指标，但它是一首垃圾诗。 Surge AI 做的事情，是寻找**诺贝尔文学奖**级别的诗歌鉴赏标准。他们关注的维度是： * 这首诗是否独特？ * 它是否充满了微妙的意象？ * 它是否能像通过内部的韵律和节奏，让你感受到月光洒在水面上的那种静谧？ * 它是否能触动读者的心弦，让你对宇宙的本质产生新的思考？ 这就是做题和艺术的区别。大多数数据公司在教 AI 做题，通过死板的清单来验收；而 Surge AI 在试图教 AI 品味和审美。这听起来很虚，对吧？比如品味怎么量化呢？这恰恰是 Surge AI 的核心壁垒。他们不只是找人来标注，而是在构建一套能够度量主观质量的复杂系统。他们会收集数千个信号，从标注员的键盘敲击模式，到回答的速度，再到他们过往在不同类型任务中的表现。 这就像是 **Google** 搜索当年的进化一样。最早期的搜索引擎可能只是看关键词匹配了多少次，但是 **Google** 通过 **PageRank** 算法引入了网页之间的投票权重，实际上是在量化互联网的共识和品味。Surge AI 正在做类似的事情，他们试图通过人类专家的深度反馈，构建出 AI 领域的 **PageRank**，把那些真正有深度、有创造力的回答筛选出来，喂给模型。 ### AI 的“多巴胺陷阱”与“AI Slop” 说到这里，我们必须面对一个目前 AI 行业极其尴尬而且危险的现状。埃德温在采访中非常犀利地指出，我们可能正在把 AI 推向一个错误的方向。现在的 AI 实验室，无论是 **OpenAI** 还是其他的竞争者，都面临着巨大的商业和公关压力。为了证明自己的模型更强，他们必须在各种排行榜上刷分。这里最典型的就是由 LMSYS 维护的 **Chatbot Arena**，这被认为是目前最权威的盲测榜单。 但是，这种榜单正在导致一种严重的**古德哈特定律**（**Goodhart's Law**: 当一个指标成为目标时，它就不再是一个好指标）现象。为什么？因为参与投票的是普通大众。普通用户在评估 AI 的回答时，往往没有时间也没有能力去进行深度的事实核查。大家只会花两秒钟扫一眼，然后凭借直觉投票。这就导致了 AI 模型开始进化出一种讨好人类的虚荣特质。 埃德温把它比作超市里的八卦小报。为了赢得投票，现在的 AI 模型更倾向于回答得更长，哪怕是一句就能解决问题，它也要写三段废话，因为看起来更加详尽。AI 还会滥用格式，使用大量的加粗、列表、表情符号，因为这样看起来更专业及有亲和力。哪怕是在胡说八道，也要用极其自信的语气说出来，因为犹豫不决会被认为是不智能的。这就是所谓的 **AI Slop**（垃圾内容）。我们在训练模型追求多巴胺，而不是追求真理。 举个埃德温亲身经历的例子：他让 **Claude** 帮他写一封拒绝邮件，结果模型和他来回拉扯了 30 分钟，不断地修改措辞，每一版都说“你是对的，这里可以更委婉”。最后虽然得到了一封完美的邮件，但是他浪费了 30 分钟。这封邮件真的值得花 30 分钟吗？不值得。一个真正智能的 AI，应该在他第二次要求修改时就打断他，说：“不，埃德温，这封邮件已经足够好了。你应该把时间花在更重要的事情上，直接发送吧。” 这就是优化**参与度**（**Engagement**: 用户在平台或产品上花费的时间和互动量）和优化**生产力**（**Productivity**: 用户完成任务的效率和效果）的区别。现在的**硅谷**大厂习惯了社交媒体时代的逻辑，认为用户停留的时间越长越好，交互越多越好。但是对于作为工具的 AI 来说，能够帮用户省时间，能够在**他犯傻**的时候予以纠正，才是真正的高级智能。遗憾的是，目前的排行榜机制奖励的是前者，而不是后者。如果一家公司的研究员，因为模型在榜单上排名下降而无法晋升，他们就会被迫去优化那些肤浅的指标，从而导致整个行业在这个多巴胺陷阱里越陷越深。 ### AI 训练的未来：RL 环境与目标函数设计 那么，我们该如何打破这个僵局呢？真正的 **AGI**（**Artificial General Intelligence**: 具有与人类相当的智能水平，能够理解、学习和应用知识以解决各种问题的AI）之路又该怎么走呢？埃德温认为，我们正在经历 AI 训练范式的代际跃迁。 最早我们用的是**监督微调**（**Supervised Fine-Tuning, SFT**）：这就像是找个师傅，师傅做什么，徒弟就模仿什么。这解决了基础的依从性问题。 然后我们进入了 **RLHF**（**Reinforcement Learning from Human Feedback**: 基于人类反馈的强化学习）时代：这就像是写作文，你写五篇，老师告诉你哪篇最好，你通过不断的反馈来调整。这让模型变得更符合人类偏好。 现在，我们正在进入**量规与验证器**（**Rubrics & Verifiers**）的阶段：这相当于给模型配了一个极其严格的改卷老师，不仅告诉你分数，还告诉你哪一步逻辑错了，为什么错。 但是埃德温认为，真正的未来在于**强化学习环境**（**Reinforcement Learning Environments, RL Environments**）。这是什么意思？现在的模型训练大多是静态的问答对，但是真实世界是动态的、连续的。想象这样一个场景：我们把 AI 扔进一个虚拟的仿真世界里，这个世界里有虚拟的公司、有 **Slack** 聊天记录、有 **GitHub** 代码库，有 **Jira** 工单，甚至有模拟的 **AWS** 服务器。然后，系统随机生成一个故障，比如 **AWS** 服务器挂了，**Slack** 同时也登不上去了。这时候，AI 需要像一个真正的工程师一样去解决问题。它不能只给出一个应该怎么做的文本建议，它必须在这个虚拟环境里真正地去执行操作——去查日志，去尝试重启服务，去给同事发邮件，去修改代码。它的每一个动作都会改变环境的状态。如果它第一步做错了，可能会导致后面五十步全都白费。这种**长程轨迹**（**Long-term Trajectory**）的训练，是目前静态基准测试完全无法覆盖的。 埃德温提到了一个极其深刻的洞察：现在的 AI 模型可以轻松拿下**国际数学奥林匹克**（**IMO**）的金牌，因为那是定义明确的、封闭系统的逻辑题。但是，同样的 AI 模型，可能连解析一个格式混乱的 **PDF** 文件都做不好。为什么？因为真实世界充满了**混乱**（**Messiness**）和**歧义**（**Ambiguity**）。解析 **PDF** 没有标准答案，你需要猜测布局，处理乱码，理解排版意图。这种肮脏的工作，才是人类智能最强大的地方——在不确定性中寻找确定性。 未来的 AI 训练，不会再是让 AI 去做更多的选择题，而是把它们扔进这种复杂的、充满噪音的仿真环境里，让它们像生物进化一样，通过不断的试错、生存、适应，来学会如何解决真正的端到端问题。在这个过程中，我们不再只关注结果是否正确，我们更关注解决的过程是否合理。模型是不是真的理解了自己在做什么？还是像一只没头苍蝇一样乱撞，最后运气好撞对了？这也是 Surge AI 目前投入巨大的研究方向。 ### 人类价值的回归与创业的本质 在这个 AI 似乎要取代一切的时代，埃德温的观点反而让我们看到了人的价值的强势回归。很多人担心人类会被 AI 淘汰。但是从 Surge AI 的实践来看，人类的角色不仅没有消失，反而变得更加高端和不可替代。以前，人类是数据工人，负责生产原材料；未来，人类可能是**目标函数**（**Objective Function**: 定义了 AI 任务目标和评价标准的数学函数）的设计师。当你想要训练一个 AI 时，你必须非常清楚地定义，什么才是好的结果？这不仅仅是一个技术问题，更是一个价值观问题。 比如你想训练一个能教小孩的 AI 老师，你的目标是让小孩在标准化考试里拿高分吗？还是希望培养出一个心理健康、有好奇心、哪怕成绩普通但是快乐的人？这两种目标函数，会训练出完全不同的两个 AI 模型。这就是为什么埃德温说：“**你即是你的目标函数**”（**You are your objective function**）。人类的品味、直觉、道德判断和对世界的深层理解，决定了 AI 的天花板。 埃德温自己就是一个最好的例子。他在大学时就梦想着，如果外星人降临，他能用数学和语言学去破解外星语言。这种对沟通本质的好奇心，让他没有变成一个庸俗的商人，而是把 Surge AI 做成了一个伪装成初创公司的顶级研究实验室。他在面试时，寻找的也不是那些只想赚钱的人，而是那些能盯着数据集看十个小时，试图从中找出模型思维逻辑漏洞的怪才。这种对本源的痴迷，才是推动技术进步的真正动力。 最后，我想引用 Edwin 在采访中提到的一句话作为结尾。他说，“初创公司的意义在于承担风险，去构建那些只有你能构建的、能改变世界的东西。如果你只是在不断地追逐风口、不断地为了融资而调整方向，那你其实并没有在创业，你只是在投机。” Surge AI 的故事告诉我们，在这个浮躁的 AI 淘金热中，慢下来，去思考什么是质量，什么是品味，什么是真正对人类有益的智能，或许才是最快的捷径。 感谢收看本期视频，我们下期再见。