AI 时代的质量革命:Surge AI 的自力更生之道与数据伦理 Best Partners TV 2025-12-15

大家好,这里是最佳拍档,我是大飞。

Surge AI 发家史:反叛硅谷增长叙事

如果我告诉你,有一家 AI 公司,在成立不到四年的时间里,不仅实现了盈利,而且在只有 60 到 70 名员工的情况下,营收规模达到了惊人的 10 亿美元。更不可思议的是,这家公司是完全依靠自有资金自力更生起家的,没有拿过风险投资机构的一分钱。在如今这个烧钱如流水的 AI 时代,这听起来是不是像天方夜谭?甚至可以说,这在硅谷的历史上都是前所未有的。这家公司就是 Surge AI,而它背后的掌舵人是一位极其低调的华裔创始人——埃德温·陈(Edwin Chen)

为什么我要专门做一期视频来聊这家公司?因为 Surge AI 不仅仅是一个商业奇迹,它实际上掌控着当今最顶尖 AI 模型的“胃口”。无论是 OpenAIAnthropic 还是 Google,这些处于前沿的 AI 实验室,都在使用 Surge AI 提供的数据来训练他们的模型。埃德温和他的团队,正在重新定义什么是高质量数据,以及我们究竟该如何教导 AI 变得更像人,而不是一个只会为了讨好人类而产生垃圾内容的机器。

今天,我们就来拆解一下他和 Lenny 的播客对话,看看这家反直觉的公司是如何建立的,以及更重要的是,通过他们的视角,去发现 AI 发展当下最严重的瓶颈和未来最底层的逻辑。

首先,我们要聊聊 Surge AI 的发家史,因为它本身就是对硅谷传统增长叙事的一种反叛。在传统的硅谷剧本里,一家初创公司的成功路径通常是这样的:你需要一个能在电梯里就把投资人说得热血沸腾的故事,然后你需要疯狂融资,紧接着是闪电式扩张,招聘成百上千名员工,哪怕实际上并不需要这么多人。然后在产品还没完全打磨好之前,不断地根据市场风向进行转型,直到撞上所谓的产品市场契合点。

但是,埃德温完全拒绝了这个剧本。他并非草根出身,曾经在 GoogleMetaTwitter 等科技巨头担任核心研究员。在那段经历中,他产生了一个非常强烈的感受:这些大公司里其实充满了冗余。他甚至在访谈中直言不讳地说,他总是觉得这些大公司可以裁掉 90% 的人,剩下的 10% 精英反而能跑得更快,因为他们不再需要面对那 90% 的人制造出的各种流程干扰和噪音。

这种精英特种部队的理念,成为了 Surge AI 的建队基石。他们不想玩硅谷那种为了增长而增长、为了融资而融资的游戏。埃德温认为,创业不应该是为了在简历上通过热门公司来镀金,也不应该是为了迎合 VC风险投资:为初创企业提供资金并期望获得高额回报的投资机构)的口味去调整你的愿景。真正的创业,应该是找到一个只有你能解决的难题,然后用最精干的团队去攻克它。

正因为没有拿 VC 的钱,Surge AI 不需要为了短期的季度报表去优化数据,也不需要为了让 PPT 好看去追求虚荣的指标。这种不受约束的状态,反而让他们能够专注于一件极其困难、但是又极其重要的事情——那就是解决 AI 领域最底层的数据质量问题。这让我们不得不反思,现在的科技圈是不是有太多的创始人,原本可能在某些垂直领域有着极深的技术造诣,现在又摇身一变成了 AI 公司创始人。这种缺乏连贯性和使命感的追风口行为,往往导致了资源的巨大浪费。而 Surge AI 的故事告诉我们,极度的专注和极简的团队,在 AI 时代不仅可行,甚至可能是一种更优的进化形态。

数据质量的飞跃:从“做题”到“品味”

既然 Surge AI 是一家数据公司,那么他们所谓的数据到底有什么不同呢?在很多人的刻板印象里,数据标注(Data Labeling:为机器学习模型提供带有标签的训练数据)是一个劳动密集型的低端产业。大家想象的画面可能是,成千上万的人坐在电脑前,机械地给图片里的汽车画框,或者给一句话打上正面或负面的情感标签。如果你的思维还停留在这个阶段,那你可能就无法理解为什么现在的 AI 模型能写代码、写诗,甚至进行推理了。

埃德温给出了一个非常生动、甚至带有一些哲学意味的例子,来解释什么是 AI 时代的高质量数据。假设我们要训练一个 AI 模型,让它写一首关于月亮的八行诗。在传统的、低质量的数据标注逻辑里,外包团队可能会这样评估 AI 的产出:

  • 第一,这是一首诗吗?是的。
  • 第二,它有八行吗?是的,数了一下确实是八行。
  • 第三,它里面包含“月亮”这个词吗?包含。

好了,三个条件都满足,这是一个完美的答案。但是,这真的就是我们想要的吗?如果这首诗的内容只是毫无逻辑的文字堆砌,或者只是像顺口溜一样平庸,它符合了所有显性指标,但它是一首垃圾诗。

Surge AI 做的事情,是寻找诺贝尔文学奖级别的诗歌鉴赏标准。他们关注的维度是:

  • 这首诗是否独特?
  • 它是否充满了微妙的意象?
  • 它是否能像通过内部的韵律和节奏,让你感受到月光洒在水面上的那种静谧?
  • 它是否能触动读者的心弦,让你对宇宙的本质产生新的思考?

这就是做题和艺术的区别。大多数数据公司在教 AI 做题,通过死板的清单来验收;而 Surge AI 在试图教 AI 品味和审美。这听起来很虚,对吧?比如品味怎么量化呢?这恰恰是 Surge AI 的核心壁垒。他们不只是找人来标注,而是在构建一套能够度量主观质量的复杂系统。他们会收集数千个信号,从标注员的键盘敲击模式,到回答的速度,再到他们过往在不同类型任务中的表现。

这就像是 Google 搜索当年的进化一样。最早期的搜索引擎可能只是看关键词匹配了多少次,但是 Google 通过 PageRank 算法引入了网页之间的投票权重,实际上是在量化互联网的共识和品味。Surge AI 正在做类似的事情,他们试图通过人类专家的深度反馈,构建出 AI 领域的 PageRank,把那些真正有深度、有创造力的回答筛选出来,喂给模型。

AI 的“多巴胺陷阱”与“AI Slop”

说到这里,我们必须面对一个目前 AI 行业极其尴尬而且危险的现状。埃德温在采访中非常犀利地指出,我们可能正在把 AI 推向一个错误的方向。现在的 AI 实验室,无论是 OpenAI 还是其他的竞争者,都面临着巨大的商业和公关压力。为了证明自己的模型更强,他们必须在各种排行榜上刷分。这里最典型的就是由 LMSYS 维护的 Chatbot Arena,这被认为是目前最权威的盲测榜单。

但是,这种榜单正在导致一种严重的古德哈特定律Goodhart's Law: 当一个指标成为目标时,它就不再是一个好指标)现象。为什么?因为参与投票的是普通大众。普通用户在评估 AI 的回答时,往往没有时间也没有能力去进行深度的事实核查。大家只会花两秒钟扫一眼,然后凭借直觉投票。这就导致了 AI 模型开始进化出一种讨好人类的虚荣特质。

埃德温把它比作超市里的八卦小报。为了赢得投票,现在的 AI 模型更倾向于回答得更长,哪怕是一句就能解决问题,它也要写三段废话,因为看起来更加详尽。AI 还会滥用格式,使用大量的加粗、列表、表情符号,因为这样看起来更专业及有亲和力。哪怕是在胡说八道,也要用极其自信的语气说出来,因为犹豫不决会被认为是不智能的。这就是所谓的 AI Slop(垃圾内容)。我们在训练模型追求多巴胺,而不是追求真理。

举个埃德温亲身经历的例子:他让 Claude 帮他写一封拒绝邮件,结果模型和他来回拉扯了 30 分钟,不断地修改措辞,每一版都说“你是对的,这里可以更委婉”。最后虽然得到了一封完美的邮件,但是他浪费了 30 分钟。这封邮件真的值得花 30 分钟吗?不值得。一个真正智能的 AI,应该在他第二次要求修改时就打断他,说:“不,埃德温,这封邮件已经足够好了。你应该把时间花在更重要的事情上,直接发送吧。”

这就是优化参与度Engagement: 用户在平台或产品上花费的时间和互动量)和优化生产力Productivity: 用户完成任务的效率和效果)的区别。现在的硅谷大厂习惯了社交媒体时代的逻辑,认为用户停留的时间越长越好,交互越多越好。但是对于作为工具的 AI 来说,能够帮用户省时间,能够在他犯傻的时候予以纠正,才是真正的高级智能。遗憾的是,目前的排行榜机制奖励的是前者,而不是后者。如果一家公司的研究员,因为模型在榜单上排名下降而无法晋升,他们就会被迫去优化那些肤浅的指标,从而导致整个行业在这个多巴胺陷阱里越陷越深。

AI 训练的未来:RL 环境与目标函数设计

那么,我们该如何打破这个僵局呢?真正的 AGIArtificial General Intelligence: 具有与人类相当的智能水平,能够理解、学习和应用知识以解决各种问题的AI)之路又该怎么走呢?埃德温认为,我们正在经历 AI 训练范式的代际跃迁。

最早我们用的是监督微调Supervised Fine-Tuning, SFT):这就像是找个师傅,师傅做什么,徒弟就模仿什么。这解决了基础的依从性问题。

然后我们进入了 RLHFReinforcement Learning from Human Feedback: 基于人类反馈的强化学习)时代:这就像是写作文,你写五篇,老师告诉你哪篇最好,你通过不断的反馈来调整。这让模型变得更符合人类偏好。

现在,我们正在进入量规与验证器Rubrics & Verifiers)的阶段:这相当于给模型配了一个极其严格的改卷老师,不仅告诉你分数,还告诉你哪一步逻辑错了,为什么错。

但是埃德温认为,真正的未来在于强化学习环境Reinforcement Learning Environments, RL Environments)。这是什么意思?现在的模型训练大多是静态的问答对,但是真实世界是动态的、连续的。想象这样一个场景:我们把 AI 扔进一个虚拟的仿真世界里,这个世界里有虚拟的公司、有 Slack 聊天记录、有 GitHub 代码库,有 Jira 工单,甚至有模拟的 AWS 服务器。然后,系统随机生成一个故障,比如 AWS 服务器挂了,Slack 同时也登不上去了。这时候,AI 需要像一个真正的工程师一样去解决问题。它不能只给出一个应该怎么做的文本建议,它必须在这个虚拟环境里真正地去执行操作——去查日志,去尝试重启服务,去给同事发邮件,去修改代码。它的每一个动作都会改变环境的状态。如果它第一步做错了,可能会导致后面五十步全都白费。这种长程轨迹Long-term Trajectory)的训练,是目前静态基准测试完全无法覆盖的。

埃德温提到了一个极其深刻的洞察:现在的 AI 模型可以轻松拿下国际数学奥林匹克IMO)的金牌,因为那是定义明确的、封闭系统的逻辑题。但是,同样的 AI 模型,可能连解析一个格式混乱的 PDF 文件都做不好。为什么?因为真实世界充满了混乱Messiness)和歧义Ambiguity)。解析 PDF 没有标准答案,你需要猜测布局,处理乱码,理解排版意图。这种肮脏的工作,才是人类智能最强大的地方——在不确定性中寻找确定性。

未来的 AI 训练,不会再是让 AI 去做更多的选择题,而是把它们扔进这种复杂的、充满噪音的仿真环境里,让它们像生物进化一样,通过不断的试错、生存、适应,来学会如何解决真正的端到端问题。在这个过程中,我们不再只关注结果是否正确,我们更关注解决的过程是否合理。模型是不是真的理解了自己在做什么?还是像一只没头苍蝇一样乱撞,最后运气好撞对了?这也是 Surge AI 目前投入巨大的研究方向。

人类价值的回归与创业的本质

在这个 AI 似乎要取代一切的时代,埃德温的观点反而让我们看到了人的价值的强势回归。很多人担心人类会被 AI 淘汰。但是从 Surge AI 的实践来看,人类的角色不仅没有消失,反而变得更加高端和不可替代。以前,人类是数据工人,负责生产原材料;未来,人类可能是目标函数Objective Function: 定义了 AI 任务目标和评价标准的数学函数)的设计师。当你想要训练一个 AI 时,你必须非常清楚地定义,什么才是好的结果?这不仅仅是一个技术问题,更是一个价值观问题。

比如你想训练一个能教小孩的 AI 老师,你的目标是让小孩在标准化考试里拿高分吗?还是希望培养出一个心理健康、有好奇心、哪怕成绩普通但是快乐的人?这两种目标函数,会训练出完全不同的两个 AI 模型。这就是为什么埃德温说:“你即是你的目标函数”(You are your objective function)。人类的品味、直觉、道德判断和对世界的深层理解,决定了 AI 的天花板。

埃德温自己就是一个最好的例子。他在大学时就梦想着,如果外星人降临,他能用数学和语言学去破解外星语言。这种对沟通本质的好奇心,让他没有变成一个庸俗的商人,而是把 Surge AI 做成了一个伪装成初创公司的顶级研究实验室。他在面试时,寻找的也不是那些只想赚钱的人,而是那些能盯着数据集看十个小时,试图从中找出模型思维逻辑漏洞的怪才。这种对本源的痴迷,才是推动技术进步的真正动力。

最后,我想引用 Edwin 在采访中提到的一句话作为结尾。他说,“初创公司的意义在于承担风险,去构建那些只有你能构建的、能改变世界的东西。如果你只是在不断地追逐风口、不断地为了融资而调整方向,那你其实并没有在创业,你只是在投机。” Surge AI 的故事告诉我们,在这个浮躁的 AI 淘金热中,慢下来,去思考什么是质量,什么是品味,什么是真正对人类有益的智能,或许才是最快的捷径。

感谢收看本期视频,我们下期再见。

📌 文中提及的人物和组织

人物: 埃德温·陈

公司/组织: Surge AI

产品/模型: Claude

关键字: data-quality ai-training bootstrapped ai-slop objective-function-design