开篇预告
陈茜: 大厂不需要那么多人了,所以大家就得找到自己的意义。今天的这期视频播客,我们来到旧金山城里,嘉宾是我们的老朋友了,田渊栋。田渊栋作为 Meta 基础AI研究实验室 FAIR 前研究总监,在去年被裁员之后历经半年,最近官宣了新动向:与其他7位顶级研究员一起,创立了新的AI研究公司 Recursive Superintelligence(简称 RSI),融资6.5亿美元,估值达到46.5亿美元。这个令人瞩目的新实验室想做什么样的事情?为什么资本会如此看好他们?那么过去半年,AI市场的格局迅速变化,他又如何看待模型技术的趋势与瓶颈呢?你是正式的官宣来到了RSI。
田渊栋: 半年前接受你们采访的时候其实已经差不多定了。很小很精的团队把一件事情做成了,成为一个大的趋势。
陈茜: 但RSI有8个联合创始人,在没有任何产品出来的前提下,为什么觉得资本会对你们买账呢?
田渊栋: 最顶级的资本还是看人。
陈茜: 递归自我改进(Recursive self improvement),你们为什么觉得这个方式很关键?
田渊栋: 用AI来优化AI自己的一些东西,让AI变得更强,用AI来做新的发现,我们可以增加人类社会进步的速度。
陈茜: 那如果说你们的最终目标是10的话,你觉得我们现在大概是在一个什么样的阶段?
田渊栋: 也许我们现在在1和2的这个位置上。
陈茜: 你们实验室会从预训练(pre-training)从头开始做吗?商业化方面有任何的思考吗?迭代速度可以披露吗?你们为什么要把自动化AI科研作为第一步?
田渊栋: 我们应该把目标放得更长远一点,因为如果我们对科学的研究的过程本身有建模的话,你可以拿来做很多事情。
陈茜: 你怎么看世界模型的?
田渊栋: 我觉得语言跟视觉相比,语言还是一个更加有信号的东西。有一些前沿的路线是想把扩散模型(diffusion)跟LLM有一个组合,速度上来说肯定会变更快。预训练的上限其实是决定了强化学习的上限。这也是我的观点,所以有可能是错的。
陈茜: 你说大家迟早全部都要失业的,L4和L5的这些工程师,他们的能力,AI很多事情其实可以做的了。coding(编程)之后的下一个大方向(The next big thing)是什么?
田渊栋: 我觉得是 AI research(研究)。
陈茜: OpenAI 跟 Anthropic 的一个比拼,你会觉得是什么样的一个结果?Google 还能够追上来吗?你觉得 xAI 发生了什么?说说Meta,你怎么评价 Muse Spark?
田渊栋: 大模型里面没有永远的赢家。应该这么说,前沿大模型之争,其实最后变成了一个组织架构之争了。组织架构在这次的技术进展中,有很大的一个角色。
陈茜: Meta最近有点争议,他们要强制蒸馏员工这个事情。
田渊栋: 吸星大法,顷刻炼化。炼化了之后你就被踢出去的话,大家都不会开心的,应该比较不太顾及员工感受。这感觉是个大趋势了。它就相当于一条鱼在水坑里面跳,水总的来说是越来越少的,所以你永远找不到出路。你最终一定要变成一个四维生物,你才能活下来。
陈茜: 接下来就跟我走进RSI。以下就是我与田渊栋的专访。
创立 RSI 的契机与团队背景
陈茜: 非常感谢渊栋,欢迎来做客《硅谷101》。非常感谢你们又过来,我们可以继续下一轮的采访。现在距我们上次聊的时候其实过了半年的时间。我知道当时你刚从Meta出来,跟我说已经有很多的团队跟公司在接洽了,那其实现在你是正式的官宣来到了RSI。能不能跟我们说一下,为什么最后选了这家公司?
田渊栋: 应该这么说吧,其实半年前接受你们采访的时候已经差不多定了,是一个比较快速的决定过程。当时有不少人联系我,在10月底到11月初这段时间,我的手机基本上是被打爆的状态,所有的消息我都看不过来,属于不能回复。最后还是选了这个,觉得对于现在大模型的趋势来说,团队小型化、速度变快、团队之间的摩擦变少,很小很精的团队把一件事情做成了,成为一个大的趋势。有这个趋势之后,你再在大公司里面待着可能就不太方便。
我亲眼目睹过很多大团队的问题。当时也有不少大团队想来找我,有 Anthropic、xAI、Amazon、Apple、Microsoft。但是后来你会发现,找我的大概两三个月之后,有很多人都走了。其实原因是因为,对大公司来说,他们组织架构比较臃肿或者人比较多,就一定会有问题。CEO非常急,希望公司能成功,就会有很多命令或者指示指导下面去做。但大团队要花很多时间去适应上面的要求,同时对齐下面员工的想法和愿望。这个对齐速度远远慢于小团队。所以你会发现最近有很多大公司、大团队频繁地组织重组(reorg)、裁员,改变方向和战略。主要原因还是因为组织沟通上的速度根本已经跟不上AI的发展速度。我在Meta待了也快11年了,亲身感觉到了这样的一种趋势。正好Meta也给了我这个机会,那我就去过一个不一样的人生。
陈茜: 当时来找你的可能也不只RSI这一家的初创公司跟 NeoLab,为什么最后选了这一个团队?当时是 Richard Socher 亲自来找你的嘛。
田渊栋: 我觉得一个是这支团队刚刚组建,当时我也跟Richard,还有熊蔡明、Tim Shi(施天麟)、Tim Rocktäschel 都聊过。我觉得团队刚组建机会应该比较大。另外团队里有两到三个人我以前认识。其中像 Tim Rocktäschel 跟我以前在Meta是同事,他在伦敦做强化学习,我在加州做强化学习,所以比较熟。蔡明跟我之前也有很多联系。有这个联系之后,我觉得可以尝试一下。其他的很多初创团队也来找我,但很多时候机会相对来说稍微没有那么好。比如说他们希望招聘员工,或者希望让我进来做人工智能主管(head of AI)或研究主管(head of research)。对我来说要创业的话,当然希望能做联合创始人(co-founder)更好一点。
陈茜: 但RSI有8个联合创始人,这个还挺罕见的。当时是怎么样一个架构?
田渊栋: 因为每个联合创始人的专业知识是不一样的,各自有擅长的地方和比较欣赏别人的地方,所以相对来说我们这8个人还是比较互补的。有这个互补的基因,而且大家都是聪明人,合作起来其实也比较顺利。
陈茜: 能不能跟我们介绍一下这8个联合创始人,各自分别负责什么样的工作领域呢?
田渊栋: 像 Richard Socher 大家可能知道,他一直是做CEO的角色,之前创立了 MetaMind,被 Salesforce 收购了。之后他在 Salesforce 待了四年做首席科学家(chief scientist)。出来后开了一个新公司叫 You.com,现在也有盈利,还是不错的。现在他又出来成为我们这边的CEO。熊蔡明之前是跟 Richard 一起做 MetaMind 的,被一起收购后,他成为了 Salesforce Research 的高级副总裁(Senior VP),待了十年多。
还有像 Tim Rocktäschel,他离开Meta后去了 Google DeepMind。在那里他是 Project Genie 1、2、3的负责人,是做世界模型的。他也领导了一个叫 agent Open-Endedness 的团队,跟我们现在做的方向非常接近。他在Google口碑非常好,所以 Google Ventures 当时做背调给了个非常好的分数,对我们融资有很大贡献。
还有 Jeff Clune,也是做 agent Open-Endedness 方向的。他的团队在过去10年一直在这个方向非常投入深入。他们最近的一篇文章叫《The AI Scientist》v2,已经被《Nature》收录了,学术影响力非常大。
像我们这边还有 Josh Tobin,他是以前 OpenAI 的早期员工,自己出来开公司被 OpenAI 收购之后,又回到了 OpenAI 做智能体科学主管(agent Science lead)。他在智能体和工程上有很多经验。
还有一个像 Alexey Dosovitskiy,大概十多年以前我们做强化学习时认识。当时有个游戏叫《Doom》(毁灭战士),我们是一个赛道的第一名,他是第二赛道的第一名。后来他去了 Google,是 Vision Transformer 的一作。这篇文章非常有影响力,第一次把 Transformer 带入了计算机视觉(Computer vision)领域,证明了数据量足够大的情况下,Transformer 在视觉上效果也很好。之后他去了些 AI for science 公司,现在过来给我们做联合创始人。
还有像 Tim Shi,他是之前 Cresta 的CTO。他在 Cresta 做了很多年时间,把公司做得非常好。他现在对递归和我们的愿景有很大兴趣,辞了CTO的职位来到我们这做联创。所以这8个都是非常顶级、非常核心的 AI 研究员和行业从业者。
陈茜: 你们不会打架吗?我觉得每个人都是非常具有自己想法的人,如果你们遇到不同的意见怎么办?
田渊栋: 这个我们还是比较民主。我们会有很多讨论,很多思想上的碰撞和考虑。最终还是会有一些想法和逻辑大家同意的,我们一起做。所以至少目前为止,我们的合作还是相当好的。大家都是聪明人,和聪明人合作其实是比较省心的。大家都希望花很多时间精力把事情做好,把盘做大。
巨额融资与递归自我改进的愿景
陈茜: 你们宣布的这轮融资挺让人瞩目的,6.5亿美元的融资,46.5亿美元的估值。在没有任何产品出来的前提下,为什么资本会对你们买账呢?
田渊栋: 最顶级的资本还是看人。投资也好,最终的商业愿景也好,在AI这个变化非常大的领域里面,其实很难在一开始就讲得非常清楚。你今天说要做这个,过两个月发现谁又出了新东西,团队怎么应对?能不能很快有执行力做出来?这个最重要。资本最看重对人的判断、以往的履历、能力,以及团队成员之间的磨合程度。这么多钱进来,其实还是看中我们以前的履历和对愿景的投入。
陈茜: 你在其中主要负责的部分是哪些?我记得上次聊的时候你说下一份工作想做工程加前沿研究结合的岗位。
田渊栋: 我在说这句话的时候,我已经知道我差不多要来了,可能埋了个伏笔。当时心里在想不能跟你说我已经加入这家公司了,这是保密的。我现在来了之后也是这样的结合。我和蔡明以前做建模(modeling)比较多,我们还可以继续做建模、训练、后训练的工作。工程上像智能体控制(agentic harness),我们也会做一些。
陈茜: RSI 是 Recursive Superintelligence 的缩写,中文叫“递归式”。能不能给我们介绍一下 RSI 主要想做什么?递归自我改进(Recursive self improvement)究竟是什么样的一种方式,为什么关键?
田渊栋: 递归自我改进的意思就是说,我们能不能用AI来优化AI自己的一些东西,让AI变得更强,通过这方式左脚踩右脚再踩上去。具体来说,希望用AI做很多现在需要人工做的事情,比如科学家发现新的想法和逻辑、训练过程需不需要用AI来强化、用AI做新的发现。我们最终的愿景是希望有一个很好的系统,放进各种计算资源,输出时能产生新的知识、见解和洞察力。通过这个方式,我们可以增加人类社会进步的速度,提高对新知识发现和理解的能力。
陈茜: 目前前沿大模型主流做法还是依靠人类设计模型,收集数据大规模训练,人工标注对齐。你认为这条路上人类是一个瓶颈,你们押注的是让AI自动化研发过程。怎么能实现?
田渊栋: 人类在做研究或者AI发现时,因为生理极限(要睡觉、吃喝拉撒),没办法百分之百时间花在这上面。如果用AI代替或让AI做人类认为繁琐、重复性的劳动,这是第一步。第二步是能不能让AI在这个劳动之上自动发现新洞察,加速AI和人类发展的进程。
陈茜: AI系统学会的东西,是一个真正的能力提升,还是在某个评估指标上的过拟合?
田渊栋: 我当然希望AI最终能达到能力上的提升。希望AI以后能做硕士生、博士生或者研究员能做的事情。刷各种榜单只是达成目的的手段。
陈茜: 当AI系统自主设计实验、评估结果,人类还可以作为可靠的评判者吗?怎么解决“评估者本身也需要被评估”的递归难题呢?
田渊栋: 至少现在AI还达不到人的评估标准,一定时间内人类还可以作为评估者。等到AI厉害到一定程度之后,很多评估标准会变得主观。比如让AI写代码,如果指令遵循得很好,再往上走涉及代码架构设计和模块安排,每个人的见解不一样,其实已经很难有正确答案了。这种情况下,评估会变得非常结果导向(Result driven)。中间过程变成了自由发挥的地方,最终目的是人加AI得到一个想要的结果。
陈茜: 那可解释性这件事情还重要吗?当AI可以自己修改代码权重、设计实验,可解释性会不会更困难?
田渊栋: 这是非常重要的,而且比原来更重要。一方面是因为安全(safety)问题,做安全的超级智能(superintelligence)的一个方案就是通过可解释性来完成。如果你对模型内部机制有理解,就知道模型将来可能会有什么威胁。另一方面,可解释性提供了一个很好的指标。做递归自我改进需要大量算力,几千上万块卡训练一个模型。如果不理解模型,只能等训练完毕再去评估,速度很慢。如果有可解释性,把评估放在前面完成,就能提高运算效率。
陈茜: 你们设想让AI系统长时间自主运行,产生超出人类预想的新思路。但超出预想和失去控制之间的边界在哪里?
田渊栋: 主要是可解释性。如果知道模型在发现过程中找到了什么,可以让专家(human)来评估。如果模型本身的机制能够被审查(inspect),就能判断模型究竟是越界了还是发现了新东西。甚至可以用另外一个模型去验证它。我们希望模型找到人类做不到的事,同时保持安全,就得知道模型是怎么想的,有没有疯狂的想法。
陈茜: 你曾谈到用 GPT-5 时的感想,发现模型缺乏高层人类洞察力和专业知识。RSI的路线恰恰是要自动化人类的洞察力,怎么解释这后面的矛盾?
田渊栋: 正因为现在AI做不了,所以我们希望AI能做。这是一个很深的阶梯,不是0到1的突变。也许AI今天能写代码,但读不了论文(paper);明天能读论文,但理解不了问题本质;后天能理解一点。阶梯能爬到什么程度我们不知道,但每往上爬一点都会带来大量的应用场景。
陈茜: 如果最终目标是10,我们现在大概在什么阶段?
田渊栋: 也许我们现在在1和2的位置上,甚至可以说是0.5,非常早期。如果说人类的边界是10,翻过那座山之后也许还有100,那部分我们不知道。在那个时候,人类边界会往上走,因为AI能力已经超过以前的最优水平。像OpenAI最近发现能证明一些非平凡的定理,这种新闻频次越来越快了。
潜在空间推理与自动科研商业化
陈茜: 你在Meta比较重要的工作之一是 coconut(连续思维链),让AI在潜在空间做推理(latent reasoning)。在RSI还会继续推进吗?你怎么看当前的思维链(Chain of Thought, CoT)路线?
田渊栋: 我肯定还会做的。如果我们有一个很好的系统能够自动化研究理解,我们可以用它继续做研究。我们的研究更像是产品,本身可以发表(publish),至于怎么做出来的,可以作为我们公司的秘方(secret source)。
当前的思维链路线不是错的,非常实用。但是人类在思考问题时,最终还是需要一个非语言的媒介。我在思考问题时并不需要语言,很多时候有图像成分或说不清的思路,发现问题后写下来才变成语言。所以语言更多是一种解释。我们做coconut论文时也发现,通过潜在推理(latent reasoning)思考效率比语言高。因为每个潜在标记(latent token)里存的信息高于语言标记,可以同时存好几个不同思路。用语言想得人工一个字写下来,效率不一样。这也是为什么像 Looped Transformer 这样在潜在空间推理的结构也有很好效果。
陈茜: 听说 Anthropic 的 Mythos 模型用的是 Looped Transformer?
田渊栋: 这是一个可能的路径。大家看到 Mythos 在图搜索问题上效果比之前模型好很多,就在怀疑。但你去问 A 家的人,他是不会回答的。
陈茜: 之前分享过关于“顿悟”的研究,模型从记忆突然泛化的过程,最近有新进展吗?
田渊栋: 做肯定是会做的。“顿悟”是一个很有意思的问题,能解开神经网络训练过程的秘密。在这个设计下,数据不足时能量函数的最小值都是记忆解,数据多到一定程度,突然变成泛化的解,这就是顿悟。我们能算出如果总数据是 M 平方的数量级,就需要 M log M 数量级的数据来产生这个变化。
陈茜: 你们实验室会从预训练从头开始做吗?商业化方面有任何思考吗?
田渊栋: 我们都在尝试,预训练的好处是训练过程的损失曲线(loss curve)比较平滑稳定。商业化方面,我们团队一半人开过公司,讨论非常接地气,看什么能赚钱。自我改进这个方向有很多事情可以做,比如训练一个模型让大模型推理(large model inference)变快;找到新的训练方案(recipe)取得更好结果;对人类研究思维建模让AI做科研,这些都可以商业化。
陈茜: 为什么把自动化AI科研作为第一步,而不是更容易产生收入的To B或消费产品?
田渊栋: 容易产生收入的方向大家会担心你的技术下个月就被大模型取代,这是投资人的痛点。如果做一个语音陪伴或垂直聊天助手,很容易被一般化模型盖掉。我们把目标放长远,在这个自我进化的范式上花精力,范式不变公司立场就不变。
陈茜: RSI未来的具体应用场景是什么?
田渊栋: AI for science 是其中一个。如果对科学研究的过程建好模,就可以做AI for science去寻找新材料、新药,这是很大的市场。也能提高研究人员效率和大模型训练的效率。
陈茜: DeepMind 的 AlphaFold、AlphaEvolve 等也在做自主科研,AlphaEvolve已经能用LLM变异算法,你们的差异化在哪?
田渊栋: 大公司和小公司押注不一样。大公司人多,这只是一百个押注里的一个,不会给很多资源。小公司的使命就是做自我改进,会集中所有能力和资源专注(focus)做这事。而且 AlphaEvolve 还是用AI优化具体代码,我们希望AI优化自己。
陈茜: 为什么今年是做这事最好的时机(timing)?
田渊栋: 去年这个时候AI编程智能体(coding agent)还没成熟,还是用AI辅助编程(像 Cursor),大部分时间还是要人写。但去年年底跨过了突变点,让AI做事、人下达高层次(high level)想法的模式变得更有效率。大公司需要一两年适应新生产力工具,而小公司聚在一起很快能找到合作方法,这就是小公司弯道超车的时机。如果再过一年大家都适应了可能就晚了。
NeoLab 版图与大模型组织之争
陈茜: 你怎么看其他的 NeoLab?比如 Ilya 的 SSI、Yann LeCun 的 AMI Labs、David Silver 以及 Thinking Machines Lab?
田渊栋: Ilya 的 SSI 非常保密,不知道内部做什么。虽然融了钱,可能不够做一个极大规模的模型。他有可能在研究极大地提高训练速度和效率的新范式。VC投资很大程度还是投人。
Yann 是我以前的老板,他探索的是一个以前涉足不足的完全不一样的方向,比如视频和图像的世界模型。但我个人觉得语言跟视觉相比,上限可能更高。图像像素组合相对固定,而语言的信息流可以重新定义、无限嵌套、自指,有更深的信息。
David Silver 可能更想完全不用大模型,纯用强化学习左脚踩右脚。但在开放领域评价函数很难定义,需要极大算力。预训练的上限决定了强化学习的上限。强化学习是在有正确种子的前提下把好答案提上来,如果预训练没学好推理模式,强化学习再做也没用。
Thinking Machines Lab 的人机交互模型(Interactive model)能持续交互倾听,挺有意思的。
陈茜: NeoLab 的护城河到底在哪里?
田渊栋: 挑战在于如何在有限资源下高效产生研究进展。大厂可以花几百个 million 甚至一个 billion 堆叠算力。对小公司来说,必须思考成本和巧妙的方法绕开算力堆叠,这就要求有研究品味(research taste)。
大公司趋同化严重,高层追热点(比如都在做 coding agent),自上而下逼迫员工。员工没精力做跟大方向不一致的东西。小公司为了效益自然会选择不同的方向。
陈茜: OpenAI 跟 Anthropic 的比拼你会觉得是什么样的结果?
田渊栋: 很难说。OpenAI 以前战线长,现在聚焦了。Anthropic 叙事很猛,商业化收入(revenue)增长很快。一旦有收入准备上市,就会掉进资本叙事,要求削减开支(cost),稳定赚钱,这就跟以前“证明自己很厉害”的研究实验室逻辑不一样了。代码赚钱之后,竞争关键还是在产品上。
陈茜: Meta 最近推出了 Muse Spark,还强制蒸馏员工,引发了争议,你怎么评价?
田渊栋: Muse Spark 不错,特别是多模态理解能力,但比 Gemini 3 可能差一点。Meta 肯定还是先训练通用模型再微调,并没有放弃争夺最强模型。大模型里没有永远的赢家,大家都在犬牙交错往前走。
蒸馏员工这事说得比较赤裸裸。员工知道被“吸星大法顷刻炼化”然后踢出去,大家都不会开心。不太顾及员工感受,这在裁员中一直存在。但这可能是个大趋势,公司为了利益把数据拿到手无可厚非。但员工如果知道这条件,可能就不愿意好好工作,甚至故意埋雷投毒。
前沿大模型之争,其实最后变成了一个组织架构之争了。本质上是先进生产力和落后生产关系之间的矛盾。
AI 时代的职场生存法则与意义重塑
陈茜: 之前你说大家迟早全部都要失业,现在距离那个场景更近了吗?
田渊栋: 更近了。Meta、Amazon 都在裁人,因为 agent 确实能代替工作。AI 的能力大概相当于以前大厂的 Level 4 或 Level 5 工程师。这是客观事实。大家会发现跳槽到另一个大厂很快又被裁了。这就相当于一条鱼在水坑里跳,但水越来越少,你最终一定要变成一个四维生物(长出翅膀)才能活下来。
大厂不需要那么多人了,大家就得找到自己的意义。以前教育把你变成大机器的零件,现在不需要你的零件了。这可能会变成一种新的文艺复兴,只有你愿意去探索的东西是最重要的,你找到别人没有的数据分享给大家,你就有价值。
陈茜: RSI 现在的企业文化是什么样的?
田渊栋: 说话比较直接(direct),反馈快。大家都是干活的,比较技术化,坐下来埋头用结果说话。我们现在大概25个人,未来可能会到40人左右。公司刚发布比较顺利,外界反响很正面。
陈茜: 你现在还有时间写小说吗?AI 对写小说有新灵感吗?
田渊栋: 最近比较忙。有点紧迫感,再不写我的灵感就要变成现实了。AI 可以帮忙写,但有“AI 味”,得想办法去掉。
RSI 办公室参观
陈茜: 欢迎来到 Recursive Superintelligence。你们什么时候搬进来的?
田渊栋: 大概两个月前。
陈茜: 很多新实验室都在旧金山城里,大家都可以远程工作吗?
田渊栋: 我们 2/3 的人在旧金山,1/3 的人在伦敦。一周可以有三天远程工作。我们没有单独的办公室,大家都坐在外面,交流比较方便,也不太开会,希望大家坐下来把事情做成。
📌 文中提及的人物和组织
人物: 田渊栋
公司/组织: Recursive Superintelligence, Meta, OpenAI, Anthropic, Google
产品/模型: Muse Spark, Claude Code, AlphaEvolve