“全世界最无聊的机器人”与真实部署的唯一标准
《纽约邮报》最近有一篇报道,标题叫作“全世界最无聊的机器人”。面对这个评价,这家公司的创始人们却认为,这是“对一家机器人公司最高的赞美”。这家公司就是 Dyna Robotics。
在看多了机器人跳舞、打拳、甚至跳钢水等酷炫视频的当下,Dyna 的表现确实显得很“无聊”。此前发布的 Dyna-1 主攻叠毛巾和叠衣服;这次发布 Dyna-2 之后,他们的新机器人 Taku 则走进了洗衣房,默默地把脏衣服放进洗衣机、操作机器,再把洗好的衣服拿出来送进烘干机,烘干后再拿出来、折叠整齐并摆放到架子上。联合创始人 Jason Ma 表示,因为机器人如果真的开始投入实际工作了,它本来就应该是无聊的。
在这份“无聊”的背后,真实部署是衡量机器人的唯一评估标准。如果机器人无法落地,核心问题并不是因为它缺少双腿或者缺少灵巧手,而是因为底层模型不够好,整个系统还不够完善。
在谈到 Dyna-1 长达十个月的实际部署(deployment)时,外界常将其比作“苦涩的教训”(Bitter Lesson)。但团队更愿意将其称为“苦乐参半的教训”(Bittersweet Lesson)。所谓“Bitter”,在于实际部署的难度远超最初的想象;而“Sweet”则在于,正因为困难重重,团队才必须全力去攻克它。一旦把这些硬骨头解决掉,就会大幅领先于其他同类公司。只在一处进行单台部署所遇到的问题,与同时部署 10 台、100 台乃至 1000 台时所暴露出来的状况是截然不同的;每把规模扩大(scale)一次,就会发现全新的问题。作为一个具身智能公司,必须具备坚定不移的信念(conviction),那就是真正把实际部署和规模化推进到底。
在机器人基模方面,Dyna 也在进行一系列前瞻性探索。在一年多前接受《硅谷101》采访时,Dyna-1 采用的还是视觉语言动作模型(VLA, Vision-Language-Action)。而到了 Dyna-2,他们决定推倒重来,重新做底层模型,转而采用世界动作模型(WAM, World Action Model)。与此同时,他们把预训练数据规模扩大到了 100 万小时的第一人称人类视频。他们发现,随着人类视频数据从 100 小时、1000 小时、1 万小时一路增加到 10 万小时乃至更多,模型不仅越来越擅长预测人类的动作,甚至连预训练过程中从未见过的机器人本体动作,其预测准确度也变得越来越高。Dyna 将这一现象称为跨本体迁移(cross-embodiment transfer)的规模定律(Scaling Law)。
通过这 100 万小时的第一人称数据,他们找到了机器人数据 Scaling Law 的端倪:从 100 小时、1000 小时、1 万小时到 10 万小时的每一个阶段,都验证了数据规模越大效果就越好的规律;每一次把数据规模扩大 10 倍(10X),模型的预测能力就会显著提升。如果将输入替换为第三人称视角的视频,虽然理论上应该同样存在规模定律,但其增长曲线的斜率(slope)可能会有很大不同。至于当下机器人行业是否已经迎来了类似大语言模型的“GPT-3 时刻”,在 Dyna 看来,机器人领域究竟有没有所谓的“GPT moment”,其实并没有那么重要。
时隔一年半,《硅谷101》再次回访 Dyna Robotics。他们不仅搬进了新办公室,对模型、数据以及机器人的整体理解也发生了深刻变化。上一期节目采访了联合创始人 York Yang,而本期节目则与联合创始人 Jason Ma 展开深入对谈,从技术路线与实际部署的视角,复盘 Dyna 在过去两年中所经历的挫败、教训、反思与优化,并透过 Jason 的视角,深入理解当前硅谷具身智能行业正在发生的核心变革与演进趋势。
硅谷机器人密集发布的背后:从演示到商业落地的拐点
在访谈现场,除了主持人外,还有一位共同主持(co-host)张君武。君武目前在 Blue River Technology 担任机器人工程师,同在机器人一线研发领域,以便就专业技术细节展开深度探讨。
针对 Dyna 最近的一系列新动作,以及硅谷近期众多机器人公司密集发布新模型、新 Demo 的热闹现象,主持人首先提问:当前机器人行业是否迈入了一个全新的里程碑阶段?为什么各大机构和团队会在近期呈现出如此集中的成果发布?
Jason Ma 认为,要真正把通用机器人做下去,行业至少还需要迎来一到两个关键技术突破。目前很多团队在总体大路线上是高度一致的:第一步必须是扩大数据规模(scale data),全力把高质量数据量做上去;第二步则是希望把模型中的一些关键能力切实激发出来。此外,时间窗口也是一个现实因素,暑期通常是行业对外展示最新进展的理想节点,因此各家都集中把研发成果推向台前。从宏观态势来看,整个机器人领域正在经历一个至关重要的转折期,即逐步从停留在实验室的演示效果(Demo),走向真正的商业落地应用。Dyna 团队在商业落地推进方面投入了大量资源与精力,当前正是投身机器人领域非常令人振奋的阶段。
谈及当前行业所处的具体时间点,如果与大语言模型(LLM)的发展进程做横向对照,常有人提出行业是否正逼近类似“GPT-3 时刻”的阶段。Jason 评估指出,若严格类比,机器人目前大概处于相当于 GPT-2 到 GPT-3 之间的过渡阶段。
从纯粹的数据规模维度来衡量,机器人领域当前所拥有的数据量,相较于 GPT-3 阶段大语言模型所吞吐的互联网文本体量,整体依然要小得多。但机器人与纯语言模型存在着本质区别:对于机器人模型而言,即便数据规模尚未达到通用语言模型的量级,它依然可以在具体明确的指令、特定限定的场景(specific setting)下扎实完成既定任务;而对于语言模型来说,如果它无法做到与人类流利且高质量地自由交谈,其实际能力就很难真正派上用场。因此从产品形态和交互逻辑来看,机器人行业是否一定要追求一个标志性的“GPT moment”,实际上并没有想象中那么关键。
关于行业是否必然存在“GPT moment”,不能简单一概而论,需要结合具体的工程形态来看。在具身智能兴起之前,自动驾驶(autonomous driving)领域走过的路径就是最直接的参照物。在自动驾驶行业,过去几乎没有人会去专门讨论或等待一个所谓的“GPT moment”。事实上,像 Waymo、特斯拉等领头羊企业,早在十多年前就已经能够做出效果非常惊艳的 Demo。然而,从跑通一个酷炫的演示 Demo,到真正让无人车在旧金山(San Francisco)街头安全商业化运营、让普通市民随手打上一辆 Waymo,这中间横跨了极为漫长的距离。
在真实物理世界中进行技术与产品的闭环迭代,本质上是一个极其漫长且复杂的工程过程。尽管具身智能今天所能依托的技术工具和底层基建,相比当年自动驾驶刚起步时要先进得多,但这个在真实物理环境中反复试错、填坑、打磨系统的必经之路是无法绕过的。它不可能像纯软件的语言模型那样迅速普及——因为全球用户早已普遍拥有了智能手机和个人电脑,只要打开网页访问 ChatGPT,就能立即零门槛地享受到软件智能;而对于具身智能而言,如何将模型中的智能无缝映射并部署到复杂的实体世界中,本就是一个极具挑战性的核心难题。
模型、数据与硬件一体化:为什么不做纯“大脑”公司
在探讨近期技术演进时,数据规模的突破与底层模型的革新固然是推动机器人向前迈进的两大关键支柱,但 Jason 特别强调,还有一个同等重要、绝不可忽视的要素,那就是硬件本体。
如果没有过硬的硬件系统作为承载,无论算法模型在理论上有多么出类拔萃,在物理世界中都完全无法直观展现出它的强大之处。举个极端的例子:如果底层的硬件本体只有 5 个自由度,受限于物理机构,它在现实中就只能执行最基础简单的夹取动作,模型再聪明也无济于事。因此在具身智能体系中,模型、数据与硬件本体这三者必须紧密耦合、协同演进,三者同步向前跨越,最终才能打磨出真正能够走入千家万户、服务大众的成熟产品。
这里的“硬件”概念具有多重内涵:它首先指向机器人本体的设计本身;其次是指能够支撑本体进行规模化量产(scale)的成熟供应链体系;更深层次的,则是贯穿在整个硬件研发中的运动控制与闭环设计。目前市场上虽然涌现出了各种形态各异的机器人本体,但在机器人研发的过程中,能否将机器学习和人工智能的前沿理念深度融入到硬件设计中,能否把在真实场景下部署模型所积累的第一手实战心得反哺给硬件的结构迭代,并将算法与硬件做成完整的正向反馈闭环,构成了极高的竞争壁垒。
这一点折射出硅谷机器人行业的分野。此前 Dyna 的另一位联合创始人 York Yang 曾将硅谷当前的机器人赛道划分为三大流派: 第一类是“模型优先”(model-first),专注于做通用具身大脑,例如 Physical Intelligence(π)等公司; 第二类是“硬件优先”(hardware-first),专注于做机器人本体研发; 第三类则是“一体化集成”(integration),即同时兼顾机器人大脑与硬件本体的软硬件全栈自研。
Dyna 从一开始便坚定地选择了第三条软硬件全自研的技术路线。Jason 阐述了背后的底层考量:当最终要把机器人智能真正交付并部署到客户场景中时,客户采购付费的对象绝不仅仅是一个孤立的算法模型,模型在整个工业交付的技术栈(stack)中仅仅是一个组成部分。在与大量一线客户的实际沟通中,客户根本不在乎你底层究竟使用的是视觉-语言-动作模型(VLA)还是某种世界模型(World Model),他们甚至完全不了解这些技术概念的名词差异;客户最终唯一在意的,是在他们真实的业务场景中,这台机器究竟能不能高可靠地完成那些复杂、多变、充满不确定性的现实作业任务。
基于解决终端物理任务的目标,必须将具身大脑与硬件本体深度绑在一起协同设计,才能激发出最佳的系统表现。从更底层的技术机理来看,很难将模型、大脑与机械本体彻底切开、各自独立做出一套极其通用的通用方案。因为在真实物理世界中,物理层面的智能(physical intelligence)本质上是大脑与本体高度耦合、协同作用的产物。正如人类大脑也是历经长期进化,深度适配(adapt)了人类自身的骨骼、肌肉与感官本体一样,软硬件天然是一体的。
在外界的印象中,Dyna 展现出了高度的务实与克制。这种特质清晰地反映在他们的技术路线设计与本体演进上:他们并未盲目追逐那些为了抓人眼球而设计的空翻、跳舞等花哨动作,而是选择从叠毛巾、叠衣物这类看似枯燥但极具落地价值与商业化潜力的场景切入。
Jason 解释道,从纯学术研究的视角来看,机器人的研究领域极其宽广,几乎任何一个细分技术课题都可以让研究者心无旁骛地钻研数年之久。然而,当前的机器人学习(Robot Learning)技术已经推进到了能够叩开商业化大门的关键窗口期,这就迫切需要团队从真实产品(product)的视角去倒推核心诉求,清晰界定哪些技术难题是实现商业闭环必须跨越的,而哪些问题在当前阶段即使不解决也无关大局。这种产品导向的思维,帮助团队在整个技术研发体系中建立了科学严谨的优先级排序(prioritization),确保团队在创业两年的成长轨迹中,无论处于哪个关键节点,都能做出更加审慎、正确的工程判断与技术取舍。
团队此前对外展示的各项能力与 Demo,全部紧扣真正实现工程落地所必须具备的底层基础能力,绝非为了拍摄一条炫酷吸睛的宣传视频而刻意为之。当前具身智能赛道异常火爆,许多团队难免会滑向以演示为导向(demo-driven)的运作模式,但这种方式往往本末倒置。Dyna 的工程逻辑是:如果未来的终极目标是研发、生产并把成千上万台机器人真实部署到一线去常态化作业,那么有哪些底层的硬核技术挑战是我们必须从今天、从当下就开始着手解决的?正是这种从终局倒推的第一性原理,决定了 Dyna 全部的研发策略与路径规划。
硬件选型的第一性原理与落地系统的可观测性
针对硬件协同设计(co-design)以及客户现场的实战经验,张君武基于自己此前在物流自动化、分拣抓取领域的工程经历追问:B端客户对自动化系统的稳定性和交付要求往往极其苛刻。Dyna 决定亲自下场研制硬件本体,究竟是一开始就确立的既定规划,还是在深入走访客户现场(customer site)遭遇挫折后,被教训倒逼做出的调整?
Jason 回应称,这两方面的因素兼而有之。从第一性原理出发,如果要打造可商业化的通用机器人硬件,首先必须回答的问题是:训练数据从何而来?模型依托什么样的数据进行驱动?基于数据的来源与特性,反向指导硬件形态的结构设计。在 Dyna-2 中,团队在模型预训练阶段引入了海量的人类第一视角操作数据。如果预训练的本质是让模型向人类学习各种物理操作,那么在实际落地部署时,机器人的机构形态与人类物理特征越接近,从人类数据向机器人本体的迁移学习(transfer)效果就会越好。
然而,在设计人形机器人时,不可避免地会面临一系列严峻的工程权衡(trade-off):到底要不要配备双足?到底要不要直接采用多指灵巧手?Dyna 在激进与实用之间找到了一个务实的平衡点(trade-off point):现阶段采用“半人形上半身加移动底盘”的硬件构型,既能最大程度汲取人类第一视角海量数据的预训练红利,又能确保整机在当下技术成熟度下具备即刻开赴真实场景进行实际部署的可靠性。
这正是 Dyna 没有一步到位选择全人形(humanoid)、既没有采用双足步行也没有直接标配多指灵巧手的原因。这种半人形加底盘的构型,在现阶段已经足以胜任大量复杂的现实工作任务。在团队看来,当前机器人系统如果无法在客户现场稳定落地,其根本瓶颈绝非在于缺少两条腿或缺少两只多指手。虽然 Dyna 内部也设有专门团队针对灵巧手展开大量前沿探索,但目前严格将其限定在纯基础研究(fundamental research)范畴内,并没有急于将灵巧手推上商用落地一线的计划。因为就当前的供应链与技术现状而言,多指灵巧手的硬件机构成熟度与抗造耐用性,还远远没有达到能够直接投入严苛生产环境稳定作业的标准。
在实际操作中,目前市面上许多配备灵巧手的演示视频,为了保证成功率往往不得不把操作动作刻意放慢。其核心原因在于,利用灵巧手进行接触操作,特别是进行遥操作(teleoperation)数据采集时,其控制复杂度与协调难度相比工业夹爪要高出数个数量级;要让操作员以极高的速度流畅遥控灵巧手极其困难。这也是为什么很多搭载灵巧手的 Demo 节奏缓慢的物理制约所在。
当谈及“如果系统无法落地,不是因为手脚硬件形态,而是因为模型还不够好”时,Jason 进一步纠正并深化了这一表述:核心不是单纯的模型好坏,而是“整个工程系统还不足够好”。
一套机器人系统究竟能不能在生产环境稳定落地,绝不仅仅取决于核心算法模型在单点任务上能否达到接近 100% 的准确率。在 Dyna 团队此前发布的部署技术博文中曾系统性阐释过这一问题:系统要想长期稳定运行,必须具备极高水准的可观测性(observability)。换言之,运维与研发人员必须清楚掌握:在整整一天 24 小时的运转中,这个模型究竟执行了哪些具体决策?机械本体真实运行了哪些动作路径?机载计算单元内部是否存在计算、通信或内存的资源争用(resource contention)?系统底层是否存在偶发的硬件通信丢包或时钟不同步?这些深度工程维度的指标,对于严苛的商业化部署至关重要。Dyna 无论是在升级迭代机械本体,还是在部署发布新版算法模型时,都必须把这一整套完备的可观测性基础设施铺设到位,从而在客户真实作业现场建立起全方位的闭环监控与诊断能力。
从围棋、强化学习到人类视频先验的学术探索
Jason 的个人研究品味(taste)与学术成长轨迹,在很大程度上奠定了 Dyna 今日的技术路线底色。
在被问及最初对机器人产生浓厚兴趣的起点时,Jason 回忆道,这始于他在宾夕法尼亚大学(UPenn)读博的第一年。当时他的博士生导师专攻机器人与强化学习(Reinforcement Learning, RL),而宾大拥有享誉业界的 GRASP 实验室(General Robotics, Automation, Sensing and Perception Laboratory),具备深厚的机器人研发底蕴。刚进入博士阶段时,Jason 最早想深入探索的其实是纯粹的强化学习。
尽管在本科阶段涉猎探索过许多不同方向,并未过早产出大量论文,但他始终觉得强化学习的逻辑机制非常自洽、合乎常理(make sense),因此决定在博士阶段深入深耕。追溯更早的渊源,Jason 在国内成长时期,自幼接受了大量的围棋训练。当 AlphaGo 横空出世、在全球掀起人工智能浪潮时,正值他在美国读高三。看到极其复杂的围棋博弈竟然能被强化学习算法彻底攻克,他受到了极大的震撼,当即立志进入大学后一定要亲手探究这套精妙的算法体系。
回顾当年 AlphaGo 与李世石的五番棋对决,最终以 4 比 1 的总比分取胜,对从小看着李世石与古力巅峰对决长大的 Jason 而言,感到不可思议。尤其是第二局中 AlphaGo 弈出的那步颠覆人类数百年棋理常识的“第 37 步”(神之一手),更是展现了强化学习在广阔解空间中探索出全新策略范式的强大威力。这种震撼与如今看到大语言模型能够独立解出人类顶级数学难题是完全相通的:在边界明确、规则固定的场景中,只要能够给出清晰、确定的奖励函数(Reward Function),AI 算法所搜索并演化出的解法,必然会超越人类经验的局限。这个底层逻辑在过去十年间始终未曾动摇。
然而,当强化学习从棋类博弈走向实体物理系统时,情况发生了根本性变化。虽然机器人和自动驾驶早期都被视作强化学习的核心应用领域,但 Jason 强调,在机器人领域应用强化学习必须保持高度审慎。
强化学习之所以能在棋盘或视频游戏中取得辉煌成功,最关键的前提是拥有极其完美、高保真且能够无限低成本运行的模拟器(Simulator)。在这些场景中,游戏环境本身就是一个纯天然的高精度模拟器;即便是大语言模型,其自回归的文本生成机制也可以完美模拟语言的逻辑推进过程。但是在实体机器人领域,要针对绝大多数复杂的实体操作任务构建出一个足够真实的物理模拟器,难度登天。
因此,目前行业内看到教机器人双足奔跑、四足跳舞等偏向大关节动力学的控制能力,基本都是在高度理想化的模拟器里依靠强化学习疯狂试错训练出来的;但一旦涉及到精细抓取,或是涉及复杂摩擦力与形变的大量密集接触操作(contact-rich manipulation),现有仿真环境与真实物理世界之间仍存在着巨大的“仿真到现实”(Sim-to-Real)鸿沟。此外,Jason 非常不推崇直接在真机硬件上硬跑强化学习算法,他自己早年曾亲自尝试过这一路径,但真机试错完全无法实现类似于模拟器中成千上万个虚拟环境并行加速运算(parallel)的规模化吞吐,其样本效率极其低下。
这也解释了为什么 Dyna 在创立初期兼顾商业化落地与技术验证时,果断选择了叠毛巾和折叠衣物这类布料柔性操作作为切入点。布料操作容错率极高,哪怕控制算法在局部发力上存在轻微偏差,毛巾也不会像玻璃或塑料瓶那样被捏碎损坏;相较于抓取硬质药品瓶等高危场景,机器人操作毛巾即便偶尔出现失误,也绝非灾难性故障,最坏的结果不过是把衣物拉扯褶皱或撕坏,而在实际运行中甚至连这种情况都极少发生。
在学术界,许多从事强化学习研究的人往往倾向于沿着游戏通关、大模型的轨迹一路走下去(如 DeepMind 的演进脉络),但 Jason 始终专注于机器人领域。在博士阶段的后半程,导师建议他必须在一根长板路线上把最顶尖的工作做深做透,这种集中精力攻克单一领域核心痛点的投资回报率(ROI),远高于在十几个互不相干的细分领域泛泛发表普通论文。
在确定研究选题时,Jason 表现出了鲜明的偏好:他更倾向于挑战那些彻底脱离现有基线方法(baseline)、问题定义(problem statement)极其新颖的前沿方向。他认为,机器人学习领域之所以迟迟未能迎来系统性突破,一个核心原因在于大家对于机器人底层要解决的问题定义甚至尚未达成统一共识。如果在大家都没有共识的语境下去复现前人早已定义好的问题、仅仅追求在指标上刷榜微调超越基线,学术价值十分有限。
立足于第一性原理,若要在实体机器人上真正跑通强化学习,最大的瓶颈究竟在哪里?答案显而易见:实体世界根本无法预先设定精准的奖励函数(Reward Function)。在围棋或游戏中,胜负规则和积分就是现成的奖励函数;但在现实生活中,无论是教机器人抓取餐具、切菜做饭还是洗护衣物,真实物理世界不会自动给予数值奖惩,工程师也根本不可能依靠纯数学或手工硬编码的方式,把“切菜”这种充满连续形变与状态不确定性的行为准确写成工程奖励代码。这个瓶颈若得不到有效解决,强化学习在复杂操作领域就寸步难行。
加之在很多复杂的物体操控任务中,现实世界根本不存在所谓唯一的“最优解”——例如去桌上拿一个水杯,无论是绕左侧抓取还是从右侧切入都是完全成立的,无法用单一函数定死。为了解决这个奖励函数匮乏的难题,Jason 在 2022 年于 Meta 实习期间发表了著名的代表作《VIP》。该研究的核心思想是直接从海量人类第一人称视角的活动视频中提取行为先验(prior),学习出一个泛化能力极强的通用奖励模型(Reward Model),即通过深度学习理解人类在物理世界中完成各项动作的时序演进规律,并将人类的行为范式作为引导实体机器人奖励计算的评价标准。
在 2022 年前后,Meta 的基础人工智能研究院(FAIR)处于基础研究环境极为优渥的黄金时期。《VIP》论文所针对的关键问题,正是如何从人类视频的时序推进中抽象出状态价值(value):以抓取物品为例,人类动作从第一帧图像逐步推移到最后一帧图像,构成了一个连贯的目标导向过程;通过精准理顺并编码这一物理演进过程,模型就能对实体机器人执行同类任务的当前状态进行客观评估,判断机器人在画面某一瞬间究竟完成了总体任务进度的百分之多少。这种无监督/自监督的方式,为实体机器人学习奖励函数提供了一条极具可规模化(scalable)拓展潜力的全新技术范式。
从 Eureka 奖励生成到新一代多模态模型的演化
在 2022 年那个节点,机器人领域的本体遥操作数据极度匮乏,远非当下的规模可比。面对这种极其贫瘠的数据生态,不依赖昂贵稀缺的真机遥操数据,转而向蕴含人类物理常识的海量人类视频中寻求通用的奖励函数先验,成为了当时最合乎逻辑的技术破局点。而人类最终期望机器人去辅助解决的物理任务,本质上也正是人类在真实世界中需要处理的各种现实工序,因此以人类视频作为无监督学习的底层基石极为自然。
当时学界能够获取的大规模第一人称视频资源屈指可数。2021 年同样由 FAIR 联合全球机构开源的 Ego4D 数据集,算得上是历史上首个具备规模效应(large-scale)的人类第一视角(Human-centric)视频库。在当时看来,Ego4D 所包含的 3000 小时视频已经庞大得惊人,然而与如今 Dyna-2 所吞吐的 100 万小时人类预训练数据相比,3000 小时的数据量级已经显得微不足道。
虽然从当年的学术研究到如今 Dyna-2 的技术演进存在着某种思维上的延续性——即都在探索如何低成本地利用互联网更丰富、更易采集的现成视频数据形态来赋能具身智能,但 Jason 坦言,在创立 Dyna 之初,自己并没有刻意把早期的论文方法直接生搬硬套到公司的商业化产品中。从事机器人工业化研发必须保持高度务实。很多前沿论文在提出时往往由于缺乏配套的基础设施而过于超前(too early for its time)。纯学术研究可以追求极致的概念验证,但要打造能够走出实验室的工业级产品,必须优先挑选那些被反复验证百分之百扎实可行、且具备明确扩展路径的技术架构进行率先放大(scale up)。
例如他在 2023 年于英伟达(NVIDIA)参与完成的里程碑式工作《Eureka》。在当时,这项研究凭借“让机械手在仿真中学会转笔”的惊艳 Demo 引发了极大的学术轰动。但这项研究最本质的学术贡献,在于首次成功探索出利用通用大模型全自动生成复杂物理任务奖励函数(AI automatically generate reward function)的全新路径。
在那个阶段,团队就已经开始借助 GPT-4 的推理能力来直接编写奖励函数代码(reward code)。需要厘清的是,当时在 Eureka 架构中,GPT-4 扮演的角色是顶层的“代码编写者”而非底层的“动作控制策略”(Policy),它并不直接负责驱动机器人的底层伺服执行机构。具体运行流程为:先由 GPT-4 根据任务的自然语言描述生成相应的奖励函数源代码,随后将这段代码注入到物理仿真引擎(Simulation)中驱动强化学习算法展开自我演化;当强化学习演进出对应的控制策略后,系统根据该策略在仿真环境中的运行性能与指标反馈,将详细的执行结果回传给 GPT-4,促使 GPT-4 进行反思并重写优化下一代奖励函数代码。这套机制在本质上形成了一个闭环的“递归自我改进”(RSI, Recursive Self-Improvement)演化链路,不断迭代打磨奖励逻辑,只是当时这一前沿理念尚未被广泛冠以如今流行的高大上名词。
当时在仿真环境中学会这一高难度转笔动作的本体,是来自英国 Shadow Robot 公司的灵巧手(Shadow Hand)。从纯理论层面分析,这套自演化策略在真机硬件上也具备可实现性,但在现实中若要将转笔控制迁移部署至真机,背后所涉及的软硬件工程量极其庞大。加之在当时,市面上几乎没有成熟多样的商业化灵巧手可供挑选,Shadow Hand 单只采购售价便高达数万美元,对于学术研究而言资源门槛极高,因此团队明智地选择在仿真器内先行跑通核心构想。
在 Eureka 之后,团队紧接着推出了后续工作《DrEureka》,成功将这套自动化闭环机制跨越到真实物理世界:系统通过完全由大模型自动生成的域随机化(Domain Randomization)和奖励函数,成功训练出一台四足机器狗,让它能够在极度不稳定的瑜伽健身球上完成动态平衡保持与自主前行。这一步标志着从纯虚拟仿真向复杂物理实体成功落地的重大跨越。
针对近期如 GPT-6 Astra 等具备强大空间推理能力的新一代大模型在机器人领域激起的广泛探讨,张君武进一步发问:这类具备多模态能力的顶级通用模型对机器人行业的赋能影响,与当年使用纯文本的 GPT-4 生成奖励代码相比,在技术机理上究竟发生了何种根本性的范式跃迁?
Jason 剖析指出,两者最根本的区别在于自主执行的端到端能力与空间理解维度的代际跨越。当年使用 GPT-4 时,整个系统架构需要依赖研究团队自己编写大量的脚手架胶水代码(Eureka 后来完整开源了这套自动化代码库),其核心在于人类工程师如何巧妙地促使 GPT-4 自主写出合格的奖励函数,并小心翼翼地把这些代码动态编译、嵌入到仿真引擎的 API 体系中;而到了新一代大模型时代,只要用户以人类语言清晰下达最终的目标指令,模型本身就具备一口气自主端到端完成大量复杂工程任务的综合能力,甚至能够完全独立完成整个仿真环境的配置、依赖库安装以及自动化管线调优。
更为核心的本质飞跃在于模型底层感知维度的蜕变。当年的 GPT-4 本质上仍然是一个受限于离散符号世界的文本语言模型,其本身对于三维连续物理世界的空间拓扑结构、物理约束以及动态交互的感知理解能力极其薄弱;而新一代前沿模型从底层便内生具备了极其精细深刻的三维空间理解能力与物理几何推理能力,这使其能够直接跨越纯符号代码编写的间接逻辑,直接在复杂的几何与物理空间中高效求解、完成各类复杂的实体任务规划。
空间推理与智能体机器人的奖励函数目标
在对 spatial reasoning(空间推理)要求很高的机器人任务中,这两者之间存在着本质的区别。关于在未来会有哪些领域更多用到像 GPT-6 这样的 agentic robotics(智能体驱动的机器人技术),以及哪些是 AI 包括 agent 在训练方面会更加有帮助的问题,其实在我看来没有很大的本质区别。最重要的一点,是我们必须给这个模型或者给这个 agentic system(智能体系统)一个奖励函数。就比如说你训练一个模型,你有 training loss(训练损失),你可以跟 GPT-6 说:“你就一直改参数,改到你这个 training loss(训练损失)达到比如说 2.3 左右。”如果你要让它做 agentic robotics(智能体驱动的机器人技术),也是同样的概念,比如说让它一直写 code(代码),写到把这个任务做出来为止。所以最终的核心,就是要给这个模型一个明确的目标,奖励函数在其中至关重要。
从手搓奖励到 Eureka:仿真环境中的转笔任务探索
在 2023 年英伟达的那条技术路线上,整体风格非常英伟达,大量地依赖仿真(simulation)。当时 Jim Fan 与我在这篇 paper(论文)上也有深度合作,Jim Fan 是那篇 paper 的 last author(末位作者),我当初就是跟 Jim 和 Yuke 在 NVIDIA 合作的。但当初我们做这个项目的时候,其实并没有预先规定必须使用仿真。因为当初我先做了 VIP,尝试从人类的视频中去学习奖励函数。所以我们一开始想做转笔任务时,最初的思路也是先用人类的视频去学,看看能不能把转笔的奖励函数(reward function)学出来。
但在尝试这个想法的过程中,我很快发现了一个现实障碍:首先我手头并没有一个真正的灵巧手硬件,可以在真机上直接验证这个转笔的 policy(策略)。因此我就想,如果真机是 bottleneck(瓶颈),那我们就必须从 simulation(仿真)里开始推进。然而从仿真开始做,问题同样非常明显。在 sim(仿真环境)里面,我甚至不知道这个模拟器到底能不能训练出一个可以转笔的模型。因为做模拟器、做仿真在机器人领域最大的问题,就是对于某些特定任务,你事先完全不知道模拟器本身能不能把它模拟出来。转笔这个任务在当初因为从来没有人做过,所以完全是一个未知的领域。
面对这种情况,我们最初的想法是首先手搓一些奖励函数。但手搓奖励函数显然是没有出路的,必须依靠模型自己去开发、生成奖励函数。基于这个思路,最终就演化成了 Eureka 这项工作。
Google GVL 研究与视觉语言模型标注的商业化
后来我去到了 Google 并做了 GVL,这在某种程度上又是回到了之前 VIP 工作的延续。因为我当初读 PhD 期间的大部分工作,主要就是为了解决机器人领域中“奖励函数以及其他标注数据从何而来”这个核心问题。我加入 Google 的时候,正好赶上 Gemini 1.5 刚刚发布。其实 Gemini 的 multimodal(多模态)能力一直都表现得非常不错,所以我就思考有没有可能把这些能力运用到机器人任务中。
于是我设计了一套算法,可以直接使用 VLM(视觉语言模型)进行 in-context learning(上下文学习),进而直接把奖励函数写出来。当时跑出来的实际效果非常好,说实话我当时自己都感到挺惊讶的。我甚至会反问自己:“为什么这套东西会奏效?它按常理应该不奏效才对,这种特定机器人的逻辑肯定不在它的预训练数据里。”
到了现在,行业内涌现出了很多创业公司专门在做类似 GVL 的方向,利用 VLM(视觉语言模型)去做标注、标奖励函数、标 subtask annotation(子任务标注)。所以平心而论,GVL 这种技术路径可能比 Eureka 和 VIP 都更加 commercialized(商业化)一些。今年市场上确实冒出了很多专门做数据的公司,他们很大的一条商业落地路径就是把数据卖给机器人公司,最近非常赚钱。这也再次印证了在具身智能领域,数据标注始终是一个大问题,因此利用 VLM 去做标注确实是一条非常有效的路径。
从学术界到创业:寻找真实客户与现实反馈
关于我为什么在 Google 之后选择出来创业,而不是直接留在那三家我实习过的大厂,这主要是因为我之前已经做了很多的 research(学术研究)。我深刻感觉到,自己其实更想在真实世界中产生更大的实际影响力。对我个人来说,单纯在实验室里写 paper(论文)这件事已经没有太大的吸引力了。我认为机器人具身智能的真正战场绝不在实验室里发 paper,而是必须真正把机器人带入现实的真实应用场景中,去实地验证它到底能不能奏效。
在学术界的时候,无论是在这些 industry lab(企业研究实验室)还是在大学里,我都写过很多论文、做过很多酷炫的 demo。但回过头看,我常常觉得这很像是在自己给自己出题、自己给自己的作业打分,完全没有一个真实的客户,也没有一个真实的 ground truth(真实基准)。当时在机器人学术界,几乎每一篇 paper 都会搞一个新的 demo,大家都在努力把演示做得更酷炫。但所有这些任务,本质上都是研究员自己凭空猜想出来的。比如我在 DrEureka 那个工作里,教一只机器狗怎么在一个球上踩球保持平衡,在我做之前确实没有人做过。当初我想出这个点子纯粹是为了验证算法,觉得这个很酷,但它跟实际工业或商业的真实应用场景完全是两码事。我就是想让自己的 research 产生更大的现实影响力,所以觉得去做一家 startup(初创公司)——尤其是像我们这种把产品和研究紧密结合在一起的创业公司,个人的成长和实际产生的 impact 都会更高。
大厂的实习经历对我后来的创业带来了几点至关重要的帮助。第一点首先是人脉资源。我之前的这些 mentors(导师),如今也都是在机器人领域极具影响力的人物,我和他们一直保持着非常良好的关系。第二点在于,我在三个不同的大厂以及整个 PhD 期间,从来不是固守某一种单一的技术方法死磕发论文。例如我探索过从人类视频中学习,尝试过直接使用 VLM 做推理,也深入研究过基于模拟器仿真去生成奖励函数。正因为我的技术覆盖面比较广,所以在创业做技术决策时,我没有预设的偏见,不会教条地认为“我们必须只能从某一种特定的技术路线出发”。这让我能够保持客观(impartial),在公司的每一个不同发展阶段,冷静评估到底使用什么方法最合适。这种思维方式对我们公司的长期健康发展非常有帮助,避免了把所有筹码都孤注一掷地押在单一的技术路线上。
博士研究的价值:定义没有基线的新问题
针对当前许多正在读 PhD 或准备深造的同学的疑惑——如果现在的模型已经能处理大部分任务,模型层面是否还有新的 research 空间,是否还有必要读 PhD——我认为新的研究问题依然非常多。做 PhD 最核心的价值在于探索真正的新问题,而不是在已有的公开问题上去跟别人卷刷榜、争抢比现有基线高个两三分的分数。
我在回顾自己的 PhD 工作时就经常强调,你应该去写那种根本没有办法列出 baseline(基线方法)的论文。你必须去开辟、创新一个前人没碰过的新问题。如果这个问题定义得合情合理、能够 make sense,后续自然会有大批的人跟进(follow up)。就像我当初做 Eureka 的时候,领域内根本没有现成的 baseline,我必须自己去构建基线,因为在那个时间节点,从来没有人尝试从 language model(语言模型)中提炼奖励机制,或者去搞 RSI(递归自我改进)这种机制;做 VIP 和 GVL 也是完全相同的逻辑。把 problem statement(问题定义)想得极其透彻,这才是研究最重要的事情。因此作为一名 PhD 学生,最重要的任务是寻找崭新的真问题,而不是单纯去跟 GPT-6 或其他大模型在既有的 benchmark(基准测试)上去做对比,那样做的意义其实非常有限。
Dyna 创始团队结缘与互补分工
我是 2024 年 3 月份加入 Google 的。刚入职几周左右,我就认识了 Lindon 和 York。他们当时并不在谷歌,他们之前创办的硬件初创公司 Caper 已经被正式收购退出了。当时 Lindon 大概在迈阿密那边,York 好像在国内。他们并没有处于被收购后的悠闲休息状态,我们三个人都不是那种能闲得下来的人。当时其实是由投资人 Monica 牵线介绍我们认识的,Monica 之前是投资人,现在也已经全身心正式加入了我们团队。
我刚加入 Google 时,其实一直在认真思考下一步究竟要做什么,因为我内心极其渴望把 robot(机器人)带进真正的现实生产环境中,而不是继续关在实验室里自己编造任务。在交流中我发现,他们的想法与我的愿景完全能够走到一起。当时 Lindon 和 York 在上一个创业项目里就已经是联合创始人,项目成功退出之后,他们在构思下一个创业方向时决定进军 robotics(机器人)领域,因此需要一位专注于前沿模型研究的科学家,于是通过 Monica 找到了我。
在面临众多学术和初创机会时,我之所以选择加入 Dyna 并与 Lindon、York 走到一起,首先是因为我认为要把一家 robotics 公司做好,绝不能仅仅局限于学术思维。即便我是纯学术背景出身,我的终极目标依然是把一个模型和机器人本体打造成一个真正落地可用的商业产品。如果我们现在的团队全由纯研究员组成,那么整个创始团队(founder team)就会存在巨大的认知偏差(bias),从长远来看未必是最优的发展路线。其次,Lindon 和 York 曾经完整创办过一家硬件初创公司,而且做得非常成功。他们在商业运营和硬件落地等领域所积累的深刻认知,与我所掌握的前沿 AI 技术形成了极强的互补,这种互补性对于创业而言至关重要。
在目前的分工上,Lindon 担任 CEO,主要全面负责战略管理和对外 executive 事务,包括对外融资、人才招募以及把握公司宏观大方向。我主要负责技术路线,明确研究团队的具体研发方向、设定 technical milestones(技术里程碑),从技术架构上规划公司接下来要做些什么。而 York 是我目前见过的在工程(engineering)方面能力最顶尖的工程师之一,任何特别棘手、难度极高的硬核技术工程难题他都能搞定,他也同时统筹负责工程团队的日常管理。
我们三个人在平时必然会有争议。我认为争议不仅是必须的,而且是一件好事;如果一个团队完全没有争议,那只能说明沟通还远远不够(you don't talk enough)。争议绝对不是无意义的吵架,通过充分的争议,我们大家能够尽早暴露隐患、发现问题并合力解决问题,因为我们三人的共同目标极其一致,就是要把公司做好、做大。我们产生争议的地方通常集中在具体的技术路线与商业路径的选择上,大家可能会有不同的切入角度和考量,但最终这些分歧都能理性地达成共识并妥善解决。
商业与技术的交点:从折叠任务切入具身飞轮
把 Dyna 这样的具身智能公司做好,最难的地方就在于如何在商业落地和技术演进之间找到完美的共鸣点:你所选择的任务,既要能够切实行之有效地推动商业化实地部署,又要能反哺模型本身,帮助整个技术飞轮(flywheel)搭建得更加扎实高效。
这就是我们一开始选择折叠任务(folding)作为切入点的根本原因。我认为折叠是构建机器人基础模型(robot foundation model)最好的第一个任务。核心原因在于它具备极高的容错性——你在操作过程中无论怎么折,都不会把布料撕坏;它不像洗盘子这类任务,一旦失手打碎一个盘子,现场处理起来就会极其麻烦甚至引发安全事故。我们从这个既有商业需求又具技术容错性的角度出发,稳步定义了第一个任务和后续的第二个任务。随着现在公司体量的逐步扩大,我们后续的整体技术与商业策略也在进行相应的演进与调整。
回到 Dyna 刚刚起步的 day zero 阶段,在筹备发布 Dyna-1 时,我们选定了叠毛巾和叠衣服作为首发 demo。在那个时期,这个选择具有相当强的先驱性,我们的走红也正是源自叠毛巾的视频展示。虽然到了现在,在 WAIC(世界人工智能大会)和 WRC(世界机器人大会)上,几乎每家参展的机器人公司都在展示叠衣服和叠毛巾,但在当时,这是我们综合权衡了商业化落地可行性与前沿技术挑战后的审慎决策。
当时我们判断,利用大模型完成叠毛巾、叠餐巾这类任务在原理上是可行的。真正的核心挑战从来不是模型“能不能做”,而是能不能做到“100% 绝对稳定地完成”。我们在发布第一个模型时的核心主张就是:市面上虽然充斥着大量的 VLA(视觉语言动作模型)和通用模型(general model),但它们的实际任务成功率都达不到极高的标准。如果成功率很低,在现实商业环境中是没有任何实际商业价值的。因此我们的第一个技术突破,就是要把任务成功率硬生生推到 100%。在 Dyna-1 发布之后,行业内很多其他团队也开始迅速跟进,市面上陆续出现了大量主打可靠性(reliability)的演示,这充分说明了我们当初发布成果所带来的行业影响力。
坚持软硬一体:可靠性需要掌控全系统稳定性
在创业伊始,我们从未考虑过只做纯粹的 foundation model(基础模型)或者单纯的 intelligence layer(智能层)。当时市场上像 Physical Intelligence 这样的公司,从第一天起就确立了只做智能层、绝不触碰底层硬件的定位。但我们从 day one 开始,就明确打定了自研硬件的主意。
在起步初期没有任何自研硬件的情况下,为了先把模型快速跑起来,我们肯定也是先采购外部第三方的机械臂来进行算法尝试。但是要想把硬件真正做好,必然需要投入漫长的时间与精力进行深度打磨,这也是为什么直到最近我们才正式对外发布了最新的自研硬件。
我自己的体会是,在做分拣等机器人任务时,如果线束设计不合理,或者相机安装位置不当,很容易造成线缆受力过载,或者直接破坏机械臂每一次重复动作的一致性(consistency)与可靠性(reliability)。因此,为了实现极高的可靠性,必须在硬件层面投入极大的心血。因为可靠性不仅仅是指算法模型的可靠性,而是整个软硬件一体化系统(system)的整体综合稳定性。如果你只做上层模型而完全放弃对底层硬件的掌控,那么整个系统稳定性中极其关键的一大块拼图,你根本无法掌控。如果以这种割裂的模式去做实际落地的商业产品,后续在实际场景中会吃非常大的亏。
在最开始展示叠毛巾时,我们的设备甚至没有现代机器人常见的一体化底盘轮盘,也没有机器人的头部,本质上就是两根机械臂搭配夹爪。当时跟投资人沟通时,对方确实可能会觉得这种形态不够酷炫(fancy)。而且在那个时期,外界很多同行都在大张旗鼓地做双足人形机器人(humanoid),但我们完全没有受到这种外界潮流的干扰。
我们当然也在深入思考未来的硬件演进形态,但 Dyna 骨子里是一家非常务实的公司,我们绝不会盲目追求一步到位去做一个看似极其 fancy、但实际上根本没有任何商业落地可能性的硬件载体。我们极度推崇用敏捷迭代来持续推进技术发展的工程理念,绝不可能从零开始一步跨到一个所谓的终极硬件形态。跳跃式开发的中间试错成本与出错率极高,而且完全脱离了真实商业落地闭环所带来的实时反馈(feedback)。
在具身智能领域,“把技术做好”有时是一件很吃亏的事。比如为了把策略模型做好,你就必须在物理硬件上进行海量的评测评估(evals)。但如果你的硬件本体极其脆弱不稳定,你甚至连基础的 eval 测试都无法连贯进行,你根本无法判定当模型运行失败时,究竟是算法本身的缺陷,还是硬件系统出了物理故障。当前许多人形机器人都深受这个问题的困扰——底层系统太不稳定,进而对上层模型的迭代演进产生了极其严重的负面反馈(negative feedback)。
相比之下,我们选择在部署初期采用相对简洁可靠的成熟系统。这样一来,现有的商业化实地部署与模型算法之间能够迅速形成正向增强的数据飞轮;与此同时,内部团队可以并行(parallel)集中精力把下一代专业硬件打磨扎实,实现两条腿走路的并行推进。
除非任务本身明确要求跨越极其复杂的野外地形,或者需要超大范围的空间机动,否则在现阶段完全没有必要盲目上人形双足方案。很多固定在原地操作的人形展示,在工程上其实没有太大必要。在绝大多数室内、工厂或商业应用场景中,根本不需要双腿行走。当然,家庭场景是个例外,因为家庭环境完全是按照人类的身体结构设计的,人类有腿,家里会有客厅台阶、上下楼梯等复杂落差,轮式机器人在家庭环境中确实存在物理局限性。但是在工业或商业环境中,地面通常非常平整,尤其在美国,很多行业规范(regulation)本身就强制要求作业地面必须平整,这为轮式方案在早期的快速规模化部署提供了巨大的天然优势。
叠餐巾的工程挑战:误差累积与失败恢复
回到叠毛巾的具体技术案例上,最初我们以为叠毛巾本身很难,但后来发现通过模型的快速迭代,叠毛巾动作很快就解决得非常漂亮。真正难啃的硬骨头,在于如何把折叠完成的毛巾极其整齐地逐个往上码放堆叠。这对机械臂操作的绝对精度要求极高。举个例子,如果要连续往上堆叠 10 条毛巾,只要第 3 条毛巾放得稍微偏了一点点,上面堆叠的后续毛巾就会产生连锁的误差累积与放大(compound)。所以为了对抗 compound 效应,每一条毛巾都必须在极其精准的位置上码放得极其整齐。
在整个操作闭环中,最难的一点在于系统出现偏差时的自主调整:当机械臂在操作中意识到自己叠歪了或搞砸了,它如何能够自主地把它重新纠正归位。在 Dyna-1 的技术架构中,包含了三大核心环节:Foundation Reward Model(基础奖励模型)、Autonomous Exploration(自主探索)以及 Intentional Failure Recovery(有目的的失败恢复)。其中,这种 Intentional Failure Recovery(有目的的失败恢复)——即搞砸后能够自主掰回来的纠错闭环——毫无疑问是模型最核心、也是学习难度最高的动作模态。虽然攻克这种鲁棒纠偏极具挑战,但在 Dyna-1 发布一年多后的今天,我们团队在内部已经完全掌握了高效解决该问题的核心方法,能够处理得非常成熟。至于具体是如何实现的,除了 RL(强化学习)之外,我们内部还有一套独特的独家秘诀(secret recipe),这属于核心技术商业机密,暂时不便对外透露。
世界模型的落地考量:奥卡姆剃刀与极简扩展
关于 World Model(世界模型)在错误预测与失败场景中的应用,一个自然的设想是:既然早期的操作偏差会发生 compound(累积放大),那么是否可以在推理阶段(inference time)利用世界模型生成未来的 video prediction(视频预测),从而提前预判可能发生的错误分支,就像下围棋一样在推理期前瞻搜索很多步,进而动态选择最优动作。而且 Dyna-2 已经能够做到在 110 毫秒内快速生成未来 3 秒的高清视频,性能非常出色。
但在我们发布 blog post(博文)所展示的那几个模型中,我们并没有选择在 inference time(推理阶段)实时生成视频来进行策略决策。尽管我们现有的模型架构完全具备这种在线视频前瞻预测的能力,但在实际的工程与商业场景中,如果一个问题能够用更简单、更低成本的方法有效解决,我们就坚决采用更简单的方法。在 inference time 实时生成高保真视频是一项计算开销极其昂贵的开销,因此我们目前仍处于审慎探索阶段,重点摸排到底哪些极端长尾场景必须依赖这种昂贵的能力,而哪些场景完全可以通过精巧的轻量级方案解决。
这不仅关乎实际的部署成本与性能平衡,更源自我们对机器学习基本规律的底层信仰。在 machine learning(机器学习)领域,总体而言往往是更简单、更纯粹的方法最奏效,也最具备可规模化扩展的能力(scalable)。因此在从事前沿科研时,我们始终倾向于挑选那些结构非常简单、构思极其巧妙的机制去进行 scale(扩大规模)。系统设计得过于复杂,内部步骤繁琐冗长,不仅极其容易在某个环节频频报错,而且后期超参数调优的过程会异常痛苦。
这种追求极简与精巧的技术品味(taste),贯穿了我从科研至今的始终——方法越简单越好,太复杂的设计很难在现实世界中真正长久运转。纵观深度学习和大型语言模型领域历史上的所有重大突破(big ideas),其底层核心架构往往并不复杂;越简单、越优雅的构想,往往具有越强大的 scale 能力。
鼎泰丰实地部署:从 99.4% 到真实标准的鸿沟
在实际 deployment(部署)进展方面,Dyna-1 在实验室研发的 5 周时间内,经历了从最初连续运行 5 分钟就会崩溃,到稳步提升至 1 小时、8 小时、24 小时连续运行,最终实现单日折叠 800 多条餐巾的技术跃迁。在这 5 周的集中攻关中,我们依靠模型自身的 rollout(策略执行轨迹)以及针对性的 targeted error recovery(针对性错误恢复),在闭环中采集到了大量极高密度的优质纠偏数据。每当模型利用这些新数据重新训练后,操作质量都会出现质的飞跃,这本质上是一个非常标准且高效的 continual learning(持续学习)闭环。
需要澄清的是,这 5 周时间记录的是我们当初探索核心算法 research 的周期,并不意味着今天我们将系统部署到一个全新的客户环境时仍需要耗费数周时间。在最近的实际业务部署中,面对许多全新的场景和任务,我们甚至几天之内都不需要,就能让模型表现完全对齐客户严苛的业务指标。
在 Dyna-1 时期,我们就已经开始把机器人本体运送到真实客户的实际生产现场进行实地部署测试,鼎泰丰就是我们早期非常重要的合作试点客户(early pilot)。鼎泰丰对于新技术的态度非常开放,允许我们直接进入真实的厨房作业环境中进行测试迭代。在公司起步早期,我们非常喜欢这类开放包容的客户,因为坦白讲在最开始谁也无法百分之百拍胸脯保证模型绝不出错;能够直接扎根在真实业务场景中高频迭代并汲取教训,对初创公司的快速成长起到了极其关键的推动作用。
在鼎泰丰现场,我们尝试让机器人执行折叠餐巾的任务,这个任务的实际难度超乎想象,最终能够完全拿下并商业化交付,是我们团队的一座巨大里程碑(very big milestone)。叠餐巾在物理操作上比叠普通毛巾要困难得多:普通毛巾哪怕叠得稍微有些歪斜,大致折两下通常就能满足要求;但像鼎泰丰这种对品质极其讲究的餐厅,餐巾的折叠标准极其严苛。边角对齐上几毫米与一厘米的细微差距,直接决定了这件成品是合格(及格)还是不合格。这对模型的感知与机械控制精度提出了近乎变态的要求。更关键的是,机器人还必须把折叠完好的餐巾极其平整地装进特定的收纳盒子里;如果在码放环节手法不精准,哪怕前一步餐巾本身折得再好,一旦塞进盒子就会瞬间被挤压散乱。
为了精准量化标准,我们当时为餐巾折叠制定了从 1 到 5 共五个等级的标准。其中等级 5 与等级 4、或者等级 5 与等级 3 之间,往往仅仅相差几毫米的细微平整度与对齐偏差。能够把模型调优到在这个几毫米的严苛公差带内,稳定达到最高品质等级,工程难度极大。
在 Dyna-1 当时的官方测试中,我们公布在实验室受控环境下的任务成功率达到了 99.4%,但在真实客户现场,最终只有 75% 的折叠餐巾完全达到了客户验收的商业标准。之所以会存在这种数字差距,是因为内部计算 99.4% 的基础成功率时,是以“餐巾是否被完整折好”为判定口径,此时即使成品被评为等级 2 或等级 3,在算法层面也算执行成功;但所谓的合格率(pass rate)即 75%,考核的是在所有折好的餐巾中,达到严苛的等级 4 和等级 5 的比例。对于鼎泰丰这样的客户而言,他们最终只接收等级 4 和等级 5 的完美成品,等级 3 是绝对不予接受的。我们在内部评估体系中严格保留 1 到 5 级的梯队划分,就是为了时刻清晰掌握模型在微观精度上的真实迭代进展。
要跨越这最后的微小百分比、达成商业化的高精度交付,既依赖算法模型的深层演进,也离不开高质量真实场景数据的持续灌溉。当你反复经历几次把单项任务成功率硬推到 100% 的极限制程时,你就能极其深刻地体会到高质数据与低质数据之间犹如云泥之别的决定性差异。这对于真正做工业级产品和规模化部署而言,是最宝贵的认知财富。
在 Dyna-1 阶段,所有的数据都是我们在自己办公室里由内部全职研究员通过真实遥操作(teleoperation)一笔一笔采集出来的。虽然具体采集的精确小时数涉及商业机密不便透露,但当时整个团队都在高强度持续采集。数据采集是一项必须日复一日、长久坚持的核心底层工作。到了 Dyna-2 阶段,数据构成则发生了根本性的转变:我们不仅充分榨取团队自采的优质数据,更全方位吞吐并利用全网所有能够捕获的相关数据资源,这其中也衍生出了许多全新且前沿的研究课题。
回顾 Dyna-1 的实地部署历程,它带给我们最惨痛也是最宝贵的一堂课就是:在象牙塔实验室里鼓捣出来的成果,与能够在真实商业世界里稳定运行的部署(deployment)系统之间,存在着一条巨大无比的现实鸿沟(gap)。哪怕 Dyna-1 刚刚面世时被公认为整个行业内任务成功率最高的标杆模型,一旦把它原封不动扔进真实的商业严苛环境中去部署,各种意想不到的 gap 依然层出不穷。这不仅体现在折叠平整度的微观精度上,更直接体现在 language following(语言指令遵循)的敏捷度以及单次作业的物理速度上。事实上,Dyna-1 最初的运行速度根本无法达到鼎泰丰后厨快节奏作业所要求的及格线。因此,单纯把算法的成功率数值堆得再高,离真正落地依然差得很远。
面对初创公司在多客户试点(pilot)拓展中的平衡难题,如何在一个客户身上建立标杆的同时兼顾多点开花,核心依靠两点:第一,核心在于持续把底层的 base model(基础模型)能力做强做透,只要底层模型越来越强大、越来越通用,任何具体场景的定制部署速度都会呈指数级加快;第二,必须建立起极其严谨科学的试点运营与规模化工程管理体系。不同的客户试点、不同的实地部署环境,所暴露出来的物理问题各不相同。唯有当部署设备在现实中达到足够庞大的物理数量级时,你才能一次性把系统在边缘工况下的隐性问题全面排查摸透。这直接推动了 engineering(工程)质量的质变飞跃。这本质上就是 scaling(规模扩展)的规律——仅仅在 1 台机器人的部署孤岛上发现的问题,与同时在现场铺设 10 台、100 台乃至 1000 台设备所遭遇的工程挑战与系统瓶颈,完全不在同一个维度。
具身智能的规模化部署与成功率挑战
你每次扩大规模(scale)就会发现新的问题。所以我觉得作为一个具身智能公司,必须要有这个信念(conviction),就是我真正要把部署做下去、要规模化(scale)下去。要不然你永远停留在1到10台,或者1到5台这种境界的话,你是很难发现很多问题的;你只有真正扩大规模(scale up)上去,才能发现一些在运营和实际部署(deployment)当中的问题。
大家提到成功率这件事情,在机器人行业中到底要怎么去看待它?虽然99%听上去是一个很高很高的成功率数字了,之前其实君武也跟我聊过Vicarious这个公司,当时也是做到了百分之九十几的成功率,但是最终还是没有办法很好地存活下来,所以后来就被收购了。那就是因为99%的成功率,当你要去重复执行这个任务1000次的时候,它是有10次是做不好的。而那10次故障,有可能就把整条生产线给彻底弄混乱了,所以对客户来说可能是完全没有办法接受的。
这就是为什么机器人公司必须对产品形态有非常多深刻的思考。像流水线这些任务,也就是传送带(conveyor belt)、物流相关的这些任务,我觉得成功率就是致命的东西。如果你的成功率不是100%,那就说明在这整条线上,会有一些物品你没有把它处理好。那就意味着这个机器人做完工作之后,下游必须还要配备一些机器,或者安排一些人员去做质量保证(QA),把这个质量控制好。其实这样的话,你的机器人并没有真正自主地(autonomously)把整条流水线的工作全包下来,反而给现场的人员或者其他机器增加了更多的工作负担。
所以我们从一开始就觉得,做传送带(conveyor belt)这些场景,其实并不是做具身智能、通用智能最好的出发点。我们一开始追求的任务,就是这个机器人能不能靠自己把这整一个任务全包掉的这种工作流(workflow)。如果机器人能够把整个工作流完全包揽下来,不需要任何人去做质量保证(QA),也不需要任何人去做人工干预(intervention)也能做好,就算这个机器人目前的动作相对比较慢,它同样也是能够产生明确商业价值的。我们就觉得必须从这里出发,来引导我们怎么去做技术、怎么去做模型、怎么去做硬件,以及做其他所有相关的技术决策(technical decisions)。
从Dyna-1到Dyna-2:苦乐参半的教训与架构转向
我看你们把Dyna-1长达10个月的实际部署(deployment)称作是“苦涩的教训”(Bitter Lesson),这个Bitter的点在于你们发现即便达到了99.4%的成功率也是不够的,是吗?
对,我觉得从现在的视角来看,可能更准确地说是苦乐参半的教训(Bittersweet Lesson)。Bitter的地方在于实际情况比我们想象得要难得多;但sweet的地方就在于,正因为难度极高,你就必须要去攻克它。如果你真正把它解决了,你就会大幅领先其他公司很多。因为其实很多真正要解决的问题,并不是那种表面上看起来很酷炫的东西,比如随手搞个新模型、把模型参数搞大、把数据规模直接扩大上去这些问题。所以我觉得我们团队具备一种对这些硬核问题“我们必须要解决”的信念(conviction)。可能有一些团队本身缺乏这种DNA,他们就永远不会发自内心地想把部署(deployment)这件事情真正做好,但我觉得从长远来看,这可能会成为一个巨大的劣势。
你们是有专门的部署团队(deployment team)吗?可以这么说,我们有一个产品团队,但是实际部署(deployment)同样需要大量的研究(research)支持。所以我们内部做项目都是非常协同的(collaborative),并不是说完全由某一个孤立的队伍单独去做,大家都能帮得上忙,硬件、软件、模型、产品、部署以及日常运营都可以紧密配合。
从Dyna-1到Dyna-2,你们整个模型层面其实发生了非常大的变化。你们当时为什么没有选择在Dyna-1的基础上去修补部署问题,比如把数据再做好一点、把准确率再刷高一点、把现场部署再优化一点,而是选择彻底回到基础模型(foundation model)上面,对模型架构进行全新创新?这个决策过程是怎么发生的?
其实我们当初做Dyna-1的时候,采用的是视觉语言动作模型(VLA, Vision-Language-Action)。我们在VLA模型上做了很长时间之后,就发现其实这个模型从底层框架的角度来说,本身存在着一些固有的缺陷。在VLA架构之上,你确实可以打非常非常多的补丁,但我觉得最后补丁打得太多了,就很难继续在一个并不是特别稳固的基础上把东西继续做大。所以我们当初一边在实际部署(deploy)VLA模型,一边在基础研究(fundamental research)当中开始探索一些我们认为更具可扩展性(scalable)的新架构。这最终就演化成了我们现在所做的Dyna-2世界动作模型(world-action model)。
我们在实际对比中发现,有很多维度的性能都实现了质的飞跃,比如泛化能力、遵循语言指令的能力(ability to follow language),以及我们在博文(blog post)中详细展开的其他很多指标。因为我们最终的终极目标,绝不仅仅是局限在一个鼎泰丰或者在某些宾馆里面折折衣服,我们最终还是要做一个通用的机器人智能平台。所以如果从这个长远目标出发的话,更换模型底层架构、去做更具扩展性(scalable)的技术路径,其实是非常本质而且我们坚定愿意去投入的事情。
世界动作模型(World-Action Model)与视频预训练
这里能不能简单拆解一下,视觉语言动作模型(VLA)和世界动作模型(world-action model)的核心区别到底是什么?以及前面提到的VLA模型的架构缺陷主要体现在哪里?
我觉得世界模型(World Model)最核心、最关键的东西其实就在于一点:当我们构建模型让它去推理的时候,如果是做传统的VLA,你本质上只是去计算机器人自身的运动轨迹和动作(action);而如果是做世界模型(World Model),就不仅仅是预测机器人的动作轨迹,你同时把整个世界在未来究竟要发生什么演变过程的轨迹,也全部拿来参与模型的训练。这样一来,模型就能够学到更本质的物理特征(features)和上下文信息(information),能够真正帮助模型去推断和理解这个世界接下来到底会如何动态演进。我觉得这个机制对于机器人的泛化能力以及其他关键能力来说,都是极其根本的核心支撑。
你们当时一边部署VLA、一边探索其他模型架构的时候,除了世界模型之外,还探索过其他的框架吗?为什么最终锁定在世界动作模型这样一个框架上?
因为我们当初的核心思路是想要直接从视频模型(video model)出发。视频模型本身已经具备了预测未来视频帧的能力,这种时空预测特性对于机器人在真实世界中执行物理操作(physical manipulation)是有非常大帮助的。我们当时深刻意识到,视频模型具备很多传统VLA架构根本不具备的物理属性(properties),我们认为这些属性必须被充分利用起来,所以就决定从视频模型这条路切入。当初客观来看,除了视觉语言模型(VLM)和视频模型(video model)之外,业界其实也没有太多其他成熟的模型框架可供深入探索。
就算在世界模型的研究范畴内,除了基于扩散模型(diffusion-based)预测像素(pixel)本身的方法之外,也有像联合嵌入预测架构(JEPA)这样去预测潜在表征(representation)的流派,这算不算是一种可选的探索路线?你们当时为什么没有选择走JEPA这条道路?
因为当初我们最核心的想法,是希望能够直接依托现成的预训练视频模型(pre-trained video model)作为起步底座。绝大部分开源或主流的预训练视频模型,它们最初的核心应用场景(use case)都是面向视频生成(video generation)的,因此它们本身天然就已经具备了预测未来视频画面的能力。而在那个时间节点上,市面上其实根本没有什么成熟、好用的JEPA模型检查点(checkpoint)可以直接拿来作为底座使用。
借助海量预训练视频模型的收益,是不是意味着互联网上海量规模的多媒体数据都可以直接拿来赋能?是的,这样可以让算法和模型的迭代速度加快非常多。
在做Dyna-1的时候,你们团队大量依赖遥操作(teleoperation)数据,当时是不是就已经意识到遥操作并不是终极解决方案,未来某一天必然需要借助海量的互联网数据来突破?
其实也不能说遥操作是一种完全不正确的方案。我认为在当前的机器人学(robotics)体系中,依然需要严格区分预训练(pre-training)和后训练(post-training)两个阶段。在预训练阶段,核心考量是什么样的数据源能够为你提供最大的覆盖范围、视野最广阔、能够供给最大规模的数据量,你就应该充分利用那部分数据让模型彻底理解如何实现广泛的泛化(generalize)。
但是如果你进入到后训练阶段,要真正把模型部署到具体的商业化落地场景中,实际生产对稳定性和动作质量的要求是极度严苛的,这恰恰就是后训练所要承担的使命。而遥操作恰恰是目前能够收集最高质量机器人动作数据的唯一方法,我认为其他任何数据采集的方案在动作精度与执行质量上都存在着不可忽视的差距。
所以在Dyna-2的后训练流程中,依然会用到遥操作数据,只不过所需要的遥操作数据量已经比过去少得多了。比如我们在Dyna-2.1(也就是我们接下来准备发布的新版本)以及Dyna-2当中都展示过相关的实验成果:现在只需要几十分钟的示范数据,模型就能够迅速学会一项全新的任务。这在过去依靠纯遥操作训练的时代,仅仅用几十分钟的数据是绝对不可能做到的。
百万小时第一视角数据与跨本体迁移规模定律
再深入探讨一下Dyna-2的发布,其中最令人惊艳的一个核心结论,就是你们使用了100万小时的第一人称(egocentric)数据,成功找到了机器人数据规模定律(Scaling Law)的端倪。这个研究探索的具体过程是怎样的?
其实我们当初在一开始尝试第一视角数据(egocentric data)的时候,先后实验了1000小时、1万小时和10万小时这几个级别的预训练。就在这三个量级的数据扩展测试中,我们就已经观察到了显著的规模扩展(scaling)现象。实际上从100小时起步,经历100小时、1000小时、1万小时再到10万小时,总共划分了4个明显的阶梯。每一个阶段的实验结果都表明:数据规模越大,模型的整体表现就越好。我们每一次将数据规模扩大10倍(10X),模型对未来的预测精度就会出现可度量的提升。
这种性能的提升,不仅仅体现在对人类自身运动的预测变得更准。因为在预训练阶段我们使用的完全是人类活动的数据,如果更多的人类数据仅仅让模型在预测人类肢体运动上变得更好,这在科研直觉上其实并不算特别出人意料。但真正让我们感到极其惊喜的突破点在于:随着人类活动数据的指数级增加,该模型在预测机器人动作轨迹(robot action)时,其轨迹精度和控制表现也同步变得越来越好。要知道,这个模型在最初做推理预训练的时候,根本就没有见过这些具体的机器人硬件(robots)。这一点是非常出乎意料且令人兴奋的发现。
所以我们在博文中也正式阐述了这个概念,称之为“跨本体迁移的规模定律”(cross-embodiment transfer scaling law)。我们一直在探索在机器人跨本体迁移任务中到底存不存在规模定律,而验证出这个结论具有至关重要的意义。正如我们一开始谈到规模定律时所说,如果你拥有的整体数据底座在数量级上根本不够大,其实是没有太大现实意义去谈论Scaling Law的。而在机器人领域,如果单纯指望遥操作去积累数据,是极难达到100万小时这样一个海量维度的。因此要想真正实现机器人的规模定律,就必须从最具可扩展性(scalable)的数据来源入手。
所以我们首选了人类的第一视角数据。但在机器人领域,越是容易规模化采集的数据源(scalable data source),它往往伴随着一个固有的权衡(trade-off):那就是数据中的操作形态,跟最终落地部署的真实机器人形态、具体的机械臂结构、夹爪构造存在着巨大的视觉和运动学差异。如果我们在这种极具可扩展性、但表面上跟真实机器人本体形态关系并不是特别大的海量数据上,能够成功获得作用于机器人本体控制的规模定律(Scaling Law on robots),那绝对是一个重大突破。这样一来,我们就找到了切实可行的方法,能够让具身模型变得更加聪明,而不需要过度受制于极其稀缺的真实机器人硬件采集数据。因为在整个具身智能行业里,真实机器人的数据永远是一个卡脖子的瓶颈。
这100万小时的第一人称数据,具体是以什么样的视角呈现的?是从机器人的视角出发、看到双手在做具体操作吗?
其实不能说是完全从机器人的固定视角拍摄的,它本质上就是人类自身的生活与工作视角。比如大量数据是由人在头部佩戴微型相机,记录他们在现实环境中进行各类物理操作的过程。而且各个不同的数据采集渠道、我们的外部合作伙伴以及我们公司内部自研的采集设备,在硬件型号和佩戴规范上并不是完全统一的。但也正因如此,采集到的画面视角具有极其丰富的多样性。不仅视角范围非常宽广,而且视频中人类手臂的粗细、肤色、穿戴的各类衣物材质与纹理每一个人都完全不一样。恰恰是这种多样性,赋予了模型强大的通用泛化能力(generalization capability)。
这100万小时的数据大部分是从外部合作伙伴处采购的吗?是的,相当一部分来自合作伙伴的供给,不过我们内部也有自主研发的Ego第一视角设备在持续采集。但仅仅靠一家公司自己去铺设设备采集,客观上是很难独自规模化扩展到如此巨大体量的。
这100万小时的数据在当前机器人学术与产业界处于什么样的水平?从当前公开可获得(publicly available)的信息来看,100万小时的预训练数据体量,是目前整个机器人领域已知的最大预训练规模。从成本上来说确实比较昂贵,数据体量增加了,必然要投入更多的计算与采购开销。不过尽管具体采购成本不便细致透露,但可以肯定的是,采集人类真实行为数据的单位边际成本,要远远低于机器人遥操作或者其他复杂的数采方案。因为你不需要去专门购买和维护昂贵的机械臂硬件,也不需要耗费大量时间精力去专业培训某个人如何精确遥操一台机器人。采集人类数据时,你只需要发给他一台随身佩戴的相机,让他正常记录日常生活和工作中的各类操作,很多现存的类似视频资产本身就已经可以直接清洗入库使用了。
关于数据形态,如果未来希望把数据体量进一步扩大,互联网上绝大多数公开视频都是第三人称视角的视频,或者说非第一视角(non-egocentric)的视频占了压倒性比例。这种跨本体迁移(cross-embodiment transfer)到底有多大程度上依赖于“第一视角视频中人类双手的形态与机械臂具有天然相似性”这一前提?如果彻底换成海量的第三人称网络视频,这种规模定律还能否继续成立?
我认为第三人称视频应该也会存在类似的规模定律,但其规模扩展曲线的斜率(slope)可能会出现非常明显的不同。因为如果直接从第三视角视频,或者从跟机器人实体操作(manipulation)没有任何直接关系的泛化视频去学习,确实能够让模型对整个物理世界的宏观通识认知与背景知识(knowledge)产生积极的改善作用;但如果想要把这些通识知识直接迁移对齐到高精度的物理操作任务上,其语义表征与动作空间之间的距离显然会更大,因此迁移的难度也会显著增加。
我们在Dyna-2的研究中也做过一些消融实验,探索如果单纯扩大视频数据规模(scale video data)会带来什么样的变化。但我们当时的实验设定仍然聚焦在“扩大人类做具体任务的视频规模”,而不是直接投喂完全随机抓取的网络视频。至于完全随机的视频能否直接对机器人操作产生决定性帮助,我认为从长远逻辑上推测应该会有一定益处,但目前整个学术界和工业界确实还没有拿出足够充分、强有力的实验证据来佐证这一点。
突破数据瓶颈与物理世界的长尾盲区
你们接下来的下一步规划,是准备继续向后验证这一规模定律吗?比如从100万小时跨越到几百万小时乃至1000万小时的量级,去验证这个定律是否依然成立?
是的,这绝对是我们接下来坚定要去推进和验证的方向。因为我们最初去系统性摸索规模定律的根本动力,就是为了指引未来的规模化扩展路径,找到真正可持续、具备可扩展性(scalable)的方法来把有效数据规模继续做大。
会不会存在一种潜在可能性,就是随着数据规模的继续盲目扩大,后续实验会发现它其实并不完全遵循规模定律?
我认为这种推翻规律的概率相对来说是比较小的。平心而论,目前整个机器人学领域的模型参数体量普遍依然非常小。纵观目前机器人领域绝大部分、乃至几乎全部的规模扩展实验结果(scaling results),大家往往都没有做到在扩大数据规模的同时,等比例协同扩大模型参数量以及扩大计算算力规模(scale compute)。绝大多数研究往往只是单向度地去扩展某一个单独的维度(axis)。所以我坚信,如果工程上能够把数据、模型架构与计算算力这三个维度协同配合好,必然能够挖掘出非常漂亮、极具指导性的规模定律。当然,要把这三者同时推进,整体面临的系统工程量也会呈几何级数放大。
在博客公布的实验图表上,整体展现出的规模定律趋势固然非常鼓舞人心,但细看可以发现,从10万小时(100K)增加到100万小时(1M)的数据带来的边际改善幅度,相比之前从1万小时(10K)到10万小时的提升速率,其增长斜率似乎略微变平缓了一点。这是否暗示着规模定律在数据体量达到极大值时,会面临越来越难规模化的现实瓶颈?
我们在最初发布Dyna-2成果的时候,确实也注意到了从10万小时到100万小时这一区间的斜率(slope)略低于前几个阶段。之所以出现这种情况,核心原因在于当我们当初把数据规模堆到100万小时的时候,客观上整个机器人产业界根本就找不到整整100万小时的高质量现成数据。当我们在做1000小时、1万小时和10万小时实验时,这10万小时以内的所有样本,都是经过我们严格质检验收的高质量纯净数据;而当我们把规模直接推到100万小时时,行业内根本就不存在100万小时已经完成精细标注的视频。到了100万小时这个规模节点,绝大部分引入的视频实际上是完全缺失动作标注信息的。这恰恰是导致从10万到100万小时的提升曲线弧度变小的根本原因。但我深信,只要我们能够逐步建立起真正达到100万小时级别的高质量、高一致性数据底座,我们对于规模定律的稳固延续是非常具有信心的,它绝不会无缘无故地在中途放缓。
在本次技术博客中,除了海量视频预训练之外,另一个能够把这些海量视频充分吃透的核心要素依然是世界动作模型(world-action model)。博客中也着重探讨了世界模型相关的诸多实验细节,比如你们将完全没有动作标注(action label)的纯视频预测(video prediction)任务加入到训练管线中,最终取得的综合效果甚至比单纯做联合动作(joint action)加视频建模的效果还要好。应该如何拆解和理解这一实验结论背后的机理?
这两者的根本分水岭在于:如果你只做联合视频与动作建模(joint video action),那就意味着送入训练管线的所有数据,都必须强制带有完整的动作(action)轨迹标注。一旦加上这个硬性约束,你实际能够搜集并调用的有效数据规模,相较于允许引入无动作标签视频的混合训练方式,其数量级必然会大幅萎缩。我们的核心论点在于:如果我们在纯粹的视频预测任务(video prediction)上也能够证实规模效应(scaling)的存在,那么整个模型就能够解锁并吞吐海量得多的通用视觉数据。这在实际工程中极为关键,因为在处理人类活动视频(human video)时,要精准标注出每一步的细粒度动作,尤其是对手部姿态、指关节关键点(keypoints)进行高精度标记,是一件极其费时费力、成本极其高昂的事情。因此,如果能够跑通直接利用无标注纯视频做预训练的技术路径,对于模型基础泛化能力(generalization)的跨越式提升将带来不可估量的推动力。
这些完全没有动作标注(action label)的视频,主要用于训练世界模型去预测未来状态(future state)。但这里存在一个疑问:我们如何确定模型在预测未来状态时,是真正学到了其背后的客观物理规律,而不仅仅是在视觉像素上做模式匹配?比如一个人拿一个装满水的透明水杯和一个完全空置的透明水杯,两者的外观视频画面可能看起来毫无二致;拉一扇很沉重的大铁门和一扇极轻便的门,手部姿态视频看起来也很接近。模型到底能不能透过视觉学到底层的真实物理力学?这对于机器人的工程实践到底有多重要?
对于真实的机器人落地操作来说,能否感知物理特性是极为重要的。但客观来说,确实存在不少现实任务,单靠单纯的视频输入是很难准确推断出深层物理量的。比如门板的阻尼与真实重量、全透明水杯内究竟有没有装水等。这是当前做世界模型(World Model)必须正视、但在业内却极少被公开深入讨论的一个痛点问题。
如果一个世界模型在处理某些复杂操作任务时,本质上必须同时依赖视觉和触觉两重感知反馈,但目前喂给它的海量多模态数据集中完全缺乏触觉(touch/force)这一维度,那么模型无论在视频层面上如何进行深度训练和未来预测,它都无法确定物理世界背后最真实的确定性状态(physical certainty)。因此,虽然当前做机器人世界模型的大多数前沿方案仍然以纯视频为输入基底,但单纯依靠视觉在面对某些特定任务时显然是远远不够的,这构成了现有技术框架中非常底层且本质的一个固有缺陷。而这主要是由于目前整个行业在相机视觉之外的多维传感器数据上,依然处于严重匮乏的状态,力觉与触觉数据的采集门槛极高。
目前业内也有研究团队在发力视觉推理(Visual Reasoning),试图促使模型深入理解视频背后的物理规律,虽然这类研究仍处于相对早期的阶段,但确实成为了全行业共同努力推进的一个方向。
不过这类涉及深层物理特性的盲区,也未必完全必须在预训练阶段一揽子解决。举例来说,某些细粒度的触觉反馈数据,在人类日常视频中确实无法提取,但只要真实机器人硬件本体上集成了高灵敏度的触觉传感器,完全有可能在后训练(post-training)阶段,仅使用相对少量的针对性对齐数据就让模型迅速习得这项技能。因为视频或图片从信息论的角度来看,是一种包含极高冗余度的模态(modality),一张图片相邻像素(pixels)之间的信息差异微乎其微;而触觉或音频这类物理信号,其单位比特的信息密度(information per bit)实际上要高得多。所以,或许根本不需要花费100万小时海量级别的触觉数据,就能在后训练中训练出一个具备优秀触觉感知输入能力的机器人基础模型(robot foundation model)。
关于后续是否会考虑将触觉正式整合进现有框架,我们内部一直在做深入的技术调研。但这在整个机器人学习(robot learning)领域本身就是一个极具争议性的前沿课题:一部分学者坚信依靠高维视觉已经足够解决绝大多数物理交互问题,并不需要专门的触觉传感器;而另一部分人则坚持认为触觉不可或缺。我们的核心理念始终是坚持从现场落地实践出发,以事实为准绳,看什么样的方案在什么样的具体商业场景下能够真正跑通并持续稳定生效(work)。
从模型单点到六大支柱与鼎泰丰场景落地
从学术研究与技术演进的维度来看,如果现有的世界动作模型(world-action model)在物理感知上仍存在上述局限,那么机器人技术的下一步突破方向究竟在哪里?是寄希望于诞生全新的颠覆性模型架构,还是把重点押注在后训练阶段,引入包含力控等更多模态的数据?
后训练在相当长的时间维度内,都会是机器人领域极其重要的战略级方向。因为在机器人实际应用中,几乎不可能指望一个通用模型在零样本(zero-shot)、完全不经过任何目标场景微调的情况下,直接通用于形形色色的碎片化复杂任务。为什么会这样?因为工业与商业客户的实际诉求是极度离散和千差万别的。面对千差万别的个性化操作逻辑,没有任何一个预训练模型能够事先猜中并适配所有人的真实需求。因此,如何在后训练阶段仅仅依托极少量的数据,快速对模型进行高效调优与场景适配,将是一项长期的核心技术攻坚工程。而在预训练维度,核心依然聚焦于数据本身,即能否找到更具可扩展性(scalable)的工程路径,以极高的效率源源不断地汇聚真正的高质量数据。
无论探讨预训练还是后训练,行业往往都在讨论数据采集的难度与质量,但似乎容易忽视一个极其沉重的系统工程问题:即便有了高质量的庞大数据集,如何进行高效的数据摄取(ingestion)、如何快速读取并将其高效转化为训练管线可吞吐的有效数据?这背后的基础设施(infra)是不是本身就是一个工程黑洞?
这确实需要极其庞大的工程体量支持。我们此前专门写过一篇系统架构与基础设施(infra)相关的技术博客,专门来阐述这些踩坑经验。要跑通百万小时级别的端到端模型训练,绝不仅仅是单纯把模型代码写出来跑一跑那么简单,它本质上是一个极其严峻的高并发分布式基础设施工程挑战。如果你没有搭建起足够稳健、吞吐强悍的底层基础设施,大规模分布式训练任务甚至连初始阶段都无法顺利跑起来,或者经常跑上几个迭代周期就因为集群网络或IO拥塞直接崩溃挂掉,整个团队在工程调试上会陷入极度痛苦的消耗战中。因此,任何大规模(large-scale)前沿实验的前提,都必须先扎扎实实地把整套数据流与训练基础设施搭建完备。
很多时候基础架构团队就像身居幕后的无名英雄,在LLM(大语言模型)领域也是类似的情况,基础设施工程团队往往很少站在聚光灯下,但他们构成了整个技术大厦最基石的支撑。而在我们团队内部,我们赋予了基础设施极高的可见度与重视程度(visibility),所以我们专门撰写了一整篇技术博文向外界完整阐明底层的工程创新,这群幕后英雄的付出理应被所有人看见(They deserve to be known)。
具体到跨本体迁移(cross-embodiment transfer)的本质,在海量人类视频中,究竟有哪些核心维度真正被机器人底层模型吸收并成功泛化了?
我觉得核心有两点:首先是在应用世界动作模型(world-action model)进行建模时,真实物理世界中能够仅凭视觉直观推断出来的物理运动规律,被模型扎扎实实地学过去了。因为模型首要的任务就是准确预测这个三维物理世界接下来将如何演化。
其次,对于高阶的物理操作策略,无论机器人的末端执行器(end effector)最终采用的是简单的两指夹爪,还是高度仿生的人形灵巧手,其宏观的任务求解逻辑(strategy)是完全相通且可迁移的。举个最简单的例子:比如要求机械臂去桌面抓取某个物体,当前的手臂停在起始位置,目标物体位于特定距离处。不管终端硬件究竟采用的是五指灵巧手还是传统夹爪,动作执行的第一步,都必须无一例外地先把手臂运动末端平稳移动到目标物体的正上方或者邻近区域。这种通用操作轨迹与空间路径规划的概念,是完全可以从人类操作视频中无缝抽象并迁移过来的,手腕等核心物理关节点的时空运动轨迹(keypoints)具有极其一致的物理拓扑。当然,如果进一步深入到极为精细的指尖微操动作,那核心就高度取决于前期手部关键点标注的精度质量;如果标注本身存在较多抖动和漂移,那么将这部分低质数据盲目拿来训练高精度灵巧手,最终能够带来的增益其实也是非常有限的。
如果未来的研发路线坚决要从100万小时跃迁到1000万小时,中间的数据缺口究竟应该如何弥合?如果依然单纯依赖外部商业数据公司合作,对于如此量级的视频标注需求与质量把控,现存的商业市场是否具备足够充沛的供给能力?
这确实是一个非常现实且尖锐的行业问题。一方面是外部市场高质量数据供给能力的物理上限问题,另一方面则是我们内部基础设施(infrastructure)的承载极限。坦白来说,我们现有的整套数据与训练基础设施,能够非常顺畅地吞吐和消化100万小时级别的数据量;但如果要面临整整扩大十倍的1000万小时数据洪流,不仅仅是后端的分布式并行训练集群,包括前端海量数据的流式读取、分布式标注质检系统以及自动化质量保证(QA)管线,都面临着极其繁重的重构与扩容工作,还有非常多艰难的工程仗需要继续去打。
你们团队在总结Dyna-2的技术迭代经验时提出了一个极具穿透力的结论:“在Dyna-2之后,永远不要再把单纯的模型当成独立的产品。”真正的系统性突破,必须是模型、硬件、现场部署(deployment)、数据基础设施(data infra)、可教性(teachability)以及物理智能体(physical agent)这六大支柱协同向外扩展(scale),这六根柱子一起规模化扩展,才算得上是具身智能领域真正意义上的“规模定律”。
这是因为机器人产业的整体技术栈(stack)实在是太长、太复杂了。如果你只聚焦于把中间模型这个局部环节做得很漂亮,从全局来看是根本不可能把一个可商用的实体机器人产品真正做成功的。这就像经典的木桶原理,每一个工程与物理模块都必须做到极高的水准,任何一块短板发生泄漏,整个系统就无法在真实生产环境中可靠立足。
在经历了这一整套系统性重构之后,你们在鼎泰丰餐厅场景下的实际落地合作,相比于Dyna-1时期取得了颠覆性的进展。我们团队始终扎根在鼎泰丰的一线实际作业环境里死磕各种极限场景,最终打磨出来的这套系统,我们认为才算得上是真正能够经受商业检验的标准产品形态,这也是为什么我们选择在当前这个时间节点正式对外发布。
从具体披露的生产运行数据来看,整体的效率跃升极其巨大。在最开始使用Dyna-1部署时,机器人每小时大约只能折叠35个纸巾,折算下来单机每天大约只能折480个。而当时鼎泰丰客户提出的真实业务硬性指标,是希望机器人能够在一个长达18小时的真实工作班次(shift)内,稳定交付达到每天1500个折叠成品。到了全新的Dyna-2系统上线后,机器人的作业吞吐效率直接飙升至每小时稳定折叠95张,全天产量一举冲上了1590张,从而真正满足并超越了客户现场严苛的交付验收标准。
这背后的巨大跨越,模型架构的迭代升级无疑发挥了至关重要的核心拉动作用,但更关键的胜负手,其实在于将底层数据的全面提质以及持续学习(continual learning)机制真正落到了闭环中。因为当你的模型工程能力演进到特定瓶颈区间时——比如系统已经能够稳定实现单日折叠1400个餐巾的水平,想要进一步把指标死磕拔高到1500个的满负荷目标,在工程上其实根本不存在什么显而易见、信手拈来的容易突破点(low-hanging fruit)。此时已经绝不再是简单粗暴地多采集一点示范数据、就能轻轻松松让动作变快变稳的初级阶段了,实际逻辑远非如此简单。当你距离终极业务目标的及格线越近,剩下的每一个百分点的精度与效率提升,其背后的系统工程难度都是呈指数级上升的。正如系统最初在白纸一张、缺乏成熟模型底座时,随手搭一个原型能够跑到每小时折叠30张餐巾,其实客观上并不是一件多么困难的事情;但要想在极端复杂多变的真实商业环境中跨越最后的鸿沟,靠的正是这种全链路协同突破的深厚积累。
通用机器人的能力边界与客户任务微调
从我们现在所掌握的情况来看,在单一任务上实现基础操作其实已经不是很难了。但如果要进一步提升性能,可能又需要在模型和数据两个维度上,再做进一步的深度提升。
如果在一个具体任务上的极致提升都如此困难,而业内现在很多声音都在谈论“通用机器人”——设想一个机器人能够包揽所有的任务——那么距离真正达到这一天,是否还有相当长的一段距离?
确实,这个差距正是通用机器人面临的核心挑战。不可能存在一个机器人、一个模型,就能在所有任务上都达到100%的成功率。就像前面提到的零样本(zero-shot)能力,本身就是极其困难的事情,机器人很难在一无所知的情况下凭空猜出客户的所有细节要求。因此,对于通用机器人而言,更务实且理想的定义是:如果面对任何新任务,它自身的基础能力都能达到百分之七八十,随后只需要极少量的特定数据进行微调(fine-tuning),就能快速胜任客户的具体任务(customer task),这在现阶段就已经是一个非常关键且优秀的里程碑。
针对这种研发模式,有人可能会担忧潜在的风险:如果模型为了落地,采集的数据大多与特定客户的业务场景强相关(例如叠毛巾、叠衣服等),当大部分生产环境数据(production data)都源自这几个有限的任务时,模型会不会变得极度专精于这些任务,反而削弱了对于未来未知任务的通用泛化能力(general-purpose)?
其实未必如此。因为在基础模型的预训练阶段,绝大部分使用的数据其实都是人类活动视频(human video)。这些视频数据具有极高的多样性和极其庞大的规模,相比之下,团队内部采集的特定本体数据在体量上要比人类活动视频小得多。因此,预训练的核心追求始终是广泛的通用性(generality)。
当然,在本体适配上确实会不可避免地带来一些偏差(bias),但这些偏差在工程实践中属于良性偏差。类比语言模型的发展:如果希望大语言模型具备极强的代码编程能力(coding),在预训练时就必须有针对性地调高编程数据的比例;做具身智能也是完全相同的逻辑。所谓的“绝对通用”,在某种程度上是一个过于抽象和务虚的概念。最终的工程落地都必须面临实际约束(constraint),取决于团队到底关注什么、最核心的诉求是什么。如果核心目标是做精灵巧手操作,那么在预训练时就把灵巧手相关数据的配比放大;如果不看重灵巧手,完全可以不用在预训练中加入灵巧手数据。因此,所有的数据配比最终都取决于终极落地目标,由目标来决定预训练的数据混合方案(data mixture)。
物理智能体与端到端洗衣房工作流
机器人如果要真正实现商业落地,核心指标在于它必须能够完整替代一个人力,即独立承担并闭环一个完整的全流程任务,而不是仅仅充当流水线上某一处特定孤立动作的辅助工具。否则,如果无法实质性替代人力,产品就很难真正被B端客户买单和接受。
在Dyna-2的项目实践中,团队正是将这种落地理念融入到了洗衣房等典型场景的应用探索中。最初从洗衣房场景切入时,如果仅仅做叠毛巾这个单一动作,整个流程依然离不开人工协同:必须有一个专门的工作人员先将烘干好的毛巾一筐筐搬运过来;机器人把毛巾叠好之后,由于桌面空间有限,必须立刻有人把叠好的毛巾拿走挪位。这导致整个流程仍然非常繁琐。
在实际测试中出现了一个非常耐人寻味的现象:如果使用的是一台固定机位机器人(stationary robot),模型的能力越强、叠得越快,现场人工干预(intervention)的频率反而变得越高。因为机器人叠毛巾的速度大幅提升,桌面瞬间就会堆满,工作人员就必须马不停蹄地站在旁边频繁清理台面;如果人不及时挪走,桌面就会彻底没有操作空间。这种“模型性能越好,对人的依赖度反而越高;而模型性能差了,客户又根本不会买”的尴尬处境,让团队深刻意识到必须改变产品形态。
基于这一痛点,团队决定接下来的核心研发方向必须是打造一个真正的物理智能体(physical agent)。就像软件领域的AI智能体一样,物理世界中的物理智能体能够把整个长程任务全盘接管,端到端执行到底,全程不再需要人工频繁介入干预(intervene)。这正是如今的自动化编程智能体(coding agent)与几年前的代码自动补全模型(auto-complete)之间的本质跨越:当年的自动补全模型,工程师写两行就要按一下Tab键,眼睛必须全程盯着屏幕;而现在的Coding Agent,则是把整个需求交由它自主规划并一口气执行完毕。团队的目标就是在物理世界(physical world)里彻底实现这种端到端的智能体体验。
自研半人形机器人Taku与长程任务挑战
在实现物理智能体的路线上,一种设想是通过多机器人协同或者结合自主移动底盘(AGV)来分工流转,但团队目前所落地的物理智能体是一台自研的半人形机器人(semi-humanoid)。这一台机器人就能够端到端承包洗衣房内的所有工作环节——从拿取脏毛巾送入洗衣机清洗、移至烘干机烘干,再到取出、折叠,并最终将叠整齐的毛巾整齐码放到指定的储物柜中。整套任务极其长程,中间需要极多的视觉与动作推理(reasoning)。
这也是团队在Dyna-2.1中正式发布的自研机器人硬件本体——“Taku”。在日文中有一个词叫做“Takumi”(匠),代表着工匠精神与极致精湛的做工,以此寓意机器人的精工匠心。
之所以下决心自研机器人本体,是因为团队在反复多次的商业部署实战中发现,无论是终端商家还是各类厂家,他们想要的从来不仅仅是一个只能完成单点离散任务的机械臂,而是能够直接打包承包整个连续业务流的整体解决方案。通过结合自研的机器人硬件本体与自研的具身大模型,机器人不再局限于桌面折叠动作,而是将洗衣房全场景内的洗、烘、叠、摆放等全部工序一网打尽,实现了极高的自主性(autonomy),不需要人工随时待命干预。
在实际操作中,半人形机器人的动作连贯而丝滑。如果在操作过程中毛巾意外掉落,它能够自主识别并弯腰抓取;捡起掉落的毛巾后,它会主动将其扔回脏衣筐重新处理。更关键的是在狭小空间内的运动控制与防碰撞规划:如果机器人对自身姿态和空间位置的解算不够精确,其头部极易在低头或转身时直接磕碰到洗衣机机身,而在实际运行中完全没有发生碰撞,这证明了其全身协同运控算法的极高成熟度。此外,洗衣和烘干涉及诸多极高精度的精细交互,例如将旋钮准确扭到指定的功能模式、精确设定水温高低,以及精准按压控制面板的微小按键。机器人在尝试按压按键时可能会反复微调尝试数次,直至精准触发成功。
虽然针对不同品牌型号的洗衣机和烘干机,现阶段仍需要少量的工程适配和数据微调,但模型的迁移学习速度极快,只需要补充十几分钟到几十分钟的新机型示范数据即可完成适配。机器人能够自主跑通所有流程,这也承载了团队的长期愿景(long-term vision)——将机器人打造成一个真正即插即用的机器人员工(robot employee)。
对于这种时长长达30分钟到1小时的极其长程的物理任务而言,其最大的技术难点在于系统级鲁棒性:长链路中的每一步都有极高的动作精细度要求,且都有潜在的失败概率,任何一个微小的环节出错都可能导致整套任务瘫痪,因此对底层模型的泛化能力与容错鲁棒性提出了极其严苛的标准。
从真实的商业反馈来看,客户对这种端到端产品的认可度非常高。许多客户在实际部署后会主动发来信息夸赞体验,甚至询问何时能够增派部署更多台机器人。这种来自真实场景的客户认可,所带来的成就感与在学术界发论文截然不同。在学术界写论文,往往是研究员写给同领域学者看,更像是在封闭小圈子里自娱自乐;而看到自己研发的技术走出实验室、真正走进现实社会解决实际问题,从商业和技术维度来看,都是极其扎实的一大步。
移动操作、硬件壁垒与软硬件协同的护城河
面向下一阶段的研究(research)与实际部署(deployment),团队的核心技术攻坚点之一是实现“移动能力与精细操作的深度融合”(mobility plus manipulation)。与传统的固定式底座机械臂相比,基于移动底盘的半人形机器人执行操作任务的复杂度呈现几何级上升,对全身运动控制(运控)算法的稳定性提出了极高要求。在确保高精度运控与模型泛化稳定的同时,如何进一步大幅提升机器人作业的执行速度与节拍,是当下最具挑战性的前沿难题。除此之外,关于模型泛化性与模型架构的迭代,团队仍会持续推进,同时也会积极借鉴并利用行业内不断涌现的优秀公开成果。
对于未来的机器人公司而言,除了模型算法之外,硬件本体以及工程部署能力是否比外界普遍认知的更加关键?答案是肯定的。因为开源社区的模型层出不穷,单纯的模型能力很难形成永久垄断,而硬件制造与现场部署能力,直接决定了公司的核心分发渠道(distribution)。
这就像ChatGPT的爆发逻辑一样:如果世界上最初没有普及个人电脑和智能手机这些物理终端基础设施,哪怕大语言模型再聪明,大众也根本无法触达和使用。如果一家机器人企业能够把部署(deployment)彻底做透,在各个实际场景中落地成千上万台硬件终端,那么未来即便开源社区出现更强的模型,或者外部其他模型在成本和性能上更具优势,拥有终端渠道的企业都可以极其顺畅地吸收这些技术,并迅速通过自身的硬件网络进行分发(distribute)。
反之,如果一家公司只押注算法模型而不做物理硬件与场景落地,那么当市场上出现更优秀或成本更低的同类模型时,就会瞬间陷入极度被动的局面。单纯做算法的企业只能严重依赖系统集成商(integrator)去分发自身的智能;一旦自身的智能水平无法在每一个阶段都保持绝对第一,集成商就没有理由继续分发这套技术,商业底座就会极其脆弱。因此,机器人的决策大脑与机械本体形态之间存在着极度深刻的耦合关系,坚持将模型算法与本体硬件协同并进,在目前的行业实践中依然是综合效果最优的路线。
物理智能层与世界模型的行业分歧
从整个硅谷机器人赛道的竞争格局来看,行业热度正迎来新一轮爆发,不同团队在技术路线上也展现出明显的理念差异。
以专注于打造机器人通用大脑、完全不涉足硬件本体的π(Physical Intelligence)公司为例,他们主张构建纯粹的“物理智能层”(Physical Intelligence Layer)。客观来看,该团队聚集了极其顶尖的算法研究人员,对开源社区与行业发展做出了很大贡献。但从商业落地的角度审视,“独立物理智能层”这一商业模式目前在全球范围内尚未得到充分的验证,业内迄今还没有看到仅凭出售智能算法层就能在实体机器人领域实现大规模商业闭环的成功案例。
做具身智能不仅需要光鲜的Demo演示,更要面对严苛的真实场景ROI(投资回报率)。在当前的技术阶段,要想把模型性能做到落地级,依然需要大量深度结合物理环境的后训练(post-training)工作。如果一家公司不能将预训练与后训练全链路打通闭环,就很难真正为下游交付扎实的商业价值。当下游集成商或客户无法通过算法获得实质性的经济回报时,他们便无力持续向算法公司付费。这与无人驾驶行业早期的发展困境高度相似:只做算法模块的供应商容易被上游硬件和下游主机厂两头挤压、压缩利润;而掌握全栈整套系统的企业,在成本控制与落地推进上往往具备更强的自主权。
在模型底层架构方面,目前关于视觉-语言-动作模型(VLA)与世界动作模型(WAM)的路线探讨十分热烈。实际上,这两种技术路线未来极有可能会走向融合。目前业内倾向于将智能系统划分为System 1、System 2以及System 0等多层分工架构。世界动作模型与传统VLA最本质的区别,在于系统是否显式地去预测未来。而具身智能的终极形态必然需要对未来做出预测——正如大语言模型通过Next-token prediction去预测语言符号的下一个演变一样,物理智能体在物理世界中不仅需要预测机器人自身的下一步动作(action),更需要预测整个物理环境与周边物体在受到动作施加后会如何展开和反馈。
当前许多团队积极开源世界模型相关工作,但在开源模型与真正具备商业级稳定性的系统之间,依然存在着巨大的鸿沟,能够真正摸透其中工程精髓的团队依然屈指可数。许多曾经研究视频表征学习的经历,在今天恰好与主流的技术方向重合。早年学术界虽然也探讨过从视频中汲取动作控制知识,但受限于当时的算力、模型能力以及视频数据体量,无法把规模扩大(scale up),只能停留在简单任务中。如今,算力与基础设施的成熟让这些经典思想被重新挖掘并焕发新生。
针对世界模型能否直接生成高仿真视频数据用于机器人训练的问题,这在学术界与工业界依然是一个悬而未决的开放问题(open question)。确实有许多学术论文尝试使用世界模型生成合成视频,并用来训练控制策略(policy),在基准测试中展现出了一定的鲁棒性提升。但是,学术界很多研究汇报的成果,是将策略成功率从40%提升到60%或70%,而这种幅度的提升在现实工程中其实可以通过很多常规、低成本的手段直接达成。工程落地真正关注的焦点在于:当策略成功率已经达到95%,需要进一步逼近99%甚至更高可靠性时,合成数据(synthetic data)是否依然能够提供极其高质量的有效增益。正因如此,许多学术界基于合成数据的理想化设想,在向工业级部署迁移时往往面临巨大阻碍。
近期世界模型领域的商业动态也印证了变现路径的严峻挑战,例如李飞飞创立的AI初创团队被芯片巨头AMD全资收购。世界模型初创企业如果试图将技术卖给机器人公司作为数据源,目前来看这些机器人场景的商业采购规模还不足以支撑一家高估值公司的独立营收。世界模型不仅面临极其严苛的算力消耗和基础设施(infra)成本壁垒,在商业化场景的探索上也甚至比视频生成赛道还要模糊,未来类似初创团队被大厂并购整合的现象可能还会继续出现。
全本体通用大脑的辨析与Figure式炒作争议
谈及Skild等公司推出的通用大模型S1及其倡导的“一个大脑控制任何机器人、执行任何任务”的全本体智能理念(omni-bodied intelligence),这一构想从学术探索的角度确实极具科学价值,但在实际落地中将异常艰难。
从生物进化与实用价值的视角来看,自然界中最成功的大脑就是人类大脑,而人类大脑自始至终只负责控制人类自身的单一物理身体,这套结构就已经足够伟大、足够通用。如果机器人能够在一个固定的物理身体上,凭借一个大脑完全自主胜任物理世界的所有复杂任务,这在很大程度上就已经构成了物理通用人工智能(Physical AGI)。因此,相比于分散精力去研究如何用同一个模型控制五花八门的异构机器人硬件,聚焦于“如何在单一稳定形态的身体上,用一个大脑精通所有日常任务”,在工程上是一条更可行、更有确定性的演进路径。虽然学术界不断有论文尝试跨本体策略迁移,但迄今为止尚未看到能够从其他机器人本体无损迁移至全新形态且表现顶尖的重大突破。
与此同时,人形机器人代表企业Figure近期频繁发布的Demo也在业内引发了持续争议。客观而言,Figure的硬件工程细节非常精致,视频展现出的运控动作也极其丝滑,这些在硬件工艺和运控工程层面的优点值得行业学习。但由于缺乏公开、透明的实机交互测试,外界仅凭精心剪辑的视频很难对其实际的算法泛化水平做出客观评判。
行业内部对这种Demo营销的诟病主要集中在其激进的宣传策略上:如果在十次操作尝试中仅成功了两三次,随后将成功的片段剪辑拼接在一起,容易给公众造成机器人已经极其强大、几乎能马上走进千家万户打理家务(叠被、理枕、浇花等)的虚幻印象。
这种适度的舆论造势(hype)是一把双刃剑:积极的一面在于它能极大吸引社会资本与大众对机器人行业的广泛关注,犹如马斯克对电动车产业的带动效应;消极的一面则在于它过早拉高了大众的预期,造成严重的预期偏差(mis-expectation),让人们误以为通用机器人时代已经全面降临,而现实技术实际上还远未成熟。
对于专注于实地部署与交付的硬核初创公司而言,外界的噪音不可避免地会带来干扰,经常会有投资人拿着光鲜的剪辑视频追问为何不做类似展示。面对这种浮躁,企业必须具备坚定的使命感(mission),聚焦于那些物理世界中最本质、最不可回避的工程基石,而不是被市场上层出不穷的短平快Demo带偏节奏。
针对这种行业现象,团队联合创始人York曾总结过一个极具洞见的“泡沫公式”:行业泡沫的大小,等于“当前实际技术能力”与“公众期待值”之间的巨大鸿沟(gap),乘以“填补这一鸿沟所需要耗费的时间”。业界对此有着广泛共识。虽然机器人行业确实存在炒作,但真实的底层技术推进也是实打实的,并且已经在特定受限垂直场景中展现出了切实的落地闭环。因此目前的行业状态并不是那种毫无技术底色、纯粹靠概念吹嘘的空中楼阁。
如果剖析当前机器人技术与公众预期之间的核心鸿沟,排在最核心位置的瓶颈永远是数据与硬件:缺乏规模化的硬件部署台数,技术就无法快速铺开(scale);缺乏海量的高质量物理世界交互数据,模型的深层智能就无从谈起,后续的模型后训练就会极其艰难。至于模型算法架构本身,往往数月更迭一次、轮流成为热点,它并不是行业发展的最根本瓶颈。
大厂入局、数据飞轮与具身智能终局
在大厂竞争与产业链博弈方面,特斯拉凭借其在汽车工业中积累的强大硬件制造能力与量产规模,被视为极其强劲的竞争对手。但与此同时,大型科技企业在做具身智能这类需要高度软硬件紧密协同的系统工程时,也存在其体制弊端。巨头内部往往存在严密的团队界限与部门墙,跨部门沟通摩擦巨大;特别是在硬件开发环节,大型企业一旦敲定硬件方案,往往必须先按流程生产数百台再做下一代迭代,决策转向链条极长,导致整体试错与演化速度反而显著落后于敏捷的初创团队。
在硅谷,包括OpenAI、Meta、英伟达在内的顶尖科技企业都在高速招揽高端人才并大力组建具身智能团队,甚至像Anthropic等巨头未来也大概率会入局物理AI赛道,因为物理世界的智能蛋糕极其庞大。但面对巨头的压境,深耕垂直落地的初创公司依然拥有独特的护城河(moat),这一护城河正来自于其闭环的数据飞轮(flywheel)。
由于长期扎根现场真实部署,垂直初创团队不仅积累了大规模的真实物理场景作业数据,而且由于背负着真实客户场景对于100%作业成功率的极限压力,团队对数据质量、Corner Case(边缘案例)以及模型失败原因的认知深度,远非那些仅在实验室环境下训练算法的研究机构所能比拟。加之企业自身掌控了软硬件协同的落地平台,如果外部巨头开源或研发出了更强大的模型,初创企业完全可以将其无缝吸纳进自身技术栈的各个环节,让前沿技术为我所用。因此,大模型算法的繁荣对硬件部署型企业而言不仅不是直接挤压,反而是极具价值的生态助推。
关于初创公司在扩张过程中如何应对大公司病的问题,核心在于早期建立透明无阻的组织沟通机制,并在扩大规模(scale up)的过程中坚守敏捷求真的工程师文化,在团队规模尚且可控的阶段保持高频迭代。
在探讨自动驾驶经验向机器人领域的迁移时,特斯拉在车队视频采集(fleet video)、仿真系统(simulation)以及策略学习(policy learning)上的工程积累,确实有相当一部分能够为人形机器人团队提供助力。特别是数据基础设施(data infrastructure)的建设经验,几乎能够全套直接复用。在模型设计层面,自动驾驶早已普及了“轨迹预测”(trajectory prediction)范式,即一次性预测未来一至两秒内的连续动作轨迹,这一思想在近两三年的具身智能领域(如ALOHA相关研究)得到了极好的借鉴与迁移。
但两者的本质差异同样不容忽视:自动驾驶天然依赖全球在途车辆进行数据收集,数据量并不是最棘手的矛盾;而机器人领域目前面临的核心难题正是数据的极度匮乏。在具身数据的采集路径上,虽然利用智能夹爪(如UMI)或第一人称视角(Ego)采集数据在当前具备极高的可行性,但人工穿戴采集或遥操(teleoperation)依然涉及沉重的人力成本与繁琐的设备维护损耗。
长远来看,真正具备无尽扩展潜力(scalable)的数据采集终极解法依然是高保真物理仿真(simulation)。在仿真环境中,数据生成本质上被转化成了一个纯粹的算力问题(compute problem):只要算力充沛,就能源源不断生成近乎无限的多样化交互数据,进而驱动智能涌现,这是未来最重要的前沿探索方向(The next frontiers)之一。当然,高质量仿真依然依赖于极其精确的真实世界基准数据(ground truth data)作为锚点,这同样构成了一个经典的相互依存问题。
展望具身智能的行业终局,物理AI领域的市场体量极其广阔,未来不会演变成单一寡头“赢家通吃”(Winner takes all)的封闭格局,而是会允许多家优秀的头部实体并存。
这是因为在物理世界中,B端客户的切换成本(switching cost)极其高昂。当一个客户已经在其真实业务流中成功跑通了一套成熟、稳定的机器人作业系统,客户几乎不可能承担巨大的业务停摆风险去轻易更换供应商。基于这一高转换壁垒,越早将硬件与服务分发(distribution)到实体场景中的企业,其先发优势就越能如同复利一般持续累积放大(compound)。
相比之下,单纯纯软件的模型层(model layer)其替换门槛极低,客户和厂商随时可以平替为性价比更高的新模型。具身智能的最终价值核心不在于单纯的模型参数,而在于其直接为客户交付的端到端现实服务(service)。只要能够深度掌控服务闭环与物理分发渠道,机器人企业就能在未来的物理世界智能浪潮中牢牢占据最核心的商业高地。
硬件切换成本与分发渠道的重要性
如果有很多人参与到这个领域,很多不同的公司针对不同的行业去做,我觉得都是能做得不错的。
关于模型切换的问题,前面也讲到过,一般来说由模型控制自己的硬件,或者硬件和模型进行一体化协同设计,会比较有助于提升最终的模型效果。但如果大公司(比如 OpenAI 或者 Anthropic)训练出来的模型,其所使用的机器人本体和你们的硬件并不一样,在这样的情况下,切换成本(switching cost)会不会很高?用户还能不能很方便地去切换底层模型?
我认为如果需要切换硬件(hardware),那才是真正的切换成本极高。但如果最终在某一个本体上,表现最好的模型并不是专门针对该本体量身定做的模型,那么对做这个硬件本体的公司来说,其实影响并不是特别大,因为它们完全可以直接换上那个更好的模型。举个例子,比如宇树科技,它们现在的机器狗或人形机器人能做出很多跳舞等动作展示,但很多控制跳舞的这些模型,也未必全部都是它们自己训练出来的。只要你拥有硬件平台(platform),你的存活率和竞争壁垒就会高很多。
这样看来,分发渠道(distribution)和硬件设计在目前阶段依然是紧密联系在一起的。我们从战略角度出发,觉得硬件和分发必须牢牢掌握在自己手里面,必须自己去做、自己去用,这是非常重要的。
这个问题确实很有意思。在当前的大语言模型(LLM)领域,依然是 OpenAI 和 Anthropic 等少数几家巨头占据绝对优势,很多做智能体应用(agent application)的公司难免会感到担忧:一旦大公司发布了类似的功能或原生工具,自己现有的产品和业务会不会直接被替代?但在具身智能与硬件领域,正因为硬件本体具有很高的切换成本,所以可能不一定会轻易出现那种纯软件层面上直接被巨头轻易替代的情况。
分发渠道(distribution)不仅最为关键,而且在很多时候也是非常容易被大家忽略的一个核心要素。就像 Meta 在人工智能模型层面其实一度落后了挺久,落后了一年多,但由于它拥有极其庞大的分发渠道和用户基准,Muse 一经推出就迅速火爆起来。只要牢牢握有强大的分发渠道,哪怕模型能力暂时落后一阵子,也没有太大关系。苹果也是完全一样的逻辑。所谓的 distribution,就是用户真正使用的实际场景,一旦抓住了真实的使用场景,你就能与用户、付费意愿以及商业闭环走得更近。手机本质上就是最强大的分发渠道。现在开发者在 iPhone 上开发任何应用软件,都必须给苹果分成。苹果甚至不需要急于自己去做最领先的底层大模型,就能凭借渠道立于不败之地。
工业落地与家用机器人的路线分歧
硅谷在具身智能的落地路线上存在着相当明显的分裂。一派以特斯拉(Tesla)、Figure 以及 1X 为代表,它们旗帜鲜明地主张先攻克家用机器人(home robot)。这背后容易理解的逻辑是,家用场景听起来更加性感、估值天花板更高,面向全世界数十亿人口,理论上拥有广阔得多的终极市场空间。但另一派则包括 Dyna 在内,非常坚决地选择先扎进工业制造、走进工厂,专注于 ToB 领域的实际商业化落地。
这两种截然不同的路线选择,我认为主要是由进入门槛和工程闭环的本质差异决定的。坦白讲,机器人能够真正进驻一个工厂做 ToB,在难度上远比直接进驻一个家庭要容易得多。进工厂部署虽然同样需要严肃考虑作业安全,但你不需要在一开始就把整套系统过度包装成一个尽善尽美的 ToC 消费品。在工厂环境下,你不需要过度担心家庭环境中的个人隐私问题,也不需要面对家里有活动不规律的小孩或宠物等极度不可控的安全风险。
因此,一开始就选择进厂部署,能让团队将全部精力专注在核心模型能力的打磨,以及构建起必要的操作闭环上。相反,如果一上来就想做家用,在最初阶段进行产品部署时,你就必须把它当作一个极其成熟的消费级产品来做。这里面涉及的大量繁琐考量,比如产品外观、静音指标、极端边缘情况下的防跌倒防伤人安全保护等,很多东西跟机器人技术本身、跟具身智能的核心能力其实没有太大直接关系。做一台扫地机器人和做一台多功能家用服务机器人,在面对家庭复杂环境时的各类消费品考量都是必不可少的,这些琐碎的非核心工程考量会大幅增加机器人进驻家庭的门槛与难度。
往往先把 ToB 落地做好,后续回过头来再做 ToC 可能反而会更顺畅、更快。从技术本质来看,无论是工业还是家庭,早期面临的核心技术挑战其实大同小异,比如模型要具备高度的泛化能力、完成任务的动作速度要足够快等,这些底层目标是相通的。但 ToB 路线的最大优势在于,它能让机器人以快得多的速度真正进入真实的部署场景(deployment setting)。
真实部署场景对算法与系统的快速迭代具有极其关键的意义。这就像机器学习领域的训练集(train set)和测试集(test set)一样。如果研发家用机器人,你在很长一段时间内其实永远都接触不到真实的测试集。即便你在实验室租下几个不同户型的 Airbnb 房源进行测试,或者把试验样机部署在工程师自己的家里,这些人工挑选的封闭测试场景,与一个普通的美国家庭直接去 Best Buy 买回一台家用机器人摆在家里的真实使用环境相比,依然会有天壤之别。家庭场景的分布极其发散且不可穷尽,导致做家用机器人的测试集非常难以界定和捕捉。但在 ToB 领域,测试集是相对明确、可被清晰定义的。我们非常清楚具体的工序、操作对象以及评价标准。当然,未来某一天 Dyna 也完全有可能会做家用机器人,但这要看长远的发展。目前公司并没有启动家用机器人的计划,因为现阶段工业与商业 ToB 场景中存在的商业化机会依然非常巨大,足够我们去深耕。
机器人研发的意义与对未来的展望
对于我个人而言,之所以投身机器人领域,是因为我一直以来就极其热爱做前沿科学研究(research)。创办和参与这样一家机器人公司,是一个非常难得的契机,它提供了一个能够把我此前热爱并深耕的技术与理论,真正转化为产品并推向全世界的实体平台。我希望能够真正做出实质性的影响力(making impact),把事情切实做成功(make something work)。而从对整个人类社会的意义角度来看,最核心的目标就是提升实体生产力(increase physical productivity),大幅减少高强度和重复性的体力劳动(reduce manual labor),从而让人类能够拥有更多属于自己的自由时间,去从事自己真正热爱、更具创造力的事情。放眼全球,许多国家和地区目前都面临着严峻的劳动力短缺问题,像美国、日本在很多基层岗位上用工短缺都非常明显。如果机器人技术能够切实将整体的工作流完整且稳定地承接并做好,其所释放的商业价值与社会价值将是无法估量的,甚至有望朝着实现物资与服务“无限富足”(infinite abundance)的宏大远景迈进。
关于未来的技术探索,大家一直都在密切关注类似 Dyna-3 这样的下一代模型动向。在技术架构层面,当前学界与业界普遍受到 Transformer 架构的影响,倾向于将各类模态的信息统统进行词元化(tokenization)。但这套方法迁移到机器人控制上是否真的完全奏效,一直是学术界热烈探讨的焦点。自然语言的词语天生是由离散的单词组成的,它本身具备离散且独立的特性;但机器人的空间运动轨迹、位姿与关节动力学在物理空间中绝大多数时候是连续的物理量,而不是离散的 token。
从底层科研规律来看,词元化(tokenization)的本质过程就是把原本连续的信号强行做离散化处理。在离散化的转换过程中,必然不可避免地会丢失一部分底层的精细信息。因此,如果在一些对于末端微操与空间精准度要求极高的物理装配或操作任务中,采用离散化 token 方案所表现出的效果,往往不如直接预测连续动作值(continuous action)来得精准。
对于 Dyna 下一代模型 Dyna-3 的具体发布内容,现阶段还不便透露过多细节。但当前这个阶段确实是投身机器人研发最为激动人心的时刻,有大量值得深挖和突破的方向,我们在多个不同的技术路径上也都在开展前沿探索。如果说期待 Dyna-3 证明什么,外界可能会好奇 1000 万小时规模的规模定律(scaling law)是否真的能够在机器人领域跑通。Scaling law 的验证固然是一件令人无比振奋的事情,但在我们公司的整体技术哲学中,模型算法技术终究只是整个端到端技术栈(stack)当中的一个组成部分。对于 Dyna-3 而言,我们不仅关注模型本身的评测参数,更核心关注的是如何把我们最新发布的半人形机器人本体与新模型紧密结合,真正大规模部署到各类具体的商业应用场景中去,向客户实打实地展现出明确的投资回报率(ROI)。
在算法演进方面,我们前面提到的人类行为数据采集、后训练(post-training)、强化学习(RL)以及高保真物理仿真(simulation)等环节,未来依然孕育着巨大的技术突破机会。
从强化学习到以问题驱动的技术演进
回顾 Dyna 最早创立的时期,团队身上带有非常鲜明的强化学习(RL)烙印,但随着时间的推移,外界可以清晰地看到整体技术路线发生了一系列务实而深度的转型。在具体做工程和科研决策时,最关键的一点在于严谨评估当前阶段到底应不应该上强化学习,这是一个非常根本的战略抉择。
回顾强化学习技术的发展历史,我们会发现强化学习在历史上取得最辉煌战果的场景,全部严格具备两个基本前提:第一,系统必须依赖一个极其精准、运行速度极快且可以大规模并行采样的虚拟模拟器(simulator);第二,环境的奖励函数(reward function)必须极其明确、无歧义且极度易于量化。但审视现实世界中的机器人操作(robotics),客观上绝大多数复杂物理任务根本不具备上述两项理想属性。如果在连物理世界的问题本质都还没有彻底搞清楚的前提下,就盲目将强化学习当作万能钥匙套上去解决问题,本质上就是问题还没看透就急于强推某一种既定方案。
相比之下,我们团队更推崇的是完全从真实物理世界的痛点和问题出发,倒推去寻找最匹配的技术解决方案;而不是手中拿着某一种固定的技术方案,不论遇到什么现实问题都生搬硬套。
“Dyna”这个公司名称本身就带有浓厚的强化学习渊源。强化学习之父理查德·萨顿(Richard S. Sutton)在早年的经典论文中提出了著名的 Dyna 框架,这个名字正是我们公司命名的灵感来源之一。萨顿在那篇经典论文中并不只是在谈纯粹的强化学习,其核心思想是探讨如何通过构建一个世界模型(world model),来辅助系统更好地开展强化学习。这一架构思想与我们当下的技术路线实际上具备深刻的内在契合性。如果缺乏可靠的世界模型或者高精度模拟器,在物理实体上强行做强化学习会举步维艰。因此从底层技术演进的逻辑来说,我们当前的策略是先扎扎实实把底层的基础模型(base model)和世界模型做好,把大规模预训练的数据底座打牢,使模型的泛化能力与基础鲁棒性真正提升上来,之后再去审慎考虑在哪些细分环节引入强化学习进行优化。
当前阶段最核心的生命线,始终聚焦在如何能够帮客户在实际生产环节中创造更多的真实价值。现阶段最大的瓶颈依然是数据的多样性与高质量预训练,优先把预训练的大规模数据基底打牢、先把泛化能力的下限与上限托举起来,远比纠结于形式上是否走纯粹的强化学习路线重要得多。
办公室巡览与真实多场景模型评测
访谈结束后,我们在 Dyna 的新办公室进行实地参观。这一整层既是集中部署大量机器人的测试场地,也是研发团队开展各项工作的核心主办公区(main office)。在这里,团队全天候运行着大量高强度的模型评估(model eval)任务。
在测试区域的一角,一台半人形机器人正在自主执行传送带(conveyor belt)分拣任务。传送带上不断流转着各类医疗防护用品与耗材,比如散落的手套和注射针头,机器人需要自主识别并精准分类分拣,将它们分别抓取并投放到各自对应的收纳箱中。
紧挨着的另一个评测工位则模拟了真实的餐厅后厨场景。机器人需要灵活使用不同的烹饪铲具,精准将各种食材舀起并盛放在特定的餐盘内部,随后还要自主将外卖餐盒或保温箱的盒盖平稳推上并彻底盖紧。这一整套流程完全是由模型驱动的自主运行(autonomous),没有任何远程人工遥控。特别是抓握盖子完成最后的下压密封动作(pressing action),对机械力控与末端位姿的细腻程度要求极高,系统展现出了极其平顺而精细的操作质感。
再往测试区域深处走,则布置了一系列更具工业代表性的汽车装配任务。这属于车辆制造工厂内部典型的精密工序,要求机器人具备极高的对准与装配精度。机器人必须把多个规格不一的零部件按照严苛的公差要求,一个接一个精确无误地卡入装配位。这类任务是目前我们在内部模型评估(eval)中所设立的难度最高的任务之一。
在旁边的另一个精密操作工位上,测试主体换成了一台真实的家用冰箱。在电冰箱背部密布着大量需要精密组装的细小管路,机器人需要将细管精准对准极小的孔径并插接进去,这对视觉定位与闭环控制的精度要求极为严苛。在运行过程中可以看到,模型如果初次尝试出现轻微偏差,能够自主调整并尝试多次,直到最终稳稳地将管路严丝合缝地插入指定接口中。
这台冰箱演示的工序在此前虽然也展示过,但我们现场所有的技术演示 demo,全部都是直接脱胎于我们自研的 Dyna-2 基础模型(base model),随后通过少量的特定任务后训练(post-training)高效适配训练出来的。在演示中,模型展现出了极高的鲁棒性,切片动作均匀稳定。紧接着展示的是药品精准拣选工位,机器人需要将极为光滑的小药片一片一片稳定拾取并转移。这对于机械夹爪的力道与微距控制有着极高的精度要求,因为药片表面非常光滑,夹持力度稍有欠缺就会滑脱,而如果夹取力度过大,又会直接把药片挤碎或弹飞出去。
穿过评测区域,是更多算法研究员与硬件工程师集中办公与调试的研发区域,同时也是高密度开展数据采集(数采)的实验场。旁边专门设有一间独立的 3D 打印机工作室,当前机器人的很多定制化末端夹爪配件,以及一些形态特殊的结构连接件,都是在这里通过 3D 打印快速打样成型并直接装机迭代的。
目前 Dyna 在美国本土的团队规模已经达到 70 到 80 人左右。整间办公室保持着宠物友好的文化(pet-friendly),现场还活跃着一只非常可爱的萨摩耶犬,其圆润的外形甚至神似团队新发布的机器人外观。整层办公区域凡是能够腾出空间摆放机器人的角落,几乎都部署了正在调试的机器人设备。如同业内所感叹的那样,硬件与机器人初创公司随着研发推进,办公场地只会越搬越大,因为物理世界的实验与多场景部署对真实空间的需求是刚性的。
在员工厨房区域,同样被辟为了真实生活场景的实验场地。现场展示了一个机器人自主从冰箱拿取饮料的端到端 demo。团队研发机器人的一个初衷,也是希望它能够尽早在我们自己的办公室内部承担起真实的日常杂务,在日常办公场景中形成极为自然且直接的软硬件闭环反馈(feedback cycle)。当在操作界面中选定一款指定的气泡水后,机器人即刻启动响应。它同时兼备了视觉环境感知与自然语言意图理解能力,能够自主移动到冰箱前执行开门操作。拉开冰箱门这一动作看似寻常,实际上需要机器人的底盘、躯干与机械臂展开全身协同运动(coordination)。由于冰箱把手和柜门的设计原本完全是针对人类的人体工学设计的,因此在执行这类抓取与开合动作时,如果后续换装具备高度仿生能力的多指灵巧手,整体的操作适应性和顺畅度预计还会进一步提升。在现场测试中,机器人稳健地握住饮品取出并平稳送达,最后自然松开夹爪完成交接。
结语
在整场访谈交流中,Jason 提及频次最高的一个词汇便是“部署”(Deployment)。在真实世界的商业逻辑面前,工业客户并不在乎底层使用的究竟是视觉-语言-动作模型(VLA)、世界动作模型(WAM),抑或是未来可能由 GPT-6、Astra 这类顶级模型演进而来的任何全新架构范式;机器人能否在真实复杂的作业环境中,高可靠、高稳定性地把指定的工序与工作扎实完成,才是衡量技术成败的唯一核心指标。
纵观 Dyna 过去两年的创业与技术演进轨迹,这家公司最宝贵的特质,正在于其始终坚持通过将设备扎进一线去部署,在真实物理世界的一连串碰撞与反馈中不断被纠偏、被修正,并且极其坦诚地把这些在泥土里摸爬滚打得出的第一手工程经验与教训分享给全行业。外界不仅期待 Dyna-2 在未来数月的规模化实际部署中能够沉淀出更多深刻的教训与洞察,同时也期待着下一代 Dyna-3 模型的最终面世,持续追踪硅谷在模型算法与数据基础设施这两大核心前沿战场的最新演进与突破。