自动驾驶和具身机器人都在做"看见世界,然后做出动作"。
但数据路线看起来很矛盾:自动驾驶离不开海量真车数据,仿真更多用来补长尾异常;具身机器人却有大量工作可以先在仿真里推进,尤其是腿足运控、导航、桌面操作这些 benchmark;而一到灵巧手世界模型,仿真数据又突然变得非常挑剔,必须面对接触、滑移、摩擦、形变和触觉反馈。
这不是因为自动驾驶更高级,也不是因为具身仿真天然更容易,而是因为它们今天学的不是同一层世界:低层控制、语义导航、开放道路分布、接触操作、接触世界模型,对数据的要求完全不同。
所以真正的问题不是"仿真有没有用",而是:仿真数据到底应该让模型学哪一层世界?
一、先把一句话说准
很多讨论会把具身智能的 sim-to-real 问题揉成一团:
仿真不真实 → sim-to-real gap 大 → 需要真机数据
这句话不算错,但太粗。它忽略了一个事实:
Sim-to-real 不是一个统一问题,而是分层问题。
同样叫机器人,同样叫 RL,同样叫世界模型,底层运控、导航 VLA、灵巧手操作要学的东西完全不同。
如果模型学的是:
这三类"世界"对仿真数据的要求不是一个量级。
这篇文章想拆清楚五件事:
- 为什么腿足运控可以做到完全 sim-to-real;
二、腿足运控为什么能完全 Sim-to-Real
先承认一个很重要的事实:运控 RL 的 sim-to-real 已经很成熟。
典型流程是:
Isaac Gym / Isaac Lab 几千并行环境 + PPO + dense reward shaping + domain randomization + actuator noise / delay model + friction / mass / terrain randomization → zero-shot deploy 到真机
这条路线已经被 ETH ANYmal、Berkeley、Unitree、Agility、Boston Dynamics 等团队反复验证。四足走路、人形站立、跑跳、抗扰,很多都可以纯仿真训练,再直接上真机。
为什么这件事可行?
1. 状态主要是 proprioception,不是视觉
运控 policy 看到的大多是:
- joint position / velocity;
这些信号在 sim 和 real 之间天然接近。关节编码器读出来的角度,仿真和真机没有图像那种巨大的 domain gap。
视觉里一个杯子的纹理、光照、反光、遮挡,到了真机可能全变;但膝关节弯了 30 度这件事,sim 和 real 是同一个物理量。
2. Reward 稠密,而且可手工塑形
运控 reward 通常长这样:
r = + tracking_velocity - orientation_error - energy_consumption - action_rate - joint_acceleration + feet_air_time - fall_penalty
每一步都有信号。站稳了有奖励,速度跟准了有奖励,摔倒了马上重罚。
这和 VLA 操作任务里"杯子最后有没有放到盘子上"这种 0/1 sparse reward 完全不同。稠密 reward 让 PPO 的探索难度低很多。
3. 接触结构稳定
腿足运控当然也有接触:脚和地面接触。
但这个接触有几个好处:
- 允许一定误差,只要 gait 稳、速度跟得上就行。
也就是说,运控需要的不是"完美物理世界",而是"足够覆盖动力学扰动的物理世界"。
Domain randomization 在这里非常有效:摩擦、质量、电机延迟、地形高度、外力扰动随机化之后,policy 学到的是一族鲁棒控制策略,而不是记住某一个仿真参数。
这就是腿足运控 sim-to-real 成功的根本原因。
三、但 VLA 学的不是这一层
VLA 的问题不同。
VLA 不是每 1ms 输出一个电机扭矩,而是每 100-300ms 输出一个动作 chunk、末端目标、waypoint 或子任务。
现实机器人系统通常是分层的:
高层 VLA / VLN 输入:image + language + state 输出:subgoal / waypoint / action chunk 中层 planner / IK / trajectory tracker 输入:目标位姿或路径点 输出:关节轨迹 低层运控 RL / PID 输入:关节目标 + 当前状态 输出:电机命令
所以在一个导航 VLA 系统里,高层 VLA 不需要重新学习"脚怎么接触地面"。这件事已经被底层运控解决了。
高层 VLA 真正要学的是:
这是一种完全不同的数据需求。
四、导航 VLA 的仿真数据要的是"世界的样子"
导航 VLA 的仿真数据,重点不是接触物理,而是视觉语义和空间几何。
它需要覆盖:
| |
|---|
| |
| "沙发左边"、"电梯口"、"走廊尽头"需要语言 grounding |
| |
| |
| |
| |
这里的核心是:
导航 VLA 要学的是"世界长什么样、目标在哪里、怎么走过去"。
它当然也需要物理,但物理要求相对粗:
只要底层运控能稳定执行 waypoint,VLA 不需要知道脚底摩擦系数到底是 0.7 还是 0.9。
这也是为什么导航 VLA 可以大量吃合成数据、3D 扫描场景、Habitat / Matterport / Gibson / Isaac Sim 环境、甚至 3D Gaussian / NeRF 重建数据。因为它真正缺的是场景广度和语言-空间对齐。
一句话:
导航 VLA 的仿真数据,广度比物理精度更重要。
五、灵巧手世界模型要的是"世界的反馈"
灵巧手不一样。
如果只是让 VLA 输出一个高层 skill,比如:
open drawer pick cup place object
那它和导航 VLA 类似,仍然可以依赖下层 skill library 或 motion planner。
但如果我们讨论的是"灵巧手世界模型",也就是模型要预测:
当前手指姿态 + 物体状态 + action → 下一时刻手指和物体会怎么变化
那问题立刻变了。
此时世界模型要学的不是"哪里能走",而是:
这就是接触动力学。
腿足运控也有接触,但灵巧手的接触有三个额外难点。
1. 多点接触
脚和地面通常是少数几个接触点,而且目标是稳定支撑。
灵巧手可能同时有十几个接触点:拇指、食指、中指、掌心、物体边缘、桌面。每个接触点都可能有不同的法向、摩擦、微滑移。
只要其中一个点预测错,整个物体状态就可能完全不同。
2. 接触决定任务成败
导航里,waypoint 偏 5cm 通常没事。机器人还能靠局部 planner 修。
抓取里,指尖偏 5mm 就可能从稳定抓取变成滑落。
操作任务的 reward 对微小物理误差非常敏感:
这类任务里,物理误差不是噪声,而是任务本身。
3. 视觉经常看不到关键状态
导航里,相机大多能看到路。
灵巧手里,最关键的信息经常在遮挡后面:
这些状态视觉不一定看得见,必须依赖 proprioception、触觉、力传感,甚至通过历史动作反推。
这对世界模型的数据格式提出了更高要求:光有 RGB 视频不够,还要有 action、joint state、force / torque、tactile、object pose,最好还有精确时间同步。
一句话:
灵巧手世界模型的仿真数据,精度比广度更重要。
六、所以导航 VLA 和灵巧手 WM 要的不是同一种仿真
把三类问题放在一张表里:
| | | |
|---|
| | 动力学随机化、actuator model、地形扰动 | |
| | | |
| | | |
这张表里最重要的一点是:
三者不是"难度从低到高"这么简单,而是"保真度维度完全不同"。
腿足运控需要的是动力学鲁棒性。
导航 VLA 需要的是视觉-语义-几何覆盖。
灵巧手世界模型需要的是接触转移函数精度。
所以不能从"运控可以完全 sim-to-real"推出"所有具身世界模型都可以靠仿真解决";也不能从"灵巧手接触难"推出"仿真对 VLA 没用"。
正确说法应该是:
仿真数据有没有用,取决于你希望模型从仿真里学到哪一层不变量。
七、自动驾驶为什么反而大量用真实数据
这里很容易冒出另一个问题:如果导航 VLA 更偏几何和语义,为什么自动驾驶端到端 / VLA 反而大量使用真实道路数据?为什么看起来只有 Tesla 特别强调仿真,尤其是异常场景仿真?
答案是:自动驾驶的难点不是车辆动力学,而是开放世界分布。
车本身的动力学并不难仿真。相比灵巧手,车辆控制对象简单得多;相比腿足机器人,车也不需要处理高频全身平衡。真正难的是道路上的社会行为和长尾组合:
这些不是"物理仿真"能轻松解决的问题,而是真实世界行为分布的问题。
真实道路数据的优势在于,它自然包含一整套相关性:地图、车道线、信号灯、标牌、交通参与者行为、天气、光照、遮挡、传感器噪声、人类驾驶员反应。仿真可以把每个元素做得很像,但组合起来经常不像真实道路。
端到端模型最怕的就是这种组合分布错位。它可能在仿真里学到某种捷径,上真车后遇到真实道路的非标组合就失效。
所以自动驾驶的合理数据结构更像这样:
真实车队数据:覆盖主分布 仿真数据:补异常场景、危险场景、不可重复场景
这个点也解释了一个更大的类比:一旦具身机器人解决了底层运控,导航 VLA / 世界模型就会越来越像自动驾驶端到端。
自动驾驶的高层模型并不直接学习"轮胎和地面怎么接触"。它输出的是:
- steering angle / steering rate;
- lane change / yield / stop decision。
这些信号再通过 CAN 总线、底盘控制器、转向助力、电机和制动系统,最终落到车辆运动。
具身导航也是同构的:
- 或输出 heading / local path / behavior mode;
- 再交给 locomotion controller;
两者的结构其实非常像:
自动驾驶: camera / lidar / map + route → end-to-end planner / VLA / world model → trajectory / speed / steering / brake → CAN / chassis controller → 车辆运动 具身导航: camera / depth / map + language → navigation VLA / world model → waypoint / velocity / heading / subgoal → locomotion controller → 机器人运动
也就是说,导航 VLA 和自动驾驶真正相似的地方,不是传感器长得一样,而是高层模型都在学习开放环境里的运动意图生成,而不是底层接触物理。
Tesla 的仿真价值主要不在于替代真实数据,而在于把真实 case 参数化之后做 counterfactual augmentation。
比如真实车队发现一个鬼探头 case,仿真可以系统性改:
这类仿真非常有价值,因为它不是凭空造世界,而是以真实长尾为种子,生成一族可控变体。
这和当前很多具身任务不同。具身机器人现在还能更多依赖仿真,部分原因是很多任务还在 demo / benchmark 阶段:桌面抓取、开抽屉、搬一个物体、导航到某个点。环境半封闭,物体集合有限,任务目标清楚,成功标准简单。
还有两个现实原因:
- 速度慢:机械臂、四足、服务机器人动作慢,错误有时间被发现和纠正。
- 兜底简单:急停、松手、重试、人工接管、重新规划,通常能覆盖大部分失败。
自动驾驶没有这么宽的容错窗口。车速高、质量大、动态参与者多,很多场景里"停住"本身也可能危险。
所以更准确的说法是:
自动驾驶主分布靠真实数据,长尾异常靠仿真补洞;当前具身很多任务还处在封闭 demo 阶段,因此仿真能覆盖更大的训练比例。
如果未来具身机器人进入开放城市、商场、医院、家庭、工厂等复杂环境,它的数据逻辑大概率会向自动驾驶靠拢:真实机器人数据覆盖主分布,仿真负责补危险、罕见、难复现的异常场景;同时仿真继续承担训练低层技能和做安全回归测试的角色。
八、具身其实只有两类大场景:导航,以及到达后的动作
把上面的讨论再抽象一层,具身智能的大类任务其实可以拆成两段:
第一段:从 A 到 B → navigation / locomotion / path planning 第二段:到 B 之后完成业务动作 → manipulation / dexterous hand / tool use
导航解决"去哪里"和"怎么过去"。
灵巧操作解决"到了之后干什么"。
这也是为什么自动驾驶和具身机器人既相似,又不完全一样。
车是载具。对载具来说,从 A 到 B 本身就是最大价值。人坐上车,车把人安全、高效、舒适地送到目的地,任务就完成了。牛马、马车、汽车、Robotaxi,本质上都在解决这个问题。
但通用具身机器人不是纯载具。它从 A 到 B 之后,真正的业务才开始:
所以具身的价值链比车多半截:
自动驾驶: A → B = 核心价值 具身机器人: A → B + 到 B 后完成动作 = 核心价值
这就解释了为什么导航 VLA 和灵巧手世界模型都重要。只解决导航,机器人最多是一个会移动的摄像头或移动底盘;只解决灵巧手,不解决导航,机器人只能在固定工位上做操作。真正的通用具身必须把两段接起来。
但这里还有一个容易被低估的点:即使只看导航,具身导航也不比自动驾驶简单。
自动驾驶虽然开放世界复杂,但它有很强的道路先验:
脱离这些先验之后,自动驾驶的"全局导航"能力其实会迅速下降。没有车道线、没有道路拓扑、没有明确可行驶区域,端到端模型很难凭空知道该怎么走。
具身导航面对的场景更杂:
所以"导航"这件事在具身里并没有被解决。当前很多导航 demo 能跑,是因为场景还比较受控:地图有限、目标有限、速度慢、可以急停、可以人工接管。
一旦进入全场景,具身导航会遇到和自动驾驶类似甚至更发散的数据问题:真实分布太复杂,仿真很难凭空覆盖所有长尾。
因此更精确的框架应该是:
具身大体分成导航和操作两类任务。导航和自动驾驶在结构上接近,都是高层运动意图生成;操作和灵巧手世界模型在结构上不同,核心是接触后的业务动作。导航解决 A 到 B,灵巧手解决到 B 之后。
九、全场景导航没有银弹,短期一定是混合系统
既然导航是具身的第一段,那自然会问:有没有一个类似自动驾驶 FSD 的方案,直接把具身全场景导航端到端解决?
目前看,还没有。
更现实的判断是:
具身全场景导航短期不会由一个端到端 VLA 单独解决,而会是一个语义、地图、规划、控制、兜底组合起来的混合系统。
原因很简单:具身导航缺少自动驾驶那种强道路先验。
自动驾驶再复杂,至少大多数时候还有:
这些先验把问题压到一个相对低维的空间里:车应该沿着道路网络走,不能随便穿墙、上台阶、进商店、钻桌底。
具身导航没有这么强的公共结构。家庭、商场、医院、工厂、酒店、园区,每个空间都有不同的拓扑、通行规则和语义目标。一个"去前台"、"找最近的电梯"、"到 3 号货架"、"去张三旁边",都不是单纯的几何 shortest path。
所以全场景具身导航至少同时包含五类问题:
| | |
|---|
| | |
| | |
| | Occupancy / SLAM / Local Map |
| | Local Planner / Learned Planner |
| | |
这五类问题混在一起端到端训练,风险很高。模型一旦失败,很难判断是语言理解错了、地图记忆错了、局部几何错了,还是底层运控没跟上。
因此更合理的工程架构是:
VLM / LLM → 理解语言目标,拆成语义 subgoal Topological Map / Spatial Memory → 维护去过哪里、哪些区域连通、目标可能在哪 Occupancy / SLAM / Metric Map → 负责局部几何和可通行区域 Planner / Learned Local Policy → 生成安全局部路径,处理动态障碍 Locomotion Controller → 执行速度、朝向、步态、抗扰 Safety / Human-in-the-loop → 急停、重试、询问、人工接管
在这个架构里,VLA / 世界模型最适合切入的位置不是"替代整个导航栈",而是三件事:
- Semantic Subgoal:把语言目标转成可执行的空间子目标,比如"先出门,到走廊右转,找电梯"。
- Value / Feasibility Judge:判断某个 subgoal 或 local route 是否更可能成功,比如"这条路是不是死胡同"。
- Failure Recovery:导航失败时重新理解场景、询问人类、换目标、换路径。
这也决定了未来方案取舍:
- 如果目标是短期产品落地,应该做 VLM + 拓扑图 + SLAM/Occupancy + Planner + 运控 的混合系统;
- 如果目标是研究端到端导航,可以让 VLA 学 subgoal 和 recovery,而不是一开始就学完整闭环;
- 如果目标是 World Model,它更应该先预测可通行性、目标进度和路径价值,而不是追求像素级未来视频。
一句话:
具身导航的短期最优解不是端到端替代,而是把 VLA 放在语义和决策层,把几何安全和底层执行继续交给成熟模块。
这也是为什么导航 VLA 和自动驾驶虽然结构相似,但落地路径未必一样。自动驾驶可以围绕道路先验和车队数据做端到端闭环;具身导航在全场景里缺少统一拓扑,更需要显式记忆、语义地图和可解释的兜底机制。
十、这对 VLA + World Model 路线意味着什么
对 VLA + World Model 路线,更合理的判断应该是分层的。
1. 对导航 VLA:先不要追求物理级世界模型
导航 VLA 现阶段最有价值的世界模型,不一定是一个精确物理引擎。
更现实的是:
- 用 value head 判断哪个 subgoal 更可能成功;
- 用 RSSM / latent dynamics 做 reward judge;
它不需要知道脚底接触力,只要知道"往这边走会不会更接近目标、会不会撞、会不会进入死胡同"。
所以导航 VLA 的世界模型可以更粗、更语义、更几何。
2. 对腿足机器人:高低层要解耦
如果底层运控已经完全 sim-to-real,那么高层 VLA 不应该再背低层物理。
高层只输出:
底层运控负责:
这其实是好消息:VLA 的数据要求可以被大幅降低。它不用学习"怎么走路",只要学习"往哪走"。
3. 对灵巧手:不要把"世界模型"喊得太泛
灵巧手方向必须先问清楚:
这个 world model 到底预测的是 skill-level future,还是 contact-level future?
如果是 skill-level:
当前场景 + pick action → 物体大概率被拿起
那可以用比较粗的 latent model,甚至用 VLA value head 做 judge。
如果是 contact-level:
每个手指关节 + 触觉 + 物体 pose + action → 下一帧接触状态和物体运动
那就是另一个问题。它需要高保真接触仿真、system identification、real-to-sim calibration,以及大量真实触觉数据。
这两种都叫 world model,但工程难度差一个数量级。
十一、真正的分界线:几何未来 vs 接触未来
可以用一个更简单的判据区分这些任务:
模型要预测的是几何未来,还是接触未来?
几何未来:
接触未来:
前者需要大规模场景、多样语言、视觉语义和空间一致性。
后者需要接触物理、材料参数、触觉信号和高频控制闭环。
导航 VLA 大多在预测几何未来。
灵巧手世界模型大多在预测接触未来。
这就是它们对仿真数据要求不同的根本原因。
十二、最后的判断
所以,回到最开始的问题:
导航 VLA 场景和具身灵巧手世界模型,对于仿真数据的要求是不是不一样?
答案是:非常不一样。
但更准确的说法不是"导航简单,灵巧手难",而是:
导航 VLA 要的是世界的样子,灵巧手世界模型要的是世界的反馈。
腿足运控能完全 sim-to-real,证明仿真不是没用,甚至可以非常有用。只是它成功的条件很明确:低层控制、proprioception 主导、稠密 reward、接触结构稳定、domain randomization 有效。
导航 VLA 可以继承这个成果,把底层物理解耦出去,专心学习语言、视觉和空间几何。
灵巧手世界模型如果要深入到接触层,就不能只靠"场景多"解决。它需要的是高保真接触数据、真实传感闭环和仿真参数校准。
一句话总结:
Sim-to-real 不是一道门槛,而是一张分层地图。腿足运控已经走通了低层控制这条路;导航 VLA 要走的是语义几何这条路;灵巧手世界模型要攻的是接触动力学这座山。把这三件事混在一起讨论,只会得出错误的工程判断。
再往上抽一层,具身智能的主线其实很清楚:
导航解决 A 到 B,操作解决到 B 之后。
车是载具,A 到 B 就是核心价值;具身机器人不是纯载具,到达之后才开始产生业务价值。所以导航 VLA 决定机器人能不能到场,灵巧手 / 操作世界模型决定机器人到了之后能不能干活。
这也决定了数据路线:封闭导航和低层运控可以大量用仿真;开放导航会越来越像自动驾驶,真实数据覆盖主分布、仿真补长尾;而深入到灵巧操作的接触层时,仿真数据的核心又变成高保真接触和真实传感校准。
所以未来的方案取舍,不是"VLA、世界模型、仿真、真机数据谁替代谁",而是把它们放回正确层级:运控用仿真打底,导航用真实分布校准,操作用接触数据补物理,VLA / World Model 在语义、规划、价值评估和失败恢复里发挥作用。
附录:常见具身 / VLA 仿真平台
按任务类型分,会更容易看清每个平台适合解决哪一层问题。
1. 导航 / VLN / ObjectNav
适合研究"从 A 到 B"、语言指令导航、语义地图、目标搜索。
| |
|---|
| Habitat / Habitat-Sim / Habitat-Lab | 室内导航、PointNav、ObjectNav、VLN,常配合 Matterport3D / HM3D |
| AI2-THOR / RoboTHOR / ManipulaTHOR | |
| |
| 自动驾驶仿真,适合端到端驾驶、感知、规划、长尾场景重放 |
| |
2. 机械臂 / 操作 / VLA Benchmark
适合研究抓取、放置、开抽屉、桌面操作、语言条件操作策略。
| |
|---|
| VLA / imitation learning 常用 benchmark,包含 spatial / object / goal / long 任务 |
| 离线 imitation learning 框架,常与 robosuite 数据配合 |
| MuJoCo 机械臂操作环境,适合抓取、搬运、装配 |
| 多任务机械臂 benchmark,覆盖 50 类 manipulation task |
| ManiSkill / ManiSkill2 / ManiSkill3 | 基于 SAPIEN,适合大规模 manipulation RL / imitation |
| 基于 CoppeliaSim / PyRep,任务多,语言指令友好 |
| 长程语言条件机器人操作,强调 multi-step instruction following |
3. 底层运控 / 通用物理仿真
适合训练 locomotion、whole-body control、底层控制策略和并行 RL。
| |
|---|
| Isaac Gym / Isaac Lab / Isaac Sim | NVIDIA 生态,GPU 并行强,适合腿足、人形、机械臂和合成数据 |
| |
| 高质量刚体和 articulated object 仿真,ManiSkill 底层 |
| |
| |
4. 世界模型 / 生成式仿真 / 合成数据
适合做数据增广、action-conditioned video prediction、world model 或长程行为预测。
| |
|---|
| Isaac Sim + Cosmos / GR00T World | |
| action-conditioned world simulator,偏长程行为和交互生成 |
| |
| 自动驾驶 world model / occupancy / 规划一体化 |
| model-based RL,latent dynamics 和 imagination rollout |
5. 真实数据平台 / VLA 训练生态
这些不一定是仿真器,但是真实数据主分布和 VLA 训练经常离不开它们。
| |
|---|
| HuggingFace 机器人学习栈,覆盖数据、模型、训练和评估 |
| |
| |
| 真实机械臂操作数据,常用于 imitation / offline RL |
| |
用本文的框架总结:
导航 VLA: Habitat / AI2-THOR / iGibson / CARLA 到达后的操作 VLA: LIBERO / RoboMimic / robosuite / ManiSkill / RLBench / CALVIN 底层运控: Isaac Lab / Isaac Gym / MuJoCo / SAPIEN 世界模型和合成数据: Isaac Sim + Cosmos / UniSim / Genie / GAIA / DriveWorld 真实数据主分布: LeRobot / Open X-Embodiment / DROID / ALOHA / BridgeData