TenStep

Agentic World Action Models

论文 2026-10-21 Vision-Language-Action

Agentic World Action Models

Zhuoyang Liu · Dantong Niu · Botong Zhang · Boning Shao · Jing Wang · Ruijie Zheng · Yuvan Sharma · Runyu Lu 等

首要单位:UC Berkeley UC BerkeleyUniversity of Pennsylvania NVIDIA

一句话结论

AW-0 值得记住的贡献,是让可复用技能程序成为世界动作模型内部的规划表示:语义计划既影响未来画面,也影响运动控制。八项真机任务平均评分从最强基线 DreamZero 的 46.0% 提高到 71.1%,但视觉随机化仍明显破坏默认模型表现。它提供了连接程序技能与连续控制的可行接口,尚未实现交互中自主扩展技能或持续学习。

摘要

中文摘要

近期世界动作模型能为机器人操作提供视觉前瞻与未来预测,却缺少组合式技能复用机制。智能体机器人将代码规划和推理与可复用技能结合,但往往缺乏物理动力学层面的预测支撑。本文提出 AW-0,将代码规划与联合视频、动作预测整合为智能体世界动作模型框架。

模型在统一的混合 Transformer 架构中,把代码、未来视频和机器人动作建模为三个耦合生成流。代码专家产生参数化技能过程与控制逻辑,视频和动作专家分别产生未来视觉状态与底层运动指令。

代码承担两种互补作用:在世界模型内部组织多步预测和控制,并把技能表示为可供后续智能体执行的可复用程序。论文还提出自动整理流程,为机器人和人类视频轨迹标注对齐程序,将反复出现的操作整理为技能库。

RoboTwin 2.0 与真实双臂操作评测显示,相比 VLA 和 WAM 基线,任务表现以及语言遵循、语义推理和鲁棒性得到改善,说明智能体代码能够连接 WAM 中的规划、预测与执行。

英文摘要

Recent world action models provide visual foresight and future prediction for robot manipulation, but lack explicit mechanisms for compositional skill reuse. Agentic robotics combines code-based planning and reasoning with reusable skills, but often lacks predictive grounding in physical dynamics. We introduce AW-0, an agentic world action model framework that integrates code-based planning with joint video and action prediction.

We jointly model code, future video, and robot actions as three coupled generative streams within a unified mixture-of-transformers architecture. Within this architecture a code expert generates parameterized skill routines and control logic while video and action experts generate future visual states and low-level motor commands.

Code serves two complementary roles: it structures multi-step prediction and control within the world model and represents skills as reusable programs for subsequent agentic execution. We further introduce an automated curation pipeline that labels robot and human video trajectories with aligned programs and consolidates recurring routines into reusable skill libraries.

Evaluations on RoboTwin 2.0 and physical bimanual manipulation tasks show improved task performance over VLA and WAM baselines, alongside gains in language following, semantic reasoning and robustness, demonstrating that agentic code enables connection between planning, prediction and execution within WAMs.

直观理解

可以把系统理解为同时写“操作脚本”、想象“接下来会看到什么”、生成“手臂接下来怎么动”的机器人。三个部分在每轮去噪中交换信息,但信息读取方向受约束:视频读取代码,动作读取代码和视频。通常机器人实际执行的是动作块,代码是内部计划;可选混合模式才允许通过检查的代码调用外部技能。每次重新观察场景后,再生成下一段计划和动作。

图1:AW-0 联合建模代码、视频与动作,覆盖平行夹爪与灵巧手操作。

图1:AW-0 联合建模代码、视频与动作,覆盖平行夹爪与灵巧手操作。
图1:AW-0 联合建模代码、视频与动作,覆盖平行夹爪与灵巧手操作。

背景与问题

为什么做

双臂长任务既需要理解“先做哪一步、调用哪种技能”,也需要预测接触和运动将怎样改变现场。已有世界动作模型通过未来视频提供物理预测,却不一定会显式复用技能;代码机器人能组合程序,却常常依靠外部固定原语执行。论文试图把两者接到同一训练与推理过程,使语义结构真正进入世界预测和连续控制。

问题缺口

先生成文字子目标、再预测图像和动作的串行设计,使高层错误沿流水线传播,也增加逐 token 推理延迟。另一方面,单纯把程序接在策略外面,无法让视觉动力学学习直接利用程序结构。缺少的接口是:从示教获得时间对齐、可复用的技能程序,让离散代码与连续视频、动作共同生成,并保留按需调用程序控制器的可能性。

方法

方法概述

输入是当前三视角观测、语言指令、机器人状态及此前程序切片的压缩记忆。模型在同一生成过程中恢复当前程序切片、未来视频潜变量和动作块;代码采用离散掩码扩散,视频与动作采用连续流匹配。训练前先从机器人与人类示教构建时间对齐的技能程序,经过联合预训练和任务微调,部署时默认执行动作块,随后重新观测、更新程序记忆并重规划。

核心机制

三个专家各自保留注意力投影、归一化与前馈参数,在每层通过共同注意力空间通信。模态内双向注意力,模态间使用代码→视频→动作的块因果读取顺序:代码为预测提供语义约束,动作同时利用计划与未来视觉表示。三流在同一迭代去噪过程中更新,但这种联合生成并不表示三者无约束双向互读。代码损失只监督被掩码的程序位置;视频和动作回归噪声与干净样本之差,联合目标把程序意图、视觉后果和控制轨迹对齐。

图2:三专家架构与联合去噪,代码采用掩码扩散,视频和动作采用流匹配。

方法拆解

  • 先建立可复用的程序监督。 每个任务抽一条示教,由编码智能体基于预定义 API 生成子任务程序;协调者把跨任务反复出现的调用序列抽象成参数化技能。冻结技能库后重标种子样本,再按接触事件或手部运动证据验证缓存是否可复用;不匹配时才生成新标注。这里的 API 起初是声明式接口,程序监督与可实际执行的控制器不能混为一谈。
  • 把语义编码与像素预测分工。 代码流以 SDAR-1.7B 为语言骨干,冻结其嵌入、前馈和词表头,训练 MoT 注意力与调制参数;冻结 Qwen3-VL 视觉塔,经可训练 merger 接入当前图像。视频流初始化自 Cosmos-Predict2.5-2B,并使用冻结的 Wan2.2 VAE;动作 DiT 从头预训练。三专家均有 28 层,共享 2048 维注意力空间,但保留各自模态参数。
  • 对三种输出使用匹配的数据扰动与监督。 视频潜变量和动作按 Xσ=(1−σ)X0+σε 加噪,网络预测速度 ε−X0;程序 token 以随机比例替换成 MASK,仅对被替换位置计算交叉熵。当前观测、语言和视觉前缀不加噪。损失权重为视频 1、代码 0.5、动作 1,使代码学习成为显式监督任务,而非期望网络自行发现可读计划。
  • 重采样视频噪声,兼顾生成与控制指导。 原视频预训练噪声偏向高噪声区间,这对生成训练有用,却可能让动作流读到信息不足的未来表示。论文将原分布与均匀分布各混合一半;视频损失按原分布/混合分布加权,代码和动作损失按均匀分布/混合分布加权,再裁剪并归一化权重。这样增加有用的视频中间状态,同时维持不同目标所需的训练分布。
  • 从跨本体数据学先验,再按任务适配。 预训练约使用 2000 小时 YAM 与 1000 小时第一人称人类数据,技能库共 50 项,其中 YAM 23 项、人类 27 项。统一 64 维状态动作表示按每侧末端位置与六维旋转、22 手指关节及夹爪宽度组织,不适用维度置零;末端动作相对块首帧,夹爪/手指为绝对目标。下游真机每任务 100 条示教;RoboTwin 每任务 50 条干净示教,并适配为 14 维状态动作。
  • 闭环推理与程序记忆。 三视角每幅 224×320;视频序列每视角九帧,偏移为 0、4、…、32,其中首帧是观测条件,其余是预测,动作 horizon 为 32。默认程序画布 128 token,四步联合去噪,每步提交最有信心的 32 个位置;视频采用 UniPC,动作采用 Euler 求解器。历史切片压成可学习记忆槽,训练时部分历史替换成模型自身预测以缓和分布偏移;部署每个 episode 重置记忆,生成切片后更新缓存,再以新观测重规划。
图2:三专家架构与联合去噪,代码采用掩码扩散,视频和动作采用流匹配。
图2:三专家架构与联合去噪,代码采用掩码扩散,视频和动作采用流匹配。
图3:自动程序标注与技能库发现,冻结词表后基于证据验证缓存复用。
图3:自动程序标注与技能库发现,冻结词表后基于证据验证缓存复用。

关键要点

  • 默认代码是指导生成的计划表示,机器人由动作专家控制;只有混合模式把程序变成直接执行通道。
  • 技能调用与解释性注释都是训练信号。去掉技能仍保留代码结构,但效果下降,说明收益不只是换一种文本格式。
  • 三流联合去噪带来生成效率与控制得分提升,但视频随机化鲁棒性和程序参数接地仍需单独解决。

结果

结果速览表

评测/指标对照AW-0解读
RoboTwin clean 成功率WLA 64.8%80.8%+16.0 点
RoboTwin random 成功率π0.5 27.7%20.6%默认模式落后 7.1 点
RoboTwin clean/random 平均π0.5 41.3%50.7%+9.4 点
RoboTwin hybrid clean/random/平均默认 80.8/20.6/50.7%63.1/29.2/46.2%混合配置示教来源不同
真机八任务平均 rubric 评分DreamZero 46.0%71.1%+25.1 点,非完全成功率
代码视觉条件消融VAE 55.6%ViT 71.1%+15.5 点
代码生成范式消融AR 54.5%联合去噪 71.1%+16.6 点
RTX 5090 推理延迟AR 0.55 秒联合去噪 0.23 秒约 2.39 倍加速
YAM 毛巾任务 hybrid 评分动作块 84.4%90.6%相同后训练模型下 +6.2 点

洞察

风险与判断

局限

  • 代码依赖自动标注准确性和冻结技能库覆盖;程序能选中技能却填错参数,语法正确不保证接触、几何或时序正确。附录展示夹到篮筐边缘、拉背包导致倾倒、灯泡对齐失败、工具闭合碰撞、交接滑落与翻牌失去接触等失败。
  • random 相对 clean 的大幅退化仍存在;混合模式提高随机化分数但降低干净环境表现,并额外依赖感知、控制 API 与仲裁规则。不能把仿真混合表格当作无数据差异的执行消融。
  • 真机只覆盖两个平台八任务,采用任务特定微调和有限 rollout;相同下游示教不意味着所有基线的预训练数据、模型规模和训练预算一致。论文提供种子重复,但不能据均值直接推出任意差值都统计显著。
  • 0.23 秒是指定 GPU/配置下的推理延迟,不等同于完整机器人控制周期;真实混合执行仅 YAM,缺乏灵巧手程序控制系统。系统当前不从自身交互中在线学习,也不自动持续扩展技能库。

适用场景

  • 有大量带时间信息的示教、可定义技能 API、需要语义选择与双臂协调的操作研究,适合评估代码监督能否补强 WAM 的高层规划。
  • 对外观变化强、精细接触安全要求高或缺少可靠程序控制器的现场,应先分别验证纯动作与混合模式,以及任务完成评分、物理失败与推理开销,不能直接照搬平均榜单结论。

最终判断

  • 值得跟进的系统论文:最有价值的是“代码作为世界预测的内部条件”及其自动程序标注接口。真机结果和多项消融支持这条路线,但跨分布稳定性、执行反馈接地、优势感知仲裁及持续学习仍是开放问题。将其视为 agentic WAM 的可行架构证据,比视为已解决开放世界机器人更符合当前证据。
图36:典型失败集中于几何避让、物体稳定、精确对齐和持续接触。
图36:典型失败集中于几何避让、物体稳定、精确对齐和持续接触。

Vision-Language-Action

VLA/WAM 从开放基座、多源数据、在线精修和长时程记忆,继续扩展到新感官模态、隐式空间表征对齐、几何世界建模、模块化世界—动作预训练、训练期物理模态蒸馏、动作接触后果预测与执行期闭环。

打开主题

继续阅读

上一篇

T-WLA: Bridging Slow Vision and Fast Touch

T-WLA将视觉规划与触觉修正拆成两个时钟:39.7 Hz视觉分支输出基础动作块与历史视觉记忆,119.1 Hz轻量触觉编辑器读取缓存,修正未执行动作。未来图像和压力预测只在训练时监督表示,部署时移除预测头。EgoTouch手指MPJPE由0.50降至0.35 cm,真机四任务平均成功率50%。但自身无触觉版本已达47.25%,不能把相对SmolVLA+Tactile的33个百分点全部归因于快触觉。

下一篇

Phoenix(MWA™-Phoenix): Scaling Robotic Manipulation through Visual and Interaction Representations

无界动力开源的 MWA™-Phoenix 是目前综合榜单表现最强的开源机器人世界动作模型(WAM)基座:约 6B 联合视频—动作骨干,仅 RGB 输入、不用深度真值,在 LIBERO-Plus、LIBERO-Pro、RoboCasa-GR1、RoboTwin 2.0 C2R、Bench2Dex、RoboDojo 真机六项各有侧重的评测上同时登顶或最优。真正值得记住的不是单点分数,而是它把“几何+时序双教师蒸馏的视觉表征”“运动与触觉共同编码的交互潜变量(ILA)”“视触觉世界模型里的 GRPO 强化学习(PhysCanvas)”连成了一条从大规模预训练到真机精细操作的完整链路,且预训练数据全部来自开源数据集、代码与权重开放。对关注 WAM 预训练配方、接触操作和“世界模型内 RL”的读者,这是当前最完整的开源参照系。