Qwen-RobotManip Technical Report: Alignment Unlocks Scale for Robotic Manipulation Foundation Models
Qwen-RobotManip Technical Report: Alignment Unlocks Scale for Robotic Manipulation Foundation Models
Haoqi Yuan · Zhixuan Liang · Anzhe Chen · Ye Wang · Haoyang Li · Pei Lin · Yiyang Huang · Zixing Lei 等
一句话结论
Qwen-RobotManip 的核心不是“再堆更多机器人数据”,而是先把不同机器人在**表示、运动和行为**三个层面拉到同一坐标系,再讨论规模化。论文最有价值的证据是:统一动作表示后,跨具身数据在 OOD 验证误差和下游成功率上才出现清晰的规模趋势;但“只用公开数据”的说法只适用于 manipulation corpus,完整训练还混入了含 proprietary data 的 VL 数据。
关键词
摘要
中文摘要
语言和多模态基础模型之所以能获得强泛化,是因为异构数据可在统一形式下对齐,并能规模化训练。本文研究这套方法能否用于机器人操作。难点在于操作数据天然异构、采集昂贵且多样性有限。作者提出基于 Qwen-VL 的 Qwen-RobotManip,从表示、运动和行为三个维度统一对齐多源数据,并用 Human-to-Robot 管道把第一视角手部示范转换为 15 种机器人平台的轨迹。仅依靠公开机器人操作数据和人类视频,作者构建约 38,100 小时的 manipulation corpus,并在扰动鲁棒性、指令跟随、失败恢复和跨具身迁移上观察到泛化。由于标准 benchmark 难以反映预训练质量,论文重点采用 RoboCasa365、LIBERO-Plus、EBench、RoboTwin-Clean2Rand、RoboTwin-IF 和 RoboTwin-XE 等 OOD 设置,并在仿真与 AgileX ALOHA、Franka、UR、ARX 真机上验证模型。
英文摘要
Foundation models in language and multimodality achieve strong generalization by aligning heterogeneous data under a unified formulation and training at scale. In this report, we investigate whether this scaling recipe can be applied to robotic manipulation to achieve genuine generalization. This is challenging because, unlike text, manipulation data is heterogeneous by nature, expensive to collect, and narrow in diversity, making alignment and scale simultaneously difficult. We present Qwen-RobotManip, a generalizable Vision-Language-Action foundation model built on Qwen-VL. Qwen-RobotManip introduces a unified alignment framework across the representation, motion, and behavioral dimensions of manipulation, making large-scale multi-source training coherent rather than conflicting. This alignment capability in turn enables Qwen-RobotManip to absorb manipulation data at a scale that prior training regimes could not sustain. A human-to-robot synthesis pipeline converts egocentric hand demonstrations into robot trajectories across 15 platforms, and a rigorous curation pipeline harmonizes heterogeneous datasets. Using only open-source datasets and human videos without proprietary data collection, Qwen-RobotManip constructs a ~38,100-hour pretraining corpus and exhibits emergent generalization capabilities, including zero-shot instruction following, robustness to perturbations, reactive error recovery, and cross-embodiment transfer. We find that standard benchmarks fail to capture pretraining quality and instead adopt OOD settings including RoboCasa365, LIBERO-Plus, EBench, RoboTwin-Clean2Rand, RoboTwin-IF, and RoboTwin-XE. Qwen-RobotManip substantially outperforms prior state-of-the-art models, including π0.5, across all OOD settings, ranks 1st in RoboChallenge with a 20% relative improvement, and is validated on real-robot platforms including AgileX ALOHA, Franka, UR, and ARX.
直观理解
背景与问题
为什么做
- LLM/VLM 的规模化成立,是因为不同来源最终都能被映射到统一 token/formulation;机器人数据没有这种天然接口。
- 标准 LIBERO、RoboTwin 是同分布微调与测试。从零训练的 StarVLA、Qwen-RobotManip-scratch 也能接近或超过部分预训练模型,因此高分不等于预训练形成了可迁移能力。
问题缺口
- 表示不一致:机器人自由度、关节/夹爪/灵巧手字段和有效维度不同。
- 坐标不一致:同一末端运动可能记录在基座、世界、末端或不同相机坐标系中,数值监督互相冲突。
- 行为不一致:不同平台的速度、控制频率和运动学特征不同,仅提供 embodiment token 不足以动态校准策略。
- 数据不够广:遥操作数据昂贵且场景集中,人类第一视角视频虽多,但不能直接作为机器人动作监督。
- 评估不敏感:IID benchmark 很难区分记忆训练分布与真正的 OOD 泛化。
方法
方法概述
Qwen-RobotManip 是解耦式 VLA:Qwen3.5-4B 负责多视角感知、语言和上下文推理,DiT action expert 负责连续动作生成。DiT 的偶数块 cross-attend 视觉 token、奇数块 cross-attend 语言 token,二者都来自 VLM 最后一层;推理时用 4 步 Euler integration 生成 action chunk。

Figure 3:Qwen-VL、DiT action expert、80 维统一状态动作表示、相机坐标 EEF 和历史上下文的完整连接方式。
核心机制
Qwen-RobotManip 的核心不是单独增加一个跨具身标识,而是让表示、运动和行为三层对齐共同约束同一条动作生成链:canonical vector 统一各机器人字段的语义位置,camera-frame delta EEF 统一视觉相似运动的数值含义,structured prompt 与 episode history 再补足执行速度、相机方向和具体平台动力学。这样,多源样本进入 DiT 时不再提供相互冲突的监督,新增数据才可能转化为稳定的 OOD 收益。
方法拆解
- 两个 29 维手臂块 + 22 个预留维度;每臂包括 7D 关节、9D 末端位姿、1D 夹爪和 12D 灵巧手。
- 不存在的部件补零,并通过 per-dimension binary mask 从 loss 中排除;每个样本只按有效项归一化,避免高自由度机器人主导梯度。
- 状态是绝对量;关节动作是绝对值;末端动作是相对当前状态的增量,旋转增量用 3D rotation vector。
- 末端位移和旋转被投影到参考相机坐标系,配合 CaPE、相机内参 embedding 和 end-effector type embedding,让视觉相似运动对应接近的数值动作。
- 这一模式需要训练与推理时都有相机标定;缺少标定时,auxiliary flag 会切回 robot-base relative mode。
- prompt 包括 embodiment、instruction、speed、fps、camera view direction;训练时以 15% 概率丢弃部分字段。
- 历史视觉、状态和已执行 action chunk 被编码进 VLM。训练随机从 episode 内取历史位置,避免模型只复制最近动作;部署时使用滚动窗口。
- VLA batch 优化带有效维度/时间步 mask 的 flow-matching loss;VL batch 优化 next-token loss,权重 λ=0.1。
- VLA 与 VL 数据按 9:1 交替,action expert 对同一 action chunk 重复采样 8 个扩散时间步以摊薄 VLM 前向成本。
结果
结果速览表
| 结论 | 证据 | 阅读提醒 |
|---|---|---|
| 对齐后才能稳定吃进更多跨具身数据 | Figure 18/19:统一表示的 OOD MSE 下降更平滑,full-scale Hard EEF 56.6% | 受控缩小规模实验,不是普适规模律 |
| OOD 才能体现预训练价值 | scratch 在 IID 接近预训练模型,但 C2R Hard 仅 22.6% | 最佳 69.4% 来自 Context joint 版 |
| camera-frame EEF 支持零样本跨具身 | RoboTwin-XE 23.9% vs π0.5 EEF 7.5% | Franka 只有 5.9% |
| VL co-training 保留语言与视觉能力 | 去掉 VL 后 C2R Hard -8.2、RoboTwin-IF -7.0 | VL mixture 含 proprietary data |
| Human-to-Robot 对相机扰动最有效 | LIBERO-Plus Camera 72.8% → 80.0% | 合成小时数不等于独立任务多样性 |
| 真机能力显著但仍有精细控制缺口 | ALOHA ID/OOD 88.6%/87.5%;插盘 2/5 | 每任务试验次数有限 |
洞察
风险与判断
局限
- 约 24,808 小时 Human-to-Robot 数据来自把 1,933 小时人类视频重复渲染到 15 种形态;它扩大了 embodiment 覆盖,但并没有同比增加独立任务语义,不能把合成小时数等同于同规模新经验。
- 论文声称 manipulation corpus 没有专有采集,但第 2.5 节明确写出 VL mixture 包含 proprietary data;因此完整训练配方并非只依赖公开数据,复现边界需要分开表述。
- “scale law”来自缩小规模的受控消融、best validation MSE 和 RoboTwin-C2R 下游曲线,尚不足以证明跨模型、跨任务都服从同一规模律。
- 主要 OOD 证据仍以仿真为主;真机虽然覆盖四种平台,但很多结果样本数是每任务 5 或 10 次,置信区间和独立复现都缺失。
- camera-frame EEF 需要准确相机内外参;Context 版需要更多去噪步,并在 episode 开始时因零历史出现迟疑,实时性与适配收益存在权衡。
- 零样本跨具身对 Franka 仅 5.9%,说明“形态无关动作接口”降低了迁移难度,但远未消除视觉和运动学差异。
适用场景
- 多机器人、多任务的 VLA 预训练数据接口设计
- 需要相机视角 OOD、场景扰动和未见指令泛化的桌面操作
- 新机器人上的少样本适配、跨具身技能复用和可标定条件下的 EEF 控制
- 设计能区分预训练价值与 IID 记忆的机器人评估体系
最终判断
这是一份重要且工程证据密集的 VLA 技术报告,最值得保留的是“统一监督接口决定跨具身数据能否规模化”的论证,以及 IID/OOD 对照、Human-to-Robot 数据引擎和 camera-frame EEF。它不应被简单总结为“38,100 小时数据带来 SOTA”,也不宜直接称为已经确立的范式:最佳成绩混合了基础版、Context 版和额外 post-training 配方,公开数据声明存在范围限定,规模规律与真机泛化还需要独立复现。作为 FollowHub 的 VLA 核心材料,它更适合被定位为跨具身对齐与 OOD 评估的强系统基线。
相关主题
Vision-Language-Action
VLA/WAM 从开放基座、多源数据、在线精修和长时程记忆,继续扩展到新感官模态、隐式空间表征对齐、几何世界建模、模块化世界—动作预训练、训练期物理模态蒸馏、动作接触后果预测与执行期闭环。
打开主题
继续阅读
上一篇
T-Rex: Tactile-Reactive Dexterous Manipulation
T-Rex 的关键贡献不是把触觉当作又一种静态输入,而是让现有 VLA 的低频视觉动作规划与高频触觉修正协同工作。它用 22889 小时人类第一视角视频预训练、100 小时触觉同步机器人数据中训练和约 100 条任务示范后训练,在 12 个真实双手灵巧任务上达到 65% 平均成功率,相比最强基线 EgoScale 的 35% 高出 30 个百分点。结果很强,但目前仍是单一硬件平台上的研究级验证。
下一篇
Heterogeneous Tactile Transformer
HTT 值得作为异构触觉预训练的参照:共享表征确实改善了部分感知任务,也能支持未见光学指尖上的操作策略。最有说服力的结果是无外部相机的拧玩具螺丝成功率 90%、抓豆腐 55%。但它没有证明任意新传感器即插即用,对齐也不是每个传感器、每项任务都有效。
