TenStep

FWBC-VLA: Force-Aware Whole-Body Compensation for Contact-Rich Loco-Manipulation

FWBC-VLA: Force-Aware Whole-Body Compensation for Contact-Rich Loco-Manipulation

Yutian Zhang · Siyuan Ma · Liwen Yang · Yang Li · Ce Hao · Haozhen Chi · Dong Wei · Qiaojun Yu 等

首要单位:Zhejiang University Zhejiang UniversityShanghai Artificial Intelligence LaboratoryTsinghua UniversityZhongguancun AcademyDeep RoboticsZhejiang University of Science and Technology Deep Robotics

一句话结论

FWBC-VLA 值得记住的贡献是把“操作任务需要的接触”与“同一接触给移动机身造成的负担”放进同一闭环。它在轮足四足机器人上实现擦白板 64%、开门 52% 的完整任务成功率,均比 ForceVLA 高 40 个百分点。证据支持低成本接触反馈与机身补偿协同的工程价值,但尚不足以证明精确六维测力、跨机器人泛化或通用的任务力/外部扰动辨识;论文 v2 还有数处正文—表格冲突,下面逐项标注。

摘要

中文摘要

首句译文:接触密集的移动操作,需要在语义层面的动作生成与物理交互控制之间建立连接。

摘要要义:作者提出面向轮足机器人的 FWBC-VLA,从关节力矩残差构造接触强度及变化趋势,将其编码后接入 VLA 的动作专家;模型在超过 5,000 条 WL&Arm 示范上完成全参数微调。另一条路径把本体状态、经雅可比映射的机身负载估计与接触状态转化为修正动作,再交给全身控制器执行。作者用擦白板及带闭门器的开门任务检验这一设计。

英文摘要

Contact-rich loco-manipulation requires a bridge between semantic action generation and physical interaction control.

以上仅摘录摘要首句;完整英文摘要见 arXiv 原文。下节先译此句,再用中文概述其余摘要内容。

直观理解

想象你站在带轮的小车上推一扇带闭门器的门:手知道该往哪里推还不够,因为门的反作用力会让车后退或转向。FWBC-VLA 先从电机力矩与机器人状态估计“现在是否受力、受力是否在增加”,让操作策略调整手臂和任务动作;同时估计这股负载传到机身后的效果,修正底盘速度。它要同时解决“手继续把任务做下去”和“身体别被反作用力带跑”两个问题。

背景与问题

为什么做

移动操作中的接触会沿着末端、机械臂和底盘传播。擦板需要持续压紧,推闭门器需要克服持续阻力;这些恰好是有益于完成任务的力,却也会带来机身侧移、偏航和姿态扰动。因此,机器人不能只追踪末端轨迹,也不能把所有受力一概抵消,而需要在继续施力与保持身体稳定之间协调。

问题缺口

传统 VLA 与全身控制器通常只交换运动学命令,策略缺乏明确的接触开始、持续加载和释放反馈。已有力感知策略又多集中于固定底座机械臂,依赖新增腕部力/力矩传感器。对于没有预留传感器接口的轮足机器人,直接改装成本较高;同时,仅向 VLA 增加力输入并不能保证底盘会主动补偿操作负载。本文因此补上“共享接触表示—任务动作—机身修正”的接口。

这里的“无传感器”准确含义是不新增专用 F/T 传感器作为 FWBC-VLA 的部署输入。机器人仍依赖关节测得的力矩、本体状态、IMU 和相机;标定评估使用已知负载,对照系统使用真实 F/T 数据。

方法

方法概述

系统先用 200 Hz 的本体感知和测得力矩预测自由运动时本应出现的关节力矩,取二者之差作为外部交互的代理变量。这个六维残差分成两条路径:一条压缩为接触强度及其变化,利用短历史条件化 15 Hz 的 π0.5 动作专家;另一条保留方向,经雅可比和坐标变换得到机身负载代理,结合 IMU 与名义底盘指令生成有界速度修正。最终由下游 WBC 负责平衡与底层追踪。

核心机制

单纯依赖历史预测自由力矩,可能把持续压门或擦板的外力也学成“正常状态”;单纯依赖当前状态,又较难平滑自由运动中的噪声。HSR-Force 用历史专家和不读取力矩历史的状态专家互补,通过固定残差门控切换偏重。策略侧只需要知道接触如何演化,补偿侧则还需要力的方向和机身偏移,因此本文刻意保留两种不同的信息表示,而非把一个标量当作完整物理状态。

方法拆解

  • 1. HSR-Force:先扣掉机器人自身运动,再判断外部接触
    论文式 (1) 把观测力矩写为:

    τ_meas = τ_free + τ_ext + ε

    自由运动力矩包含自身惯性、重力和内部动力学;剩余项既可能含环境交互,也可能含未建模误差。训练尽量使用无接触运动窗口,能获得阶段标注时,屏蔽持续接触和接触过渡帧。这个训练分布控制十分关键,否则模型可能把任务所需的持续负载学走。

    两位专家输出自由力矩估计后,状态分支的残差决定固定门控:

    r_state = τ_meas − τ̂_free,state;α = G_fixed(||r_state||₂)

    τ̂_free = (1−α)τ̂_free,hist + ατ̂_free,state;τ̂_ext,raw = τ_meas − τ̂_free

    无接触时偏重历史专家的平滑性;交互增强时偏重状态专家,降低历史分支把持续加载当作自由动力学的风险。两分支和门控都属于同一条 200 Hz 估计链,并不存在另一个慢速估计器。这里的固定门控,与后面动作专家中学习得到的 force-presence gate 是不同部件。

    解读判断: 这是对残差观测器的学习化工程改造。它仍依赖平台力矩读数和训练分布质量;温漂、摩擦变化、载荷变化或不熟悉的身体动作,也可能产生类似接触的残差。
  • 2. 接触表示:强度与趋势给策略,方向给身体
    动作策略读取:

    s = ||τ̂_ext,raw||₂;Δs_t = s_t − s_(t−1);d_int = [s, Δs]ᵀ

    s 是六关节残差力矩的范数,不是单位为牛顿的真实末端力;Δs 是相邻采样差分,也不是除以时间间隔后的物理导数。它们表达“受力增强、持续或减弱”的代理信息,其尺度会随估计器和采样配置变化。取范数会丢失方向,因此不能依赖这两个通道区分所有推拉方向或接触位置。

    方向补偿路径继续保留原始六维关节残差,利用阻尼最小二乘雅可比逆映射到末端等效 wrench,再换算到机身原点;变换包含力臂引起的力矩。机身负载不是机身独立测量值,而是从机械臂残差推导出的另一坐标表达。论文正文提到 Appendix,但这份 9 页 v2 PDF 未附相应附录,未据此补造具体阻尼参数或实现细节。
  • 3. 力如何进入 π0.5:60 毫秒短历史与动作侧晚融合
    每次 VLA 查询只取时间戳不晚于当前时刻的最近 13 帧。200 Hz 的采样间隔为 5 ms,因此从第一帧到第十三帧跨 12 个间隔,即 60 ms。这是部署时可获得的过去信息;论文中的 causal 主要指这种时间因果性,不代表模型已经完成对接触来源的因果辨识。

    13×2 的序列经过归一化和 GRU,生成宽度为 1024 的交互 token。正文用符号表示 token 数量,未明确给出其具体值,不能从示意图中的两个小块断言输出恰好两个 token。

    动作隐状态作为 query,force token 作为 key/value,执行:

    Z̃_action = Z_action + α_f · g · CA(Z_action, Z_force)

    其中 g_t 是学习到的力存在门,α_f 控制残差幅度。融合发生在 Gemma 动作专家最终隐状态到单一输出投影之间,输出 flow velocity,进而生成手臂、夹爪和名义底盘动作块。GRU 仅编码交互历史,不是另一个动作解码器。力没有经过视觉骨干,但预训练 VLA 仍然进行全参数微调;“不改视觉输入路径”不等于“冻结视觉模型”。

    这一设计无需额外接触分类或阶段预测损失。短历史适合近时接触转变,不能当成长时任务记忆;动作块长度 H、实际执行多长后重规划,以及总时延,正文未提供足够细节。
  • 4. BC:在 VLA 外部学习底盘速度修正
    补偿器结合机械臂推导的机身负载、IMU 姿态与角速度、名义底盘动作。夹爪状态和接触描述用于判断补偿是否与任务交互有关;姿态参考来自近期自由运动。MLP 输出三个修正量:Δvx、Δvy、Δωz。

    训练目标是有力支持时实际执行的底盘指令与任务层名义指令之差,采用 L1 回归:

    r_base,* = u_base,exec − u_base,nom

    部署时先限幅再叠加:

    r_base = r_max ⊙ tanh(r̄_base);u_base = u_base,nom + r_base

    随后还有滤波、变化率与剩余执行空间约束。这避免一个学习模块无限放大底盘动作,但并不构成形式化稳定性证明;补偿置零后恢复的是名义控制路径,也不是必然停止机器人。补偿器的独立更新频率、门控阈值、各轴最大修正和示范中名义/执行指令的详细生成流程,需要代码或补充材料进一步确认。
  • 5. 数据采集与监督边界
    平台是 DeepRobotics M20S 轮足四足机器人,搭载 CM1 六自由度机械臂、一自由度夹爪和三台 RealSense D435i。对照方法在各任务上使用相同 WL&Arm 数据微调 50K 步,统一相机、机器人状态和 16 维动作输出;π0.5 是全参数微调,而非只训练力编码器。

    WL&Arm 的主要任务比例为取放瓶子 41%、擦白板 25%、开门 21%;这些任务约占 87%,不能把整套 5,000 多条数据全部视为强接触示范。基于 Pico 的混合力—位置遥操作记录切向、法向力意图,并用作采集时前馈支持。

    作者明确说明:力意图标注只用于数据元信息和检查,不作为估计器、VLA 或补偿器的输入,以避免把操作者的期望力当成机器人自己测到的真实接触。已知负载标定为 0.36 kg 和 0.72 kg,对应 3.53 N、7.06 N;“无需部署力传感器”不能推导成完全不需要物理标定或带力参考的评估数据。
图 3:200 Hz 交互估计分别进入 VLA 动作专家与机身补偿,再由全身控制器执行。
图 3:200 Hz 交互估计分别进入 VLA 动作专家与机身补偿,再由全身控制器执行。

关键要点

  • 同一外力对手臂是任务进度信息,对机身是稳定性负担;共享估计但区分表示和执行责任,是比“加一个 force token”更完整的系统设计。
  • VLA 消费的是二维接触代理的短历史,补偿模块使用的是保留方向后的负载代理;两者均不能直接等同于经过标定的腕部六维 wrench。
  • 200 Hz 是交互估计频率,15 Hz 是 VLA 查询频率;论文没有据此证明整个动作生成或 WBC 均以 200 Hz 运行。

结果

  • 1. 完整任务:收益集中在持续接触与后续完成阶段
  • 表 2 每项任务 25 次试验。S1–S5 是连续阶段的成功率,应按整条 rollout 的阶段进展理解,不能当作互相独立的阶段条件成功概率再连乘。擦板依次为靠近、拿取、擦拭、放回、离开;开门为靠近、抓握、操作、推开、穿过。
  • 方法擦板 S1 / S2 / S3 / S4 / S5(%)开门 S1 / S2 / S3 / S4 / S5(%)
    OpenVLA60 / 48 / 4 / 0 / 016 / 8 / 0 / 0 / 0
    StarVLA64 / 56 / 12 / 0 / 020 / 12 / 0 / 0 / 0
    OpenPI 0.580 / 28 / 20 / 12 / 1280 / 40 / 12 / 0 / 0
    GR00T N1.676 / 36 / 8 / 0 / 076 / 32 / 8 / 0 / 0
    ACP(真实力输入)72 / 64 / 44 / 20 / 2072 / 44 / 12 / 4 / 4
    ForceVLA(真实力输入)84 / 68 / 36 / 24 / 2476 / 56 / 24 / 12 / 12
    FWBC-GT(真实力输入)84 / 84 / 76 / 60 / 6088 / 84 / 64 / 48 / 48
    FWBC-VLA(估计交互)88 / 84 / 76 / 64 / 6492 / 84 / 64 / 52 / 52
  • FWBC-VLA 擦板完整成功 16/25,开门 13/25;ForceVLA 分别为 6/25、3/25,两项都相差 10 次试验,即 40 个百分点。
  • 相比同源的 π0.5,无力版本最终成功为 12% 和 0%,说明单靠模型预训练和目标平台微调仍不足以完成这些持续接触任务。
  • FWBC-VLA 与使用真实力的 FWBC-GT 分别只差 1 次成功试验。这支持“当前任务中估计交互已经有用”,不能证明估计力优于真实传感器,也没有建立统计等效性。
  • 原文描述开门包含有/无闭门器条件,闭门器在把手处约需 50 N 推力;表 2 没有把这两种条件逐行拆开,因此不把其 52% 擅自解释成所有门况的独立统计。表 3 才明确分开有/无闭门器。
  • 污渍模式的域内/域外比例为 1:2,但论文未给出分别成功率,不能从混合结果声称独立 OOD 成功率达到 64%。
  • 2. 最关键消融:有接触感知,仍可能推不开高阻力的门
  • FI 包含 HSR-Force 估计和动作专家力条件化;BC 进一步把估计负载用于机身修正。下表是四个接触关键阶段的成功率,不是完整任务的最终成功率。
  • 配置压门把手无闭门器推门有闭门器推门擦干净白板四项等权平均
    无 FI、无 BC28%12%0%8%12%
    仅 FI52%56%0%32%35%
    FI + BC60%72%52%76%65%
  • 按表格计算:FI 带来平均 +23 个百分点;继续加 BC 带来 +30 个百分点。有闭门器推门从 0% 到 52%,擦干净白板从 32% 到 76%,是最有说服力的机身补偿证据。此时策略已经拥有接触信息,却仍需纠正身体运动才能完成高负载阶段。
  • 这组实验支持 FI 与 BC 的功能分工,但还没有完整识别两者的独立因果贡献:没有使用相同估计器、只关闭 VLA force token 而保留 BC 的对照。作者称其 FI 定义下 BC-only 不成立,是因为 BC 依赖 FI 的估计输入;解读判断是未来仍可拆开“估计器”和“动作条件化”来设计更干净的消融。
  • 3. 估计器:零负载抑噪、接触识别与加载测力必须分开看
  • 表 1 上半部分的关键结果如下,数值越小代表误差越低,AUC 越高越好。
  • 方法零负载 Force MAE(N)自由运动力矩 MAE(N·m)Touch / Door-phase AUC已知负载逐帧 MAE:静态 / 动态(N)已知负载 episode MAE:静态 / 动态(N)
    NEXT0.280.660.95 / 0.822.52 / 1.432.57 / 1.53
    GMO-SI0.430.560.94 / 0.831.72 / 1.590.78 / 1.18
    DF-MLP0.21—0.47 / 0.502.01 / 1.871.98 / 1.26
    HSR-Force0.150.370.97 / 0.851.09 / 1.210.28 / 1.06
  • 0.15 N 的含义是没有施加外力时,输出能否保持接近零;真正施加 3.53 N/7.06 N 已知负载时,应看 1.09 N/1.21 N 的逐帧误差。表格没有按负载大小拆分误差,也没有验证约 50 N 推门负载下的连续六维标定精度。接触 AUC 较高说明区分有无接触有效,不等于任意方向的真实力矩准确。
  • 表 1 下半部分的三种子消融中,状态分支的 Touch AUC 为 0.92±0.02,历史分支为 0.87±0.03,双分支门控为 0.94±0.03;零负载力误差分别为 1.13±0.35、0.93±0.24、0.25±0.13 N。历史分支更善于降低自由运动力矩误差,状态分支更敏感于接触,融合改善整体折中;但并非每个指标都最好,例如动态已知负载 episode MAE,状态分支 1.70 N 低于融合的 1.84 N。
  • 估计对照正文说可训练模型使用五个种子,下半表明确标为三个种子,两个分组不能混成同一组重复实验统计。接触评估每项指标使用 25 条人工复核 episode,尚缺更大范围和更多扰动类型的验证。
  • 4. v2 原文中的数字冲突与本解读取值规则
  • 位置正文陈述表格或算术可复核结果本解读处理
    §5.2 开门 ManipulateFWBC-VLA 56%表 2 为 64%采用 64%,保留冲突提示
    §5.2 相对 ForceVLA 的中间阶段增益+28 个百分点表 2:64−24=40采用 +40;若按正文 56% 也应为 +32,仍不一致
    §5.3 完整消融平均值与增益59.5%,相对 FI +24.5表 3:(60+72+52+76)/4=65%,相对 35% 为 +30采用 65% 与 +30
    §5.3 低负载两项“几乎不变”压把手、无闭门器推门近乎不变表 3 分别 +8、+16 个百分点写明仍有提升,不沿用“几乎不变”
    §5.1 静态已知负载 episode 误差GMO-SI 最低表 1:HSR-Force 0.28 N,GMO-SI 0.78 N采用表 1;不复述正文排序
  • 这些是公开 v2 的内部不一致,不代表已经获得作者勘误。主要方向性结果仍由表格支持,但引用精确数值或复现实验时应记录版本,等待后续代码和更正确认。
图 6:基线与 FWBC-VLA 的擦板、开门真实执行对比;图片说明失败模式,定量结论以表格为准。
图 6:基线与 FWBC-VLA 的擦板、开门真实执行对比;图片说明失败模式,定量结论以表格为准。
图 4:与开门视频对齐的接触估计,关注触碰、持续加载与释放阶段,而非把代理曲线视为标定后的真实力。
图 4:与开门视频对齐的接触估计,关注触碰、持续加载与释放阶段,而非把代理曲线视为标定后的真实力。

结果速览表

要回答的问题最直接证据应保留的边界
能否完成长程接触任务?擦板 64%,开门 52%各 25 次,单一轮足平台
底盘补偿是否关键?有闭门器推门 0→52%,擦干净 32→76%接触阶段消融,非完整任务成功率
估计信号是否有用?与真实力 FWBC-GT 最终仅差 1 次成功无统计等效/优越性证明
测力到底多准?已知负载逐帧静态/动态 MAE 1.09/1.21 N0.15 N 仅指零负载,未验证 50 N 全量程
是否严格使用过去信息?200 Hz 最近 13 帧,跨 60 ms;VLA 15 Hz时间因果性不等于接触来源辨识
能否直接复现?模型结构、训练步数和任务表格已描述代码/数据入口与部分控制细节待确认

洞察

  • 核心 insight:接触是跨身体的反馈。 在移动操作里,任务成功和机身稳定共享同一外力来源。本文最可迁移的观点是把这两类信息消费者同时接上,而不是期望增加模型容量后自动学会稳定机身。
  • 表示应匹配用途。 低维强度/趋势适合帮助动作专家判断接触过程,带方向的六维残差适合经雅可比构造补偿。未来可以进一步让 VLA 访问方向信息,但本文没有证明二维描述在所有接触任务中最优。
  • 观测器训练是策略性能的一部分。 若持续接触帧污染自由运动学习,策略再大也只能读取被消掉的接触信号。自由运动数据覆盖、接触帧屏蔽以及状态/历史门控,比单纯追逐平均力误差更接近本文的真正工程难点。

和已有方法的关系

  • 与 TA-VLA 的关系。 既有 TA-VLA 笔记强调低成本关节力矩如何进入动作解码器;本文进一步估计自由运动残差,并把受力反馈延伸到移动机身。它们可以沿“原生力矩—外部交互代理—执行控制接口”比较,而不把原始关节力矩和笛卡尔 wrench 当成相同传感模态。
  • 与 CR-VLA-Force 的关系。 既有 CR-VLA-Force 笔记讨论高频柔顺控制追踪策略给定的力与位置;本文主要输出有界底盘速度残差来抵消身体扰动。两者的控制目标和执行接口不同,本文不是一个精确目标力跟踪器。

可借鉴点

  • 可借鉴的复现路线。 先验证自由运动抑噪和持续接触保留,再做严格时间戳对齐的动作侧融合,最后启用限幅机身补偿;逐步检查阶段成功、底盘漂移、末端力误差和峰值负载,能避免只看最终成功率却不知道收益来源。
  • 跨论文关系属于解读者综合,比较对象来自知识库已有阅读记录;本文没有完成这些方法之间的统一硬件对照。

风险与判断

局限

  • 统计证据有限:主要真实任务只有擦板和开门,各 25 次;4 个百分点仅对应一次成功。没有足够证据解释 FWBC-VLA 与 FWBC-GT 的微小差距,也未报告任务成功率置信区间。
  • 精度与载荷范围不匹配:已知负载标定在 3.53 N 和 7.06 N,任务描述的闭门器推力约 50 N。成功推门说明控制有用,但不等于在该量级下测力已准确。
  • 任务相关性辨识仍有限:夹爪状态、接触趋势与 IMU 可帮助门控,论文没有系统验证同时发生任务接触与无关碰撞时能否区分二者;时间因果输入不能替代力来源辨识。
  • 复现信息不完整:公开 v2 缺正文提及的附录,未完整说明雅可比阻尼、门控阈值、补偿更新频率、动作块长度和指令标签生成细节,项目页尚未提供可核验的完整代码/数据入口。
  • 平台和训练依赖:全参数微调和超过 5,000 条平台示范,不属于零样本移植;跨机械臂构型、载荷、地形和摩擦变化是否稳定,仍需新证据。
  • 限幅不等于稳定性证明:滤波、变化率限制和异常置零能约束接口输出,但作者未提供闭环稳定性证明或广泛的失效恢复评测;最终任务仍有 36% 和 48% 的失败。

适用场景

  • 已有可靠关节力矩、本体感知和 IMU,新增腕部 F/T 传感器代价较高,同时操作会明显扰动底盘的移动机器人。
  • 存在持续、有方向负载的推门、擦拭等任务,且能采集目标平台示范、标定自由运动模型、保留成熟 WBC 作为执行底座。
  • 可将它作为接触感知与机身协调的研究原型;精密装配、脆弱物体操作或需要可验证峰值力限制的场景,应另行验证真实测力与安全控制能力。

最终判断

  • 值得跟进,核心价值在系统接口与功能分工。 表 3 最清楚地说明:已有力感知的策略仍可能在持续高负载下失败,而机身补偿能补上缺口。
  • 证据等级是单平台、双任务的实机验证。 不把其结论扩写为“无力传感器实现通用精确力控”,也不把 65% 接触阶段均值误报为完整任务成功率。
  • 优先等待代码、数据和数字勘误;进一步验证时重点看估计误差对任务性能的敏感性、50 N 量级加载精度、对突发外部扰动的响应,以及拆分估计器与动作 token 的消融。

Contact-Rich Manipulation and Adaptive Compliance

接触密集操作中的运动—力联合学习路线:如何从示范、实时反馈、关节力矩、训练期力蒸馏、力域动作或动作后果预测获得任务相关接触表示,并在安全接触、轨迹精度、硬件成本、快速响应与控制带宽之间动态权衡。

打开主题

继续阅读

上一篇

OM-1

OM-1 最值得研究的是“怎样把人类操作保真地记录下来,并让不同机器人实时执行”这条完整链路。它用 Omnibody Hand 采集人类示教,由多模态策略产生动作,再由仿真强化学习得到的控制层执行。“策略只学人类数据”与“控制器使用仿真 RL”属于不同层次。 现有材料支持把它视为一个有吸引力的系统方向;尚不足以复现网络,或证明在标准基准上超过其他通用策略。

下一篇

VLA-Precision: Asymmetric Co-Bootstrapping for Efficient Real-World Online RL of Vision-Language-Action Models

VLA-Precision 的核心贡献是把真实世界 VLA 在线 RL 的两个瓶颈一起处理:ACoB 用“先快速吸收人类纠正、再逐步信任 critic”的非对称学习节奏抑制策略漂移,ACoB-Stream 则缓存冻结前缀的 KV context,只按需读取上下文并同步 LoRA 状态。九项高精度化学操作共 180 次测试成功 177 次,平均每任务在线训练 45.8 分钟后达到 98.3% 成功率;但这是任务级精修、持续有人类接管且使用 4 张 A800 的受控实验室证据,不等同于开放世界通用可靠性。