See to Reach, Feel to Grasp: Learning A Blind Grasp Reflex for Anthropomorphic Robotic Hands
See to Reach, Feel to Grasp: Learning A Blind Grasp Reflex for Anthropomorphic Robotic Hands
Alexander Alexiev · Tzu-Yuan Lin · Sang Min Kim · Ho Jae Lee · Yonghyeon Lee · Sangbae Kim
一句话结论
值得记住的是一种可复用的手部抓握接口：机械臂负责把手送到物体附近，手只凭关节反馈完成接触适应，并主动报告何时可以开始搬运。仿真中的动态与位置泛化明显优于本文适配的端到端基线，但真机只是多样性和组合能力演示，没有重复试验成功率，不能把它当成已验证的通用可靠抓手。
关键词
摘要
中文摘要
本文研究机器人手能否仅用本体感觉、在没有视觉观测的情况下抓取多种物体。作者提出模块化灵巧抓取架构，将全局机械臂运动与局部接触控制分离：独立控制的机械臂引导手接近物体，强化学习策略仅凭手部本体反馈抓取并稳定物体。作者将其称为盲抓握反射，即不使用图像、物体位姿或几何观测的抓握。学到的稳定抓握分数判断物体是否被可靠握住，使机械臂能够开始抓后操作。这种分工把抓握变成可复用的手部技能，可与独立设计的机械臂控制器组合完成多种操作任务。仿真和硬件实验展示了跨物体盲抓取及与多种机械臂控制器组合的能力。此外，尽管从未观察接触几何，学到的抓握分数仍与独立的物理抓握稳定性度量高度一致。其原则是：用视觉到达，用感觉抓握。项目页：blindgraspreflex.github.io。
英文摘要
In this work we study if a robotic hand using proprioception alone can grasp diverse objects with no visual observation. We present a modular dexterous grasping architecture that separates global arm motion from local contact control. An independently controlled arm guides the hand toward the object, while a reinforcement learning policy grasps and stabilizes it using only hand proprioceptive feedback. We call this a blind grasp reflex: grasping without images, object poses, or geometric observations. A learned stable-grasp score determines when the object is securely held, allowing the arm to begin post-grasp manipulation. This separation makes grasping a reusable hand-level skill that can be combined with independently designed arm controllers for various manipulation tasks. Experiments in simulation and on hardware demonstrate robust blind grasping across diverse objects and seamless composition with a range of arm controllers. Moreover, despite never observing contact geometry, the learned grasp score closely aligns with an independent physics-based measure of grasp stability. The resulting approach follows a simple principle: see to reach, feel to grasp. Project page: blindgraspreflex.github.io.
直观理解
闭眼握杯子时，手指碰到杯壁后不会继续按原计划自由运动。这个系统利用类似线索：比较“刚才让手指走到哪里”和“手指实际走到哪里”，从几帧偏差推断接触，再调整各指目标。手同时给机械臂一个“握稳了”的信号；抬起后信号下降，就退回接近阶段再试。这里的“感觉”来自编码器与控制指令，没有专用触觉、力或力矩测量；视觉仍可用于机械臂定位。
图1：展示形状与材质多样性，不是逐物体重复试验统计。
背景与问题
为什么做
多指抓取的关键困难在于接触形成以后，各手指需要根据物体阻挡、初始位置误差和扰动持续调整。先生成预抓取姿态再按固定目标闭合，容易在真实定位不准时失效；而将视觉、机械臂运动与手指接触全部联合学习，又可能把可复用的局部稳定技能绑定到特定工作空间和物体几何分布。
问题缺口
已有盲抓取可依赖机械柔顺、触觉传感器，或继续输入机械臂末端目标。本文追问更严格的边界：不提供机械臂状态、末端目标、物体几何和专用接触传感，单靠手部局部历史能否获得并维持抓握？同时，怎样让手自主告诉机械臂何时进入后续操作，而不是依赖固定等待时间？
方法
方法概述
系统由独立机械臂模块、学习手部模块和底层速度控制器组成。机械臂输出目标手掌位姿和二值启用指令，手部策略从五帧关节角及其相对已下发位置指令的误差，输出二十个关节目标和一个抓握分数。训练先在仿真中用特权接触与物体状态通过 PPO 学教师，再用 DAgger 蒸馏为只读局部历史的学生；部署时冻结手部策略，替换上游机械臂行为。
核心机制
隐式接触信息来自执行器闭环，而非编码器静态姿态本身。物体阻挡手指时，测量位置无法追上仍在推进的命令位置，误差及时间变化就携带受阻线索。关键是使用底层限速后的命令 q_cmd，而非神经网络远期目标 q_tgt：后者的差值会混入尚未执行的运动，前者更接近实际伺服受力。策略另外输出抓握分数 gamma，分数越过高阈值才抬起，跌破低阈值则回到接近；高低双阈值形成滞回。教师没有稳定性标签，过早抬起导致掉落、拖延抬起损失高度和保持奖励，因此任务回报间接塑造切换信号。
方法拆解
- 特权教师与任务回报。 教师观测各手部连杆的二值接触、物体相对手掌的三维位置和二十个关节角，共 44 维；非对称 critic 额外看到物体世界位置及速度。PPO 的 actor/critic 都用单层 256 单元 GRU 加 256/128/64 MLP，以整合接触历史。奖励由内侧接触覆盖、相对起始高度的截断提升量和高处目标附近的逐步保持项加权组成，并乘控制周期；稳定性分数不是单独分类监督，也没有动作变化率或能量惩罚。
- 学生观测与在线蒸馏。 学生输入 H=5 帧，每帧二十维 q 与二十维 q−q_cmd，总计 200 维，约覆盖 0.42 秒历史；网络是 256/128/64 的前馈 MLP。DAgger 让学生实际访问环境，再由冻结教师给这些状态上的动作标签，最小化完整 21 维动作的均方误差，其中包含二十个目标与分数。这样同时蒸馏“怎样抓”和“何时通知机械臂”，降低仅模仿教师轨迹造成的状态分布偏移。
- 人类抓握协同先验。 把人类示范姿态重定向到机器人手后拟合 PCA，得到均值姿态和低维方向。输出采用 q_tgt=(1−beta)q_raw+beta·Pi(q_raw)，Pi 是 PCA 子空间投影，默认 beta=0.5。它鼓励协调的手指运动，同时保留偏离人类姿态流形的自由度，以补偿重定向误差；beta=1 的硬约束反而大幅损伤抓取。正文未明确保留的 PCA 维数，不能凭公式自行补齐。
- 双向握稳接口与可逆阶段机。 机械臂送入手掌目标位姿和 engage；手部返回 gamma∈[0,1]。训练机械臂只有接近与抬起两阶段：接近估计物体位置、达到距离条件后启用抓取，分数超过高阈值则抬起，低于低阈值则重新接近，中间区间保持原阶段。部署可换成语言拾放、目标跟踪或旋灯泡流程；engage 还负责释放，手在搬运过程中持续稳定接触。这是任务相关就绪信号，并非经校准的成功概率。
- 限速控制器构成感知链的一部分。 手部速度按目标与上次命令之差做分段线性限幅，远处以最大速度前进，近目标时逐渐减速；积分更新从上一命令开始，而不从当前测量角重置。因此手指受阻时命令仍可推进，通过 PD 误差产生关节作用力，也为学生保留受阻证据。机械臂训练用阻尼最小二乘 IK，硬件改用满足关节、速度和线性化避碰约束的 QP；手臂和手最终均通过带重力补偿的 PD 跟踪。
- 训练分布与运行节奏。 MuJoCo Warp 在单张 GPU 上并行 4096 个世界，物理步长 4 ms，每 21 步决策一次，即 84 ms，episode 为 10 秒。训练使用完整 YCB 物体并改变均匀尺度，随机化物体质量、位置、尺寸、手掌偏移、外部速度扰动以及手部速度限制和伺服增益。教师与学生合计约 4 个 L40S GPU 小时；跨机械臂复用发生在固定手和相容接触运动的前提下，不等于跨手型直接迁移。
关键要点
- “不测力”不意味着不依赖力学：编码器与命令误差通过伺服动力学构成接触代理，感知设计必须与限速、增益和命令更新方式一起考虑。
- 抓握分数的实际作用是调度和恢复。相同手策略去掉分数、改成 5 秒后抬起，YCB 覆盖率从 96% 降至 73%，说明双向交互是方法主干。
- 人类先验应作为软约束：beta=0.5 达 96%，完全投影只剩 28%，手部硬件与示范重定向之间仍需策略修正空间。
结果
结果速览表
| 判断问题 | 证据 | 边界 |
|---|---|---|
| 低传感抓取能否成立？ | 200 维本体历史，YCB/GraspXL 96%/95% | 30 秒窗口、可重抓；并非单次 96% |
| 分数是否有用？ | 去分数后 YCB 73%，完整 96% | 定时 5 秒基线；不是单独分数预测精度 |
| 是否学到物理稳定线索？ | episode 平均 Spearman +0.77 | 仿真相关，不是安全保证 |
| 真机证据多强？ | 29 种物体与三种上游行为演示 | 无逐物体重复成功率 |
| 复现成本怎样？ | 教师与学生约 4 L40S GPU 小时 | 不含完整建模、调参和硬件集成成本 |
洞察
风险与判断
局限
- 真机没有重复试验分母、置信区间和与基线的匹配统计；29 种物体成功演示不能写成真机 100% 成功率。动态仿真只选近球形物体，尚不足以代表薄片、极端长形或可变形目标的复杂移动抓取。
- 学生部署虽盲，教师仍用特权接触和物体状态，训练仍需物体几何与仿真；整个系统也可能用视觉、深度和追踪。主张应限定为手部执行期局部观测。
- 代理力依赖伺服增益、摩擦、传动与限速，未证明跨手型直接迁移。没有触觉空间分辨率，不能保证辨别滑移、脆弱接触、软物体形变或对物体的损伤风险。
- 分数不是概率或硬安全保证。奖励没有显式能量、峰值接触力或物体损伤约束，速度限制提供平滑性也不等于力安全；正文未完整披露所有权重、阈值和 PCA 维数。
适用场景
- 已有可靠到达控制器，希望在相同灵巧手上低传感成本地补充接触适应、抓取保持、就绪判断与重抓的系统；尤其适合比较模块化技能接口能否跨上游控制器复用。
- 工程复现应先对齐 q_cmd 的真实含义、PD 与限速回路，再校验抓握阈值和后续运动负载；易碎物体、精密指尖操作、快速甩动与安全关键搬运还需额外反馈和约束。
最终判断
- 这是“局部本体闭环 + 双向阶段协调”的强概念验证，值得跟进。最可复用的是观测与控制器共同设计、就绪信号作为动作维度，以及固定手策略与独立机械臂的组合方式；当前证据支持仿真鲁棒性和真机可行性，尚不支持广泛部署可靠性或触觉可被普遍替代。
相关主题
Contact-Rich Manipulation and Adaptive Compliance
接触密集操作中的运动—力联合学习路线：如何从示范、实时反馈、关节力矩、训练期力蒸馏、力域动作或动作后果预测获得任务相关接触表示，并在安全接触、轨迹精度、硬件成本、快速响应与控制带宽之间动态权衡。
打开主题
继续阅读
上一篇
HarnessPAI: An Evolving Harness for Physical AI
HarnessPAI 的核心主张是：Physical AI 的瓶颈不只藏在 VLA/WAM 权重里，也在把感知、语言 grounding、几何推理、动作调用和验证组织起来的执行系统中。它把任务写成可执行程序；单次 rollout 内程序固定、逐步检查、没有在线高层 LLM deliberation；跨 rollout 则由代码轨迹、 rollout 视频和成功契约驱动程序演化，并把失败修复沉淀为按任务图节点检索的技能库。包装冻结的 π0.5 后，LIBERO-PRO 从 34.9% 升至 96.5%；包装 WorldDreamer 后，RoboCasa Atomic-Seen 从 65.0% 升至 92.2%。成功轨迹还能作为无人工标签的扰动场景专家数据，把 π0.5-LIBERO 的 LIBERO-PRO 成功率从 34.9% 微调到 73.7%。
下一篇
RoboFoundry: System-as-Policy Evolution for Self-Learning Embodied Agents
RoboFoundry 的关键转向是把 “embodied policy” 从基础模型本体扩大为围绕模型运行的完整系统：进入模型的活动上下文、跨 episode 文件记忆、原子技能与复合技能、恢复树、语义/执行绑定，以及记录这些组件如何被调用的 trace，都成为可以诊断和修改的对象。基础模型权重保持冻结；所谓 self-evolving 是系统文件、规则、接口和技能库在被执行反馈验证后持久更新。 它的外循环是 Act–Reflect–Repair–Promote：先执行并记录 trace，再把失败归因到 perceive / reason / plan / save / retrieve / utilize 六类能力，随后生成任务级修订；如果同类能力的其他任务 held-out trace 没有退化，才把任务经验抽象成通用系统规则。这个设计把组件级优化提升到系统级优化，同时用显式 scope 和验证避免无约束自我改写。实验覆盖 1,128 个 EmbodiedBench 任务、RoboMemArena、LIBERO-PRO 和真实机器人；GPT-5.5 平均成功率从 56.9% 提升到 72.7%，Qwen3.7-Plus 达到 70.3%，真实机器人上也能跨任务和跨本体继续演化。