RynnWorld-Teleop:一种用于数字遥操作的动作条件世界模型

发表
taesiritaesiri 提交
作者: Haoyu Zhao, Xingyue Zhao, Hangyu Li, Biao Gong, Kehan Li, Siteng HuangSiteng Huang, Xin Li, Deli Zhao, Zhongyu Li

摘要

AI 生成总结
数字遥操作用生成式世界模型取代物理机器人交互,为机器人学创建多样化的训练数据,实现高效的零样本 Sim2Real 迁移和改进的真实世界性能。
扩展机器人学习需要大量多样的轨迹数据,但目前数据收集受到物理遥操作的瓶颈,每次演示都将操作员的时间束缚在特定的硬件和工作空间上。我们引入了数字遥操作,这是一种通过用生成式世界模型取代真实机器人来将数据收集与物理约束解耦的范式。在这个框架中,操作员的手部姿态流驱动以机器人为中心的生成式世界模型,从单个参考图像合成高保真度的以自我为中心的视频。记录的姿态流作为与具身无关的动作标签,可以通过标准重定向转移到任何目标机器人,从而生成独立于物理硬件的用于模仿学习的完整状态-动作轨迹。我们在RynnWorld-Teleop中实例化了这一范式,该系统集成了深度感知骨骼条件、在视频扩散Transformer上进行渐进式人机训练,以及流式自回归蒸馏。该流水线将生成过程压缩为单次推理,在单个H100 GPU上实现了40+ FPS的实时交互式生成。仅在RynnWorld-Teleop生成的数据上训练的策略,在灵巧多样的双手任务中实现了有效的零样本Sim2Real迁移。此外,用我们的数字遥操作数据增强真实世界数据集,持续提高了成功率,表明RynnWorld-Teleop是下一代机器人智能体的高保真、可扩展数据引擎。
查看 arXiv 页面查看 PDF