⏶22
ACID:通过逆动力学实现世界模型规划中的动作一致性
发表
由
Gawon Seo 提交
作者:
Gawon Seo,
Dongwon Kim, Suha Kwak
摘要
AI 生成总结
ACID 是一种决策时规划框架,通过强制循环动作一致性来增强动作条件世界模型,从而提高轨迹真实感并减少计算需求。基于动作条件世界模型的决策时规划已成为具身控制的流行范式。然而,标准的规划成本仅根据候选轨迹的预测终点状态与目标的接近程度来判断,而忽略了中间过渡的可实现性——一个预测的轨迹可能看起来很有说服力,但环境的实际展开却可能偏离它。在本文中,我们提出了ACID,一个决策时规划框架,它引入了循环动作一致性:通过逆动力学模型从预测过渡中反向推断的动作应该恢复被条件化的动作。我们将这一每步残差通过尺度不变的自适应权重折叠到规划成本中。在涵盖刚性与可变形操作、关节控制和视觉导航的四种动作条件世界模型和六项任务中,ACID持续改进了规划,并以显着减少的规划计算量达到了基线的准确性。
决策时规划仅根据候选方案的预测最终状态与目标的接近程度进行评分,从未检查该路径是否可实现。ACID增加了循环动作一致性:一个逆动力学模型推断每个预测转换背后的动作,其与条件动作的不匹配成为每一步的规划成本——这以显著减少的计算量改进了四个世界模型和六个任务的规划。
(左):基于动作条件世界模型的决策时规划:一个带有CEM的MPC搜索候选动作序列 \(a{0:H-1}\) 以最小化增强规划成本。当前观测 \(o0\) 被 \(E\theta\) 编码为 \(z0\),世界模型 \(F\theta\) 从 \((z0, a{0:H-1})\) 展开一个潜在轨迹 \(\hat{z}{1:H}\)。然后,逆动力学模型 \(G\phi\) 接收每个预测转换 \((\hat{z}t, \hat{z}{t+1})\) 并推断出能解释该转换的动作 \(\hat{a}t\)。
(右):增强规划成本结合了两个项:目标成本,它偏好预测最终潜在状态接近目标的候选动作序列;以及动作一致性成本,它偏好预测轨迹在环境中可实现的候选动作序列。