NeoVerse: 利用野外单目视频增强 4D 世界模型

发表
Yuxue YangYuxue Yang 提交
作者: Yuxue YangYuxue Yang, Lue FanLue Fan, Ziqi ShiZiqi Shi, Junran Peng, Feng Wang, Zhaoxiang Zhang

摘要

AI 生成总结
NeoVerse 是一个可扩展的 4D 世界模型,能够从单目视频中实现无姿态重建和新轨迹视频生成,并具有最先进的性能。
在本文中,我们提出了 NeoVerse,这是一个通用的 4D 世界模型,能够进行 4D 重建、新轨迹视频生成以及丰富的下游应用。我们首先指出了当前 4D 世界建模方法中普遍存在的扩展性限制,这些限制要么是由昂贵且专门的多视角 4D 数据引起的,要么是由繁琐的训练预处理造成的。相比之下,我们的 NeoVerse 建立在一个核心理念之上,即通过该理念使整个流水线能够扩展到各种野外单目视频。具体而言,NeoVerse 的特点包括无需位姿的前馈 4D 重建、在线单目退化模式模拟以及其他高度对齐的技术。这些设计赋予了 NeoVerse 应对各种领域的通用性和泛化能力。同时,NeoVerse 在标准的重建和生成基准测试中达到了最先进的性能。我们的项目页面位于:https://neoverse-4d.github.io
查看 arXiv 页面查看 PDF

评论

Yuxue YangYuxue Yang
论文作者
论文提交者

NeoVerse 是一个通用的 4D 世界模型,能够进行 4D 重建、新轨迹视频生成以及丰富的下游应用。
项目主页:https://neoverse-4d.github.io