⏶28
HoloPart:生成式3D部件非模态分割
04月10日发表
04月11日由
Yunhan Yang 提交

作者:
Yunhan Yang,
Yuan-Chen Guo,
Yukun Huang,
Zi-Xin Zou, Zhipeng Yu,
Yangguang Li,
Yan-Pei Cao,
Xihui Liu

摘要
3D 部件非模态分割——将 3D 形状分解为完整、语义上有意义的部件,即使在遮挡的情况下也是如此——对于 3D 内容创作和理解来说是一项具有挑战性但至关重要的任务。现有的 3D 部件分割方法仅识别可见的表面片,限制了它们的实用性。受到 2D 非模态分割的启发,我们将这项新颖的任务引入到 3D 领域,并提出了一种实用的两阶段方法,解决了推断遮挡的 3D 几何形状、保持全局形状一致性以及处理训练数据有限的各种形状的关键挑战。首先,我们利用现有的 3D 部件分割来获得初始的、不完整的部件分割。其次,我们引入 HoloPart,一种新颖的基于扩散的模型,用于将这些分割补全为完整的 3D 部件。HoloPart 利用具有局部注意力机制的专用架构来捕捉细粒度的部件几何形状,并利用全局形状上下文注意力机制来确保整体形状一致性。我们基于 ABO 和 PartObjaverse-Tiny 数据集引入了新的基准,并证明 HoloPart 显著优于最先进的形状补全方法。通过将 HoloPart 与现有的分割技术相结合,我们在 3D 部件非模态分割方面取得了可喜的成果,为几何编辑、动画和材质分配等应用开辟了新的途径。
项目页面: https://vast-ai-research.github.io/HoloPart
Github 代码: https://github.com/VAST-AI-Research/HoloPart
互动演示: https://huggingface.co/spaces/VAST-AI/HoloPart