⏶23
使用流先验对齐潜在空间
发表
由
Yizhuo Li 提交

作者:
Yizhuo Li, Yuying Ge, Yixiao Ge, Ying Shan, Ping Luo

摘要
本文提出了一种新颖的框架,通过利用基于流的生成模型作为先验,将可学习的潜在空间与任意目标分布对齐。我们的方法首先在目标特征上预训练一个流模型,以捕捉底层分布。然后,这个固定的流模型通过一个对齐损失来正则化潜在空间,该损失将流匹配目标重新表述为将潜在变量视为优化目标。我们正式证明,最小化此对齐损失可以建立一个计算可行的替代目标,用于最大化目标分布下潜在变量对数似然的变分下界。值得注意的是,所提出的方法消除了计算昂贵的似然评估,并在优化过程中避免了 ODE 求解。作为概念验证,我们在受控设置中证明了对齐损失景观与目标分布的负对数似然密切近似。我们通过 ImageNet 上具有各种目标分布的大规模图像生成实验进一步验证了我们方法的有效性,并附有详细的讨论和消融研究。通过理论和实证验证,我们的框架为潜在空间对齐开辟了新途径。
📽️ 项目页面:https://liyizhuo.com/align/
📄 论文:https://arxiv.org/abs/2506.05240
💻 代码:https://github.com/liyz15/Aligning-Latent-Spaces-with-Flow-Priors