⏶31
LightLab:使用扩散模型控制图像中的光源
发表
由
Nadav Magar 提交
作者:
Nadav Magar, Amir Hertz, Eric Tabellion, Yael Pritch, Alex Rav-Acha, Ariel Shamir, Yedid Hoshen
摘要
我们提出一种简单但有效、基于扩散的方法,用于对图像中的光源进行精细的、参数化的控制。现有的重照明方法要么依赖于多个输入视图在推理时执行逆向渲染,要么无法提供对光照变化的明确控制。我们的方法在一小部分真实的原始照片对上微调一个扩散模型,并辅以大规模合成渲染图像,以利用其用于重照明的逼真先验能力。我们利用光的线性特性来合成描绘目标光源或环境光受控变化的图像对。利用这些数据并采用适当的微调方案,我们训练了一个可以精确改变光照、并明确控制光照强度和颜色的模型。最后,我们展示了我们的方法如何实现引人注目的光照编辑结果,并且根据用户偏好优于现有方法。




我们最近发表了一篇研究论文,标题是:"LightLab:使用扩散模型控制图像中的光源" (已被 SIGGRAPH 25 接收)。
在论文中,我们展示了如何从单张图像实现对可见(和环境)光源的控制。
这篇论文的前提是,可以利用经典的计算摄影技术,从描绘可见光源变化的成对图像生成物理精确的训练数据。
我们还研究了用合成渲染数据补充这个小数据集如何影响训练模型的结果。
就我个人而言,由于方法的简洁性以及以巧妙方式使用的相对低多样性数据集,结果的质量令人惊讶。
项目页面:https://nadmag.github.io/LightLab/