REGEN:通过双阶段生成网络框架在游戏中实现实时照片级逼真度增强

发表
Stefanos PasiosStefanos Pasios 提交
作者: Stefanos PasiosStefanos Pasios, Nikos Nikolaidis

摘要

照片级真实感是现代视频游戏的重要方面,因为它可以塑造 玩家的体验,同时影响沉浸感、叙事 参与度和视觉保真度。尽管近期的硬件技术 突破以及最先进的渲染技术 显著提高了视频游戏的视觉真实感,但实现真正的 动态环境中的照片级真实感,并且保持实时帧率,仍然是一个 重大挑战,这归因于视觉质量和性能之间的权衡。在本篇短文中,我们提出了一种新颖的方法,用于增强 渲染的游戏帧的照片级真实感,利用生成对抗网络。为此,我们 提出了一种通过双阶段生成网络框架(REGEN)在游戏中实现实时照片级真实感增强的方法,该方法采用 一种鲁棒的非配对图像到图像翻译模型来生成语义一致的照片级真实感帧,将问题转化为 更简单的配对图像到图像翻译任务。 这使得能够使用一种轻量级方法进行训练,该方法可以在不牺牲视觉质量的情况下实现实时 推理时间。我们在《侠盗猎车手V》中展示了我们框架的有效性,表明该方法在视觉效果上 可与鲁棒的非配对Im2Im方法相媲美,同时将推理速度提高了 32.14 倍。我们的研究结果还表明,该方法优于 直接训练一个轻量级非配对Im2Im翻译方法以将视频游戏帧转换为 真实世界图像视觉特征所产生的照片级真实感增强帧。相关代码、预训练模型和演示可在以下网址获取:https://github.com/stefanos50/REGEN
查看 arXiv 页面查看 PDF
REGEN:通过双阶段生成网络框架在游戏中实现实时照片级逼真度增强

评论

Stefanos PasiosStefanos Pasios
论文作者
论文提交者

照片般逼真(Photorealism)是现代电子游戏的一个重要方面,因为它能够塑造玩家的体验,同时影响沉浸感、叙事参与度和视觉保真度。尽管最近的硬件技术突破以及最先进的渲染技术显著提高了电子游戏的视觉真实感,但由于视觉质量和性能之间的权衡,在实时帧率下实现动态环境的真正照片般逼真仍然是一个重大挑战。在本篇短文中,我们提出了一种利用生成对抗网络增强渲染游戏帧照片般逼真度的新方法。为此,我们提出了通过双阶段生成网络框架(REGEN)在游戏中实现实时照片般逼真度增强,该框架采用强大的非配对图像到图像翻译模型来生成语义一致的照片般逼真帧,从而将问题转化为更简单的配对图像到图像翻译任务。这使得我们可以使用一种轻量级的方法进行训练,该方法可以在不牺牲视觉质量的情况下实现实时推理。我们在《侠盗猎车手 V》上展示了我们框架的有效性,结果表明,该方法实现的视觉效果与强大的非配对 Im2Im 方法产生的效果相当,同时将推理速度提高了 32.14 倍。我们的研究结果还表明,该方法在照片般逼真度增强方面的效果优于直接训练轻量级非配对 Im2Im 翻译方法,将电子游戏帧转换为现实世界图像的视觉特征。本工作的代码、预训练模型和演示可在以下网址获取:此 https URL