高清几何缓存多尺度特征融合的渲染超分方法

来源：软件学报杂志2024年第6期北京时间：

作者：张浩南，过洁，覃浩宇，傅锡豪，郭延文

单位：张浩南，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002311,过洁，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002302,覃浩宇，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002303,傅锡豪，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002304,郭延文，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002305

摘要：人们对图像显示设备高分辨率和逼真视觉感知的需求随着现代信息技术的发展日益增长, 这对计算机软硬件提出了更高要求, 也为渲染技术在性能与工作负载上带来更多挑战. 利用深度神经网络等机器学习技术对渲染图像进行质量改进和性能提升成为了计算机图形学热门的研究方向, 其中通过网络推理将低分辨率图像进行上采样获得更加清晰的高分辨率图像是提升图像生成性能并保证高清细节的一个重要途径. 而渲染引擎在渲染流程中产生的几何缓存(geometry buffer, G-buffer)包含较多的语义信息, 能够帮助网络有效地学习场景信息与特征, 从而提升上采样结果的质量. 设计一个基于深度神经网络的低分辨率渲染内容的超分方法. 除了当前帧的颜色图像, 其使用高分辨率的几何缓存来辅助计算并重建超分后的内容细节. 所提方法引入一种新的策略来融合高清缓存与低清图像的特征信息, 在特定的融合模块中对不同种特征信息进行多尺度融合. 实验验证所提出的融合策略和模块的有效性, 并且, 在和其他图像超分辨率方法的对比中, 所提方法体现出明显的优势, 尤其是在高清细节保持方面.

关键词：神经网络;渲染;图像超分;几何缓存;特征融合

基金资助：国家自然科学基金(61972194, 62032011); 江苏省自然科学基金(BK20211147)