【CVPR 2023】CABM:Content-Aware Bit Mapping for Single Image Super-Resolution Network with Large Input

Posted by ShawnD on December 9, 2023

Abstract

随着高清显示设备的发展,超分辨率(SR)的实际场景通常需要将大尺度输入如 2K 提升至更高分辨率(4K/8K)。

为了降低计算和内存成本,现有方法首先将大尺度输入分成局部图块,然后将这些SR图块合并输出。

这些方法为每个图块自适应分配一个子网。量化是网络加速的一项非常重要的技术,已被用来设计子网。

当前方法训练一个多层感知机(MLP)位选择器来确定每层的适当位数。然而,它们均匀地对子网进行采样训练,导致简单子网过拟合而复杂子网欠拟合。因此,训练出来的位选择器无法确定最佳的位数。

除此之外,引入的位选择器还会给SR网络的每一层带来额外的开销。在本文中,我们提出了一种名为内容感知位映射(CABM)的新方法,能够在不损失任何性能的情况下移除位选择器。CABM也在训练过程中为每一层学习一个位选择器。

训练后,我们分析输入图块的边缘信息与每层位数之间的关系。我们观察到边缘信息可以作为选择位数的有效指标。

因此,我们设计了一种策略,构建一个在推理过程中将图块的边缘分数映射到每一层位数的边缘至位查找表。SR网络的位配置可以通过所有层的查找表来确定。我们的策略可以找到更好的位配置,从而实现更高效的混合精度网络。

我们进行了详细的实验以展示我们方法的泛化能力。