[论文阅读] Deep Image Prior

动机

这篇文章说明了一个很有意思的观点，即：网络对自然图像有天然的低阻抗，对不规则噪声等具有天然的高阻抗。而网络的这一特性与网络参数，或者说学习，是无关的。

我们平常认为的网络学习是两部分构成，一部分是网络的结构，参数随机的网络结构本身就能够作为较强大的先验提取器，有能力从中提取出图像信息，而过滤掉噪声信息。另一部分则是通过对数据进行学习，即对网络参数权重进行优化，从而让这一先验变得更强大。作者的工作主要讨论了第一部分，网络本身结构就可以作为强大的先验提取器（而无需训练），提取有用信息，过滤噪声信息。作者将网络这种能力比喻成Swiss Knife。

方法

一般来说，逆问题可以转化为下面形式进行求解：

其中x是输出图像，是要优化的对象，x0是输入图像，E是由任务而定的数据忠诚项，R(x)是先验项，用来学习我们想要恢复出来的图像特征信息，用来区分有用的信息和无用的信息。一般来说很多传统方法都在设计这个先验R(x)，如TV等。神经网络的学习我认为也可以看作是对R的建模，只不过神经网络引入了标签Y来学习这个R。