MRF(A generative Perspective on MRFs in Low-level Vision)
摘要:
MRF是先验知识比较流行的概率模型。利用简单势函数的MRF模型和有效的GIbbs采样,我们发现一般的模型不能很好地获得自然图像的统计。我们用这个模型通过计算贝叶斯最小均方差(MMSE),通过采样的方法来处理了图像复原。指出了一般MRF模型的缺点。实验表明把我们学习得到的生成模型和基于MMSE方法的采样方法结合,将会产生很好的结果。
1.介绍:
自然图像和场景统计的学习,提供了MRF学习和特定的模型选择的动机。例如势函数的选择,一般很少评价MRF模型是如何很好地捕获图像的统计特性。之前有人做的是,通过在图像先验中采样,并计算模型采样的梯度直方图。代替的是,通常在一个特定的应用中取评价一个模型,例如在图像先验模型后的图像去噪。这是因为计算MRF的边际分布和其他概率特性比较难。采样是唯一的选择。但是一般的Gibbs采样又比较低效。
本文主要研究的是MRF的生成概率部分,并给出一个严格的概率解释。我们主要针对的是先验和图像复原。对GSM模型的FOE,我们主要利用的是GSM势函数可以通过辅助变量,然后很方便地利用Gibbs采样。用这个工具箱,我们分析对图像先验的采样的生成特性。包括模型特征的边际分布,多尺度梯度,和随机滤波器。作为定量的分析,我们建议用边际分布的KL距离。我们使用一个较有效的采样方法。分析pairwise MRF和high order MRF模型的一些概率特性。惊奇的发现,这些模型是比较差的生成模型。如图2.
为了理解这个,我们使用辅助变量的Gibbs采样,使用对比收敛的方法学习pairwise MRF和high order MRF,并分析他们的特性。第一次提出势函数的形状对捕获自然图像统计特性是很重要的。
3,一般MRF的生成特性
评价MRF先验的质量:计算模型的似然度,这个是比较困难的。这篇文章利用的是:通过在模型中采样,评价采样的质量。
测试图:利用3000个随机抽取的32*32的非重叠块,转换成灰度。训练:3000个50*50的图像。为了从模型中采样,我们设置了3个链,并评价它的收敛性。
Pairwise MRF:我们第一次分析pairwise MRF模型的生成特性。有人还用势函数去拟合梯度直方图,结果并不满意,因为梯度直方图和势函数并没有直接关系。
这些势函数真的能捕获自然图像的统计吗?(1)Laplace (2)GSM:由图1们发现,成对MRF模型不管使用哪个势函数都不能获得真实图像的梯度统计。Pairwise MRF可以理解为捕获一阶梯度的最大熵模型,势函数的形状是唯一的罪人??
高阶MRF:因为pairwise MRF是对一阶梯度的模型,能力有限。引入high order MRF,目前的FOE模型,可以根据势函数和滤波器的不同分类。
我们通过滤波器响应的边际分布来分析生成特性。
比较了三种FOE模型的质量,发现还是3*3FOE模型最好。
4.更好的学习生成模型MRF
本文实验对象有2个:
(1)pairwise MRF。滤波器固定,势函数采样一个GSM势函数(一个高斯分量)。
由图1发现,我们学到的势函数,比统计分布重尾,更像是一个t分布。它更正确的捕捉到了图像的统计特性,KLD=0.006
(2)High order MRF:3*3 clique。8个GSM的势函数。
分析:主要有两个特征:(1)任意的非0均值滤波器作用于图像都会有重尾分布图5a。(2)梯度统计的尺度不变性图5d。这边分析的是图像边界统计和模型的边界统计的KL距离。由b和e可以看出,我们的pairwise MRF模型可以捕获随机3*3滤波器的统计,由e可以看出对小尺度的图像拟合比较好。
而FOE模型则可以捕获大尺寸滤波器的统计,而且对大尺度的图像拟合比较好。
5.图像复原
(1)MAP:发现尽管我们的生成模型是很好地。可是在MAP图像复原中效果并不好。这是MAP一个固有的问题。分析了以一般化拉普拉斯函数为势函数的pairwise MRF模型。好的生成模型和去噪效果有很弱的相对关系。
(2)MMSE估计
MMSE利用了模型的不确定性,但是一直被认为是不切实际的,因为很难对整幅图像求期望。