即插即用型ADMM应用于图像超分

Plug-and-Play优化公式

x ^ = arg min ⁡ x f ( x ) + λ g ( x ) \hat{x}=\argmin_{x} f(x)+\lambda g(x) x^=xargminf(x)+λg(x) (1)

首先这是一个最大后验的问题,我们可以用ADMM方法转化为下面的算式:

{ x ( k + 1 ) = arg min ⁡ x f ( x ) + ρ 2 ∣ ∣ x − v ( k ) + u ( k ) ∣ ∣ 2 v ( k + 1 ) = D σ k ( x ( k + 1 ) + u ( k ) ) u ( k + 1 ) = u ( k ) + ( x ( k + 1 ) − v ( k + 1 ) ) \begin{cases} x^{(k+1)} = \argmin_{x}f(x)+\frac{\rho}{2}||x-v^{(k)}+u^{(k)}||^2\\ v^{(k+1)}=D_{\sigma_{k}}(x^{(k+1)}+u^{(k)})\\ u^{(k+1)}=u^{(k)}+(x^{(k+1)}-v^{(k+1)})\end{cases} x(k+1)=xargminf(x)+2ρxv(k)+u(k)2v(k+1)=Dσk(x(k+1)+u(k))u(k+1)=u(k)+(x(k+1)v(k+1)) (2)

在超分问题的应用

在超分辨率问题中,函数 f ( x ) f(x) f(x)拥有二次项的形式:

f ( x ) = ∣ ∣ S H x − y ∣ ∣ 2 f(x)=||SHx-y||^2 f(x)=SHxy2(3)

这里 H ∈ R n × n H\in R^{n\times n} HRn×n是一个循环矩阵,用于对抗混叠滤波器进行卷积。

循环矩阵有一个重要的性质:可以被离散傅里叶变换矩阵对角化

公式为: X = c ( x ) = F ⋅ d i a g ( F ( x ) ) ⋅ F H X=c(x)=F\cdot diag(\mathscr{F}(x))\cdot F^H X=c(x)=Fdiag(F(x))FH,其中 F ( ⋅ ) \mathscr{F}(\cdot) F()表示离散傅里叶变换, F F F表示DFT矩阵。 F F H = F H F = I FF^H=F^HF=I FFH=FHF=I,这是一个酉矩阵。之所以把它叫做DFT矩阵是因为一个信号的DFT变换可以由和这个矩阵相乘得到。 x x x表示构成循环矩阵的向量 x = [ x 0 x 1 x 2 ] x=\begin{bmatrix}x_0&x_1&x_2\end{bmatrix} x=[x0x1x2]

下面为循环矩阵的例子:

X = c ( x ) = [ x 0 x 1 x 2 x 2 x 0 x 1 x 1 x 2 x 0 ] X=c(x)=\begin{bmatrix}x_0 & x_1&x_2\\x_2&x_0&x_1\\x_1&x_2&x_0\end{bmatrix} X=c(x)=x0x2x1x1x0x2x2x1x0

而均值滤波的高斯模糊滤波器的形式是: X = 1 9 [ 1 1 1 1 1 1 1 1 1 ] X=\frac{1}{9}\begin{bmatrix}1&1&1\\1&1&1\\1&1&1\end{bmatrix} X=91111111111显然这是一个循环矩阵(还有一种在降采样中常用的高斯模糊核,因为它不是循环矩阵所以不能用我们这种方法)。

继续超分问题的分析

H是一个循环矩阵,S是一个降采样矩阵,我们定义 G : = S H G:=SH G:=SH。带入(2)式,我们得到下面的优化方程:
x ^ = arg min ⁡ x ∈ R n ∣ ∣ G x − y ∣ ∣ 2 + ρ 2 ∣ ∣ x − x ~ ∣ ∣ 2 \hat{x}=\argmin_{x\in R^n}||Gx-y||^2+\frac{\rho}{2}||x-\widetilde{x}||^2 x^=xRnargminGxy2+2ρxx 2.(4)
这个方程有闭式解:
x ^ = ( G T G + ρ I ) − 1 ( G T y + ρ x ~ ) \hat{x}=(G^TG+\rho I)^{-1}(G^Ty+\rho \widetilde{x}) x^=(GTG+ρI)1(GTy+ρx ).(5)
但是这个闭式解含有伪逆运算,所以运算速度比较慢。

  1. G = S H G=SH G=SH时,由于 H T S T S H H^TS^TSH HTSTSH既不是对角矩阵也不可以通过傅里叶变换对角化,所以它的解是非平凡的解。我们可以使用多变量分割的方法或者直接通过共轭梯度法对方程求解,但是多变量分割的方法需要拉格朗日乘子和内部变量,所以运算速度也很慢。
  2. S S S是标准的K倍降采样算符,H是循环卷积时我们有机会得到闭式解。下面展示如何使用傅里叶变换的方式加快运算。

通过傅里叶变换求闭式解

首先我们需要使用Woodbury Matrix Identity and Sherman-Morrison Formula(伍德伯里恒等式)来改写(5)式为:
x ^ = ρ − 1 b − ρ − 1 G T ( ρ I + G G T ) − 1 G b \hat{x}=\rho^{-1}b-\rho^{-1}G^T(\rho I+GG^T)^{-1}Gb x^=ρ1bρ1GT(ρI+GGT)1Gb,(6)
这里 b : = G T y + ρ x ~ b:=G^Ty+\rho \tilde{x} b:=GTy+ρx~.
更加关键的步骤在于下面的发现:
G G T = S H H T S T GG^T=SHH^TS^T GGT=SHHTST.
因为 S S S是一个K倍降采样算符,那么 S T S^T ST就是一个K倍升采样算符。定义 H ~ = H H T \tilde{H}=HH^T H~=HHT,这可以解释为在模糊核h和它的时间反演之间的卷积。那么 S T H ~ S S^T\tilde{H}S STH~S就是一种升采样-滤波器-降采样结构,如下图:
在这里插入图片描述
接下来使用数字信号处理中的多项分解及Z变换的技术,实现傅里叶变换形式的闭式解如下:
x = ρ − 1 b − ρ − 1 G T ( F − 1 { F ( G b ) ∣ F ( h 0 ~ ) ∣ 2 + ρ } ) x=\rho^{-1}b-\rho^{-1}G^T(\mathscr{F}^{-1} \lbrace \frac{\mathscr{F}(Gb)}{|\mathscr{F}(\tilde{h_0})|^2+\rho}\rbrace) x=ρ1bρ1GT(F1{F(h0~)2+ρF(Gb)}).(7)
其中 b = G T y + ρ x ~ b=G^Ty+\rho\tilde{x} b=GTy+ρx~

参考文献

[1]:Plug-and-Play ADMM for Image Restoration:Fixed Point Convergence and Applications

  • 2
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值