笔记 RASL: Robust Alignment by Sparse and Low-Rank Decomposition for Linearly Correlated Images

Peng, Y., Ganesh, A., Wright, J., Xu, W., & Ma, Y. (2012). RASL: Robust alignment by sparse and low-rank decomposition for linearly correlated images. IEEE Transactions on Pattern Analysis and Machine Intelligence, 34(11), 2233-2246.
本文是这篇 PAMI 期刊论文的笔记，主要是对文中的理论方法进行展开详解。本人学术水平有限，文中如有错误之处，敬请指正。

摘要：此文研究的问题是同时对齐（配准）一批线性相关的图像，而排除一些破坏（如遮挡）。此文的方法在图像变换域里寻找一个最优集，使得变换之后的图像矩阵可以被分解为一个错误部分的稀疏矩阵，和一个恢复的对齐的低秩的矩阵。此文为了解决这样一个具有挑战性的优化问题，使用了一系列的凸规划，最小化稀疏矩阵的 $\ell_1$ 范数，以及低秩矩阵的核（nuclear）范数的和，这可以使用有效的可扩展的凸优化技术解决。此文的特点就是在之前的研究基础上加入了图像变换对齐（配准），图像识别和分类的效果更好，所以称为 Robust 。

$$D \circ \tau = A + E. \tag{1}$$

原始图像 $D$	对齐之后的图像 $D \circ \tau$
低秩部分 $A$	误差部分 $E$

如图所示，本文的方法是将一批相似度很高的图像（不仅是人脸）作为输入，首先进行平面的对齐（配准），然后通过本文的 RASL 算法，将它们分解为低秩部分（相似度非常高）和稀疏误差部分（图像之间差异值最大的部分）。

此论文并不是一项开山之作，而是在之前的研究基础之上的改进版本。首先介绍一下这个研究课题组的 leader: Prof. Yi Ma, Senior Member, IEEE, University of Illinois at Urbana-Champaign. 研究成果都展示在 这里 了，论文和代码都公开了，可以供感兴趣的读者下载，自行研究。
Robust Parameterized Component Analysis 1 算法虽然也拟合一个低阶模型，有效地减少了损坏和遮挡的影响。但是这是一个非凸优化问题，没有理论保证鲁棒性和收敛率。最近提出的 Rank-Sparsity 2， RPCA 3 秩最小化已经证明了它确实有可能通过凸优化方法，有效地恢复低秩矩阵。

要想看懂此文之前，还需要一点预备知识，可以学习 Alternating Direction Method 4，Singular Value Thresholding 5，Dual Method 6 和 Augmented Lagrange Multiplier (ALM) Method 7。这些方法思想都和很简单。

2 图像对齐通过矩阵的秩最小化

2.1 矩阵的秩作为衡量图像的相似度

假设我们有 $n$ 张已经对齐的灰度图像 $I_1^0, \cdots, I_n^0 \in \mathbb{R}^{w \times h}$。在大部分情况下，这些已经对齐的图像都是线性相关的（linearly correlated）。如果把图像列向量化 $\mathbb{R}^{w \times h} \rightarrow \mathbb{R}^m$，然后把 $n$ 张图像并列至于一个矩阵中，

$$\tag{2} A \ \dot{=} \ [\mathrm{vec}(I_1^0)| \cdots | \mathrm{vec}(I_n^0)] \in \mathbb{R} ^{m \times n},$$
那么这个矩阵 $A$ 应该是低秩的（low-rank）,这个性质非常的普遍。

2.2 建模非对齐作为形变

图像的偏差使得在许多应用中存在困难。上面的低秩矩阵的模型，只要在有一点图像未对齐的情况下，就会失效。文中提到，由于图像的3D结构未知，假设图像的形变只在图像平面上。于是，可以将图像未对齐建模为形变。具体来说，如果 $I_1$ 和 $I_2$ 是两个未对齐的图像，我们假设存在一种可逆变换 $g:\mathbb{R}^2 \rightarrow \mathbb{R}^2$，使得

$$\tag{3} I_2(x,y) = (I_1 \circ \tau)(x,y)=I_1(\tau(x,y)).$$
在大多数实际应用中，我们把形变建模为有限维度组 $\mathbb{G}$ （一组参数表达式）,比如相似性 $SE(2) \times \mathbb{R}_+$，2D仿射 Aff(2)，平面单应 $GL(3)$，具体可参考 An Invitation to 3-D Vision 8。
把上面两个模型结合起来：假设 $I_1, I_2, \cdots, I_n$ 表示 $n$ 张高度相似但是相互没有对齐的图像。那么，存在一组变换参数 $\tau_1, \tau_2, \cdots, \tau_n$，使得 $I_1 \circ \tau_1, \cdots, I_n \circ \tau_n$ 在每一个像素级别上都是对齐的，等价来说，矩阵
$$\tag{4} D \circ \tau \ \dot{=} \ [\mathrm{vec}(I_1^0)| \cdots | \mathrm{vec}(I_n^0)] \in \mathbb{R} ^{m \times n},$$
有很小的秩，其中 $I_i^0 = I_i \circ \tau_i,\ i = 1,2,\cdots, n$。所以，一批的图像对齐问题可以用如下的优化问题形式表示
$$\tag{5} \min_{A,\tau} \ \ \mathrm{rank}(A) \quad \mathrm{s.t.} \ \ D \circ \tau = A.$$

2.3 建模损坏和遮挡作为大、稀疏的误差

因为图像之中会有一些部分被遮挡，或者损坏，但是由于这些误差出现的区域小，频率低，我们把它们建模为稀疏的误差。除此之外，图像中还有常见的噪声，但是此文没有过多考虑，只假设噪声是可忽略的。

用 $e_i$ 表示对应图像 $I_i$ 的误差， 那么 $\{I_i \circ \tau_i - e_i\}_{i=1}^n$ 就是已经对齐、并处理了损坏和遮挡的图像。上述的优化形式进而转化为

$$\tag{6} \min_{A,E,\tau} \ \ \mathrm{rank}(A) \quad \mathrm{s.t.} \ \ D \circ \tau = A+E, \ ||E||_0 \leq k.$$
其中 $E=[\mathrm{vec}(e_1)|\cdots|\mathrm{vec}(e_n)]$， $\ell_0$ 范数计算矩阵中非零元素的个数。用 Lagrangian 形式表达，将最后一个约束加入优化目标函数中，
$$\tag{7} \min_{A,E,\tau} \ \ \mathrm{rank}(A) + \gamma ||E||_0 \quad \mathrm{s.t.} \ \ D \circ \tau = A+E.$$
其中 $\gamma$ 是一个权衡的标量参数。文中将这个问题定义为 Robust Alignment by Sparse and Low-rank decomposition (RASL)。

在实际图像中，一般都会有小的加性噪声，上述问题略作修改

$$\tag{8} \min_{A,E,\tau} \ \ \mathrm{rank}(A) + \gamma ||E||_0 \quad \mathrm{s.t.} \ \ || D \circ \tau - A-E ||_{\text{F}} \leq \epsilon.$$
其中 $\epsilon > 0$ 表示噪声水平。

3 迭代凸优化求解

3.1 凸松弛

上面的优化问题虽然很直观，但是矩阵的秩 rank 和 $\ell_0$ 范数最小化是非凸的，求解非常困难（NP-hard）;并且它们都是离散值函数，如果图像并不是真的稀疏，解会不稳定。最近，发现如果矩阵 $A$ 的秩如果小，而且 $E$ 的非零元素值也不大，就可以使用凸形式替代它们。具体的，凸松弛方法使用了核范数（nuclear norm，矩阵的奇异值之和 $||A||_*=\sum_{i=1}^{\min\{m,n\}}\sigma_i(A)$）代替秩 $\mathrm{rank}(\cdot)$，用 $\ell_1$ 范数 $\sum_{ij}|E_{ij}|$ 代替 $\ell_0$ 范数，将优化问题转化为

$$\tag{9} \min_{A,E,\tau} \ \ ||A||_* + \lambda ||E||_1 \quad \mathrm{s.t.} \ ||D \circ \tau -A - E||_{\text{F}} \leq \epsilon.$$
理论中考虑，参数 $\lambda$ 设为 $C / \sqrt{m}$，C 为常数，通常设为 1。新的目标函数虽然不光滑，但是已经是连续的、凸的。

3.2 迭代线性化

问题求解的难度还在于约束 $D \circ \tau = A+E$ 的非线性，因为引入了形变参数 $\tau$。在 $\tau$ 很小时，我们使用线性近似估计。我们假设 $\mathbb{G}$ 是一组 $p$ 个参数的形变集合，$\tau = [\tau_1| \cdots | \tau_n] \in \mathbb{R}^{p \times n}$。对 $\Delta \tau = [\Delta \tau_1 | \cdots | \Delta \tau_n] \in \mathbb{R}^{p \times n}$ 而言，$D \circ (\tau + \Delta \tau) \approx D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau_i \epsilon_i^{\text{T}}$，其中 $J_i = \frac{\partial}{\partial \varsigma} \mathrm{vec}(I_i \circ \varsigma)|_{\varsigma=\tau_i} \in \mathbb{R}^{m \times p}$ 是第 $i$ 张图像关于形变参数 $\tau_i$ 的 Jacobian 矩阵，${\epsilon_i}$ 是 $\mathbb{R}^n$ 空间的标准基向量。优化问题的形式如下

$$\tag{10} \min_{A,E,\Delta\tau} \ \ ||A||_* + \lambda ||E||_1 \quad \mathrm{s.t.} \ \ D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau \epsilon_i \epsilon_i^{\text{T}} = A + E.$$
其中 $\Delta \tau_i = \Delta \tau \epsilon_i$ 表示取矩阵 $\Delta \tau$ 中的第 $i$ 列；而 $\epsilon_i \epsilon_i^{\text{T}}$ 表示取其左边矩阵的第 $i$ 列（其他列为 0），但矩阵维度不变。

因为这个线性近似只在局部有效，不能直接求解 $\Delta \tau$。文中使用迭代方式重复求解凸问题，并不断估计当前的 $\tau$。

RASL 算法步骤：
INPUT: 图像 $I_1, \cdots, I_n \in \mathbb{R}^{w \times h}$，形变参数初始值 $\tau_1, \cdots, \tau_n$ 在一个具体的参数组 $\mathbb{G}$ 中， 权重系数 $\lambda > 0$。
WHILE 没有收敛 DO // 其中收敛的条件是目标函数在连续两次迭代的改变量小于预先设定的阈值
Step 1: 计算关于形变参数 $\tau$ 的 Jacobian 矩阵：

$$\tag{11} J_i \leftarrow \frac{\partial}{\partial \varsigma} \left( \frac{\mathrm{vec}(I_i \circ \varsigma)}{||\mathrm{vec}(I_i \circ \varsigma)||_2} \right)\Bigg|_{\varsigma=\tau_i}, \ \ i = 1, \cdots, n;$$
Step 2: 变形并归一化图像矩阵：
$$\tag{12} D \circ \tau \leftarrow \left[ \frac{\mathrm{vec}(I_1 \circ \tau_1)}{||\mathrm{vec}(I_1 \circ \tau_1)||_2} \Bigg| \cdots \Bigg| \frac{\mathrm{vec}(I_n \circ \tau_n)}{||\mathrm{vec}(I_n \circ \tau_n)||_2} \right];$$
Step 3(内循环): 求解线性凸优化问题；
$$\begin{align} (A^*,E^*,\Delta \tau^*) \leftarrow \ & \arg \min_{A,E,\Delta \tau} ||A||_* + \lambda ||E||_1 \\ & \mathrm{s.t.} \ \ D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau \epsilon_i \epsilon_i^{\text{T}} = A + E; \tag{13} \end{align}$$
Step 4: 更新形变参数 $\tau \leftarrow \tau + \Delta \tau^*$；
END WHILE
OUTPUT: 输出 $A^*,E^*,\tau^*$。

3.3 收敛性和最优性证明

涉及的内容太多，这里不做详细解释，可参考原论文。

3.4 増广 Lagrangian 乘子法

算法中主要的计算代价就是 Step 3，这是一个半正定的线性凸优化问题。此文使用快速的一阶方法，増广 Lagrangian 乘子法。首先定义 $h(A,E,\Delta \tau) = D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau \epsilon_i \epsilon_i^{\text{T}} - A - E$，我们构造一个 Lagrangian 函数

$$\tag{14} \mathcal{L}_\mu(A,E,\Delta \tau,Y) = ||A||_* + \lambda ||E||_1 + <Y,h(A,E,\Delta \tau)> +\frac{\mu}{2} ||h(A,E,\Delta \tau)||_{\text{F}}^2,$$
其中 $Y \in \mathbb{R}^{m \times n}$ 是 Lagrange 乘子矩阵， <⋅,⋅> <script type="math/tex" id="MathJax-Element-499"><\cdot,\cdot></script> 是矩阵内积（ <X,Y>=trace(XTY) <script type="math/tex" id="MathJax-Element-500"> =\mathrm{trace}(X^{\text{T}} Y)</script>）， $||\cdot||_{\text{F}}$ 是 Frobenius 范数， $\mu$ 是一个标量（非变量），设为一个单调递增的序列，随着迭代，值不断变大。只要合适的选择 Lagrange 乘子矩阵 $Y$ 和足够大的常数 $\mu$，那么増广 Lagrangian 函数可以获得与原问题一致的最小解。増广 Lagrangian 算法通过迭代地最小化求解
$$\begin{align} (A_{k+1},E_{k+1},\Delta \tau_{k+1}) &= \arg \min_{A,E,\Delta \tau} \mathcal{L}_{\mu_k}(A,E,\Delta \tau, Y_k), \\ Y_{k+1} &= Y_k + \mu_k h(A_{k+1},E_{k+1},\Delta \tau_{k+1}). \end{align}$$
直接最小化多个参数的 Lagrangian 函数很困难，那么采用近似求解的方式，即每一次分别最小化一个变量，而固定其他变量，
$$\begin{align} A_{k+1} &= \arg\min_{A} \mathcal{L}_{\mu_k}(A,E_k,\Delta \tau_k,Y_k), \tag{15} \\ E_{k+1} &= \arg\min_{E} \mathcal{L}_{\mu_k}(A_{k+1},E,\Delta \tau_k,Y_k), \tag{16} \\ \Delta \tau_{k+1} &= \arg\min_{\Delta \tau} \mathcal{L}_{\mu_k}(A_{k+1},E_{k+1},\Delta \tau,Y_k). \tag{17} \end{align}$$
迭代的每一步都可以求出闭式解，计算的效率很高。为了更清楚的说明解，还要定义软阈值（soft-thresholding）或收缩（shrinkage）操作，
$$\tag{18} S_\alpha(x) = \mathrm{sign}(x) \cdot \max \{ |x| - \alpha,0 \},$$
其中 $\alpha > 0$ 是设定的一个阈值。这是一个标量函数，对于矩阵或向量操作都是 elementwise 的。结合软阈值函数，给出求解的迭代步骤

RASL 内循环：
INPUT: $(A^0,E^0,\Delta \tau^0) \in \mathbb{R}^{m \times n}, \mathbb{R}^{m \times n}, \mathbb{R}^{p \times n}$， 权重系数 $\lambda > 0$。
WHILE 没有收敛 DO // 其中收敛的条件是 $h(A_{k+1}, E_{k+1}, \Delta \tau_{k+1})$ 小于预先设定的阈值，或迭代次数达到最大

$$\begin{align} (U,\Sigma &, V) = \mathrm{svd}(D \circ \tau + \sum_{i=1}^n J_i \Delta \tau_k \epsilon_i \epsilon_i^{\text{T}} + \frac{1}{\mu_k}Y_k - E_k); \tag{19} \\ A_{k+1} &= U S_{\frac{1}{\mu_k}}(\Sigma) V^{\text{T}}; \tag{20} \\ E_{k+1} &= S_{\frac{\lambda}{\mu_k}}\left( D \circ \tau + \sum_{i=1}^n J_i \Delta \tau_k \epsilon_i \epsilon_i^{\text{T}} + \frac{1}{\mu_k}Y_k - A_{k+1} \right); \tag{21} \\ \Delta \tau_{k+1} &= \sum_{i=1}^n J_i^\dagger \left( A_{k+1} + E_{k+1} - D \circ \tau - \frac{1}{\mu_k} Y_k \right) \epsilon_i \epsilon_i^{\text{T}}; \tag{22} \\ Y_{k+1} &= Y_k + \mu_k h(A_{k+1}, E_{k+1}, \Delta \tau_{k+1}). \tag{23} \end{align}$$
// * 中间3步的详细的推导在 Appendix *
END WHILE
OUTPUT: 输出最优解 $A^*,E^*,\tau^*$。

其中 $S_\alpha(\cdot)$ 就是为了近似代替优化求解过程中的 $||A||_* + \lambda ||E||_1$ 而加入的；也就是说，在梯度求解 $A_{k+1},E_{k+1},\Delta \tau_{k+1}$ 的过程中，并没有考虑这两项，而是用减去 $A_k$ 的部分（较小的）奇异值 $S_{{1}/{\mu_k}}(\Sigma)$ 和减去 $E_k$ 的较小的元素值 $S_{{\lambda}/{\mu_k}}(E_k)$，来代替直接求闭式解表达式。

实验结果表明，

• 该算法收敛性非常好，速度也比此论文作者之前的方法 Accelerated proximal gradient (APG) 9 快 5~10 倍左右。

• 尽管増广 Lagrangian 乘子法的收敛性已经在优化的文献中都已经给出证明，但是没有证明它的近似方法（本文采用的迭代优化每一个变量）也能收敛。

• 困难就在于这里有三项变量在交替最小化，而 Alternating Direction Method of Multipliers 方法交替优化两项变量已经在优化文献中给出了证明。

• 然而 Yuan et al. 10 表明三项变量交替优化过程中收敛在实际上和理论上有差距，而且收敛速度比较慢。

总之，目前要严格证明此论文方法的收敛性还很困难。

3.5 实现细节

$\mu_k = \rho^k \mu_0$，其中 $\rho$ 和 $\mu_0$ 分别设置为 $1.25$ 和 $1.25/||D||_{\mathrm{spec}}$。RASL 算法的内循环停止的阈值为 $10^{-7}$，外循环停止的阈值为 $10^{-2}$。内循环算法中有一点小难点就是要计算 $J^\dagger$，文中使用了 QR 分解，$J_i=Q_i R_i \in \mathbb{R}^{m \times p}$（论文中为 $R_i^{\text{T}}$，应该是错了），然后使用正交的 $Q_i \in \mathbb{R}^{m \times p}$ 代替 $J_i$ 进行计算，相对应的，输出的结果也为 $\Delta \tau_i^\prime = R_i \Delta \tau_i$。因为 $R_i \in \mathbb{R}^{p \times p}$ 是可逆的，所以 $\Delta \tau_i = R_i ^{-1} \Delta \tau_i^\prime$ 可以很轻易地计算得到。虽然这在理论上不影响收敛性，但是在实验中可以获得更稳定的结果。

实验验证

知道了本论文的理论之后，去看实验已经没有什么难处了，本论文的实验有好几个，但是给人印象是没有很多与其它论文的定量对比结果。这里不再一一讲述。

Appendix

这是本人根据对论文的理解，自己推导了 $A_{k+1}, E_{k+1}, \Delta \tau_{k+1}$ 的迭代公式，首先给出

$$\begin{align} h(A,E,\Delta \tau) &= D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau \epsilon_i \epsilon_i^{\text{T}} - A - E, \\ \frac{\partial h(A,E_k,\Delta \tau_k)}{\partial A} &= -1,\\ \frac{\partial h(A_{k+1},E,\Delta \tau_k)}{\partial E} &= -1,\\ \frac{\partial h(A_{k+1},E_{k+1},\Delta \tau)}{\partial \Delta \tau} &= \sum_{i=1}^n (\epsilon_i \epsilon_i^{\text{T}}) \otimes J_i^{\text{T}} = \sum_{i=1}^n J_i^{\text{T}}. \tag{24} \end{align}$$
其中 $\otimes$ 表示 Kronecker 积。

1. 求解 $A_{k+1}$，

求当梯度为 0 时，$A^*$ 的值，（由于 $||A||_* + \lambda ||E||_1$ 非光滑，求梯度时不考虑）

$$\begin{align} & \frac{\partial}{\partial A} \mathcal{L}_{\mu_k}(A,E_k,\Delta \tau_k,Y_k) \\ & = \frac{\partial}{\partial A} \left\{\mathrm{tr}\left(Y_k^{\text{T}} h(A,E_k,\Delta \tau_k)\right) + \frac{\mu_k}{2} ||h(A,E_k,\Delta \tau_k)||_{\text{F}}^2 \right\} \\ & = \frac{\partial h(A,E_k,\Delta \tau_k)}{\partial A} Y_k + \frac{\partial h(A,E_k,\Delta \tau_k)}{\partial A} \mu_k h(A,E_k,\Delta \tau_k) , \\ & -Y_k - \mu_k \left(D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau_k \epsilon_i \epsilon_i^{\text{T}} - A^* - E_k \right) = 0, \\ & A^* = D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau_k \epsilon_i \epsilon_i^{\text{T}} + \frac{1}{\mu_k} Y_k - E_k, \\ & (U,\Sigma^*,V) = \mathrm{svd} (A^*),\\ & A_{k+1} = U S_{\frac{1}{\mu_k}} (\Sigma^*) V^{\text{T}}. \tag{25} \end{align}$$
证毕。

2. 求解 $E_{k+1}$，

求当梯度为 0 时，$E^*$ 的值，（由于 $||A||_* + \lambda ||E||_1$ 非光滑，求梯度时不考虑），与求解 $A_{k+1}$ 基本一致，

$$\begin{align} & \frac{\partial}{\partial E} \mathcal{L}_{\mu_k}(A_{k+1},E,\Delta \tau_k,Y_k) \\ & = \frac{\partial}{\partial E} \left\{\mathrm{tr}\left(Y_k^{\text{T}} h(A_{k+1},E,\Delta \tau_k)\right) + \frac{\mu_k}{2} ||h(A_{k+1},E,\Delta \tau_k)||_{\text{F}}^2 \right\} \\ & = \frac{\partial h(A_{k+1},E,\Delta \tau_k)}{\partial E} Y_k + \frac{\partial h(A_{k+1},E,\Delta \tau_k)}{\partial E} \mu_k h(A_{k+1},E,\Delta \tau_k) , \\ & -Y_k - \mu_k \left(D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau_k \epsilon_i \epsilon_i^{\text{T}} - A_{k+1} - E^* \right) = 0, \\ & E^* = D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau_k \epsilon_i \epsilon_i^{\text{T}} + \frac{1}{\mu_k} Y_k - A_{k+1}, \\ & E_{k+1} = S_{\frac{\lambda}{\mu_k}}(E^*). \tag{26} \end{align}$$
证毕。

3. 求解 $\Delta \tau_{k+1}$，

求当梯度为 0 时，$\Delta \tau^*$ 的值，

$$\begin{align} & \frac{\partial}{\partial \Delta \tau} \mathcal{L}_{\mu_k}(A_{k+1},E_{k+1},\Delta \tau,Y_k) \\ & = \frac{\partial}{\partial \Delta \tau} \left\{\mathrm{tr}\left(Y_k^{\text{T}} h(A_{k+1},E_{k+1},\Delta \tau)\right) + \frac{\mu_k}{2} ||h(A_{k+1},E_{k+1},\Delta \tau)||_{\text{F}}^2 \right\} \\ & = \frac{\partial h(A_{k+1},E_{k+1},\Delta \tau)}{\partial \Delta \tau} Y_k + \frac{\partial h(A_{k+1},E_{k+1},\Delta \tau)}{\partial \Delta \tau} \mu_k h(A_{k+1},E_{k+1},\Delta \tau), \\ & \left(\sum_{i=1}^n J_i^{\text{T}} \right) Y_k + \left( \sum_{i=1}^n J_i^{\text{T}} \right) \mu_k \left(D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau^* \epsilon_i \epsilon_i^{\text{T}} - A_{k+1} - E_{k+1} \right) = 0, \\ & \frac{1}{\mu_k}Y_k + D \circ \tau + \sum_{i=1}^{n} J_i \Delta \tau^* \epsilon_i \epsilon_i^{\text{T}} - A_{k+1} - E_{k+1} = 0, \\ & \sum_{i=1}^{n} J_i \Delta \tau^* \epsilon_i \epsilon_i^{\text{T}} = A_{k+1} + E_{k+1} -\frac{1}{\mu_k}Y_k - D \circ \tau , \\ & J_i \Delta \tau_i^* \epsilon_i^{\text{T}} = \left( A_{k+1} + E_{k+1} -\frac{1}{\mu_k}Y_k - D \circ \tau \right) \epsilon_i \epsilon_i^{\text{T}} , \\ & \Delta \tau_i^* \epsilon_i^{\text{T}} = J_i^\dagger \left( A_{k+1} + E_{k+1} -\frac{1}{\mu_k}Y_k - D \circ \tau \right) \epsilon_i \epsilon_i^{\text{T}} , \\ & \Delta \tau^* = \sum_{i=1}^n \Delta \tau_i^* \epsilon_i^{\text{T}} = \sum_{i=1}^nJ_i^\dagger \left( A_{k+1} + E_{k+1} -\frac{1}{\mu_k}Y_k - D \circ \tau \right) \epsilon_i \epsilon_i^{\text{T}} , \\ & \Delta \tau_{k+1} = \Delta \tau^* = \sum_{i=1}^n J_i^\dagger \left( A_{k+1} + E_{k+1} - D \circ \tau - \frac{1}{\mu_k} Y_k \right) \epsilon_i \epsilon_i^{\text{T}}. \tag{27} \end{align}$$
证毕。

---

1. E. Cande`s, X. Li, Y. Ma, and J. Wright, “Robust Principal Component Analysis?” J. ACM, vol. 58, no. 3, pp. 1-37, 2011. ↩
2. V. Chandrasekaran, S. Sanghavi, P. Parrilo, and A. Willsky,“Rank-Sparsity Incoherence for Matrix Decomposition,” SIAM J. Optimization, vol. 21, no. 2, pp. 572-596, 2011. ↩
3. E. Cande`s, X. Li, Y. Ma, and J. Wright, “Robust Principal Component Analysis?” J. ACM, vol. 58, no. 3, pp. 1-37, 2011. ↩
4. Yuan, Xiaoming, and Junfeng Yang. “Sparse and low-rank matrix decomposition via alternating direction methods.” preprint 12 (2009). ↩
5. E. Cande`s, J. Cai, and T. Shen, “A Singular Value Thresholding Algorithm for Matrix Completion,” SIAM J. Optimization, vol. 20, no. 4, pp. 1956-1982, 2010. ↩
6. Lin, Z., Ganesh, A., Wright, J., Wu, L., Chen, M., & Ma, Y. (2009). Fast convex optimization algorithms for exact recovery of a corrupted low-rank matrix. Computational Advances in Multi-Sensor Adaptive Processing (CAMSAP), 61. ↩
7. Z. Lin, M. Chen, L. Wu, and Y. Ma, “The Augmented Lagrange Multiplier Method for Exact Recovery of Corrupted Low-Rank Matrices,” Technical Report UILU-ENG-09-2215, Univ. of Illinois at Urbana-Champaign, 2009. ↩
8. Y. Ma, S. Soatto, J. Kosecka´, and S.S. Sastry, An Invitation to 3-D Vision. Springer, 2004. ↩
9. K. Toh and S. Yun, “An Accelerated Proximal Gradient Algorithms for Nuclear Norm Regularized Least Squares Problems,”Pacific J. Optimization, vol. 6, pp. 615-640, 2010. ↩
10. X. Yuan and M. Tao, “Recovering Low-Rank and Sparse Components of Matrices from Incomplete and Noisy Observations,”SIAM J. Optimization, vol. 21, no. 1, pp. 57-81, 2011. ↩