ADMM随堂笔记（二）:方向交替乘子法

ADMM随堂笔记（一），当时没有写，后来不想写了。
目前是刚接触，只能理解到此，以后深入了再回来更正。

3.1ADMM算法

ADMM是以一种分解思想去解决问题的方法。
主要形式是：
$（3.1）$

参数 $x\in R^n$，参数$z\in R^m$, $A\in R^{p\times n}$,$B\in R^{p\times m}$,$c\in R^p，$f$和$g$是凸的。这就相当于把原先的优化问题的参数$x$分成了两部分$x$和$z$，同样目标函数也一样分成 $f$和$g$ 。 这样分开代表着x和z的完全独立

这样，我们的$（3.1）$可以写成下面这种形式：

增广拉格朗日形式：

和一般拉格朗日相比，末尾多了一个增广项，这个其实是很好理解的。如果我们的模型达到最优，那么$Ax+Bz-c=0$,这意味着增广项为0.

ADMM迭代：

$\rho >0$。 （ 3.1