矩阵求解好例子

矩阵变换好例子

要将表达式
$$\arg \underset{\mathbf{P}}{\min }\left(⟨{\mathbf{Y}}_1,\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V⟩+\frac{\mu }{2}||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V|{|}_F^2\right)$$
重写为
$$\arg \underset{\mathbf{P}}{\min }\frac{\mu }{2}||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V+\frac{1}{\mu }{\mathbf{Y}}_1|{|}_F^2,$$

可以利用矩阵内积的性质以及范数的定义来完成这个转换。

首先，考虑矩阵内积 $⟨\mathbf{A},\mathbf{B}⟩$ 可以被定义为 $\text{trace}({\mathbf{A}}^T\mathbf{B})$ 或者等价地 ${\sum }_{i,j}{A}_{ij}{B}_{ij}$。对于给定的向量或矩阵 $\mathbf{A}$，有以下关系：
$$⟨\mathbf{A},\mathbf{A}⟩=||\mathbf{A}|{|}_F^2.$$

具体展开原始表达式中的两部分：

1. 矩阵内积项 $⟨{\mathbf{Y}}_1,\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V⟩$。
2. 范数平方项 $\frac{\mu }{2}||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V|{|}_F^2$。

把这两部分组合起来，并且加上一个恒等于零的项 $\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2-\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2$（即加0），这样不会改变原问题的解，但可以帮助重新组织表达式：
$$⟨{\mathbf{Y}}_1,\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V⟩+\frac{\mu }{2}||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V|{|}_F^2+\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2-\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2.$$

接下来，利用范数的性质 $||\mathbf{A}|{|}_F^2=⟨\mathbf{A},\mathbf{A}⟩$，我们可以将上述表达式改写为：
$$⟨{\mathbf{Y}}_1,\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V⟩+\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2+\frac{\mu }{2}||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V|{|}_F^2-\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2.$$

然后，利用矩阵内积的线性性质和范数的性质，可以进一步合并前两项：
$$⟨{\mathbf{Y}}_1,\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V⟩+\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2=\frac{1}{2\mu }\left(2\mu ⟨{\mathbf{Y}}_1,\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V⟩+||{\mathbf{Y}}_1|{|}_F^2\right).$$

由于 $⟨\mathbf{A},\mathbf{B}⟩=⟨\mathbf{B},\mathbf{A}⟩$，上式可以写作：
$$\frac{1}{2\mu }\left(||{\mathbf{Y}}_1|{|}_F^2+2\mu ⟨\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V,{\mathbf{Y}}_1⟩\right).$$

又 $||\mathbf{A}+\mathbf{B}|{|}_F^2=||\mathbf{A}|{|}_F^2+2<A,B>+||\mathbf{B}|{|}_F^2$

因此，根据范数的性质，可以得到:
$$\begin{gathered} \frac{1}{2\mu }\left(||{\mathbf{Y}}_1|{|}_F^2+2\mu ⟨\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V,{\mathbf{Y}}_1⟩\right)+\frac{\mu }{2}||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V|{|}_F^2 \\ =\frac{1}{2\mu }\left(||{\mathbf{Y}}_1|{|}_F^2+2\mu ⟨\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V,{\mathbf{Y}}_1⟩+{\mu }^2||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V|{|}_F^2\right) \\ =\frac{1}{2\mu }||{\mathbf{Y}}_1+\mu (\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V)|{|}_F^2. \end{gathered}$$

因此，整个表达式变为：
$$\frac{1}{2\mu }||{\mathbf{Y}}_1+\mu (\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V)|{|}_F^2-\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2.$$

注意到 $-\frac{1}{2\mu }||{\mathbf{Y}}_1|{|}_F^2$ 是与 $\mathbf{P}$ 无关的常数项，所以它不影响优化问题的结果。因此，我们可以忽略这一项，最终得到：
$$\frac{1}{2\mu }||{\mathbf{Y}}_1+\mu (\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V)|{|}_F^2$$

为了简化形式，我们可以提取公共因子 $\frac{\mu }{2}$，并利用范数的性质 $\alpha ||\mathbf{A}|{|}_F^2=||\sqrt{\alpha }\mathbf{A}|{|}_F^2$，从而得到：
$$\arg \underset{\mathbf{P}}{\min }\frac{\mu }{2}\left(||\frac{1}{\mu }{\mathbf{Y}}_1+(\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V)|{|}_F^2\right).$$

这就是所求的重写形式：
$$\arg \underset{\mathbf{P}}{\min }\frac{\mu }{2}||\mathbf{X}-\mathbf{PH}-{\mathbf{E}}_V+\frac{1}{\mu }{\mathbf{Y}}_1|{|}_F^2.$$