5.10 阻尼倒数法

5.10 阻尼倒数法

改进Gram-Schmidt分解中需要计算 $r_{ii}=\Vert {\mathbf{a}}_i\Vert$ ，${\mathbf{q}}_i={\mathbf{a}}_i/r_{ii}$，$r_{ii}$ 表示子空间第 $i$ 个坐标轴的高度，当其为 $0$ 时，说明子空间少了该维度，矩阵 $A$ 不是列满秩，${\mathbf{a}}_i$ 可由前面 $i-1$ 个 ${\mathbf{a}}_j,j<i$ 表示，这样 ${\mathbf{q}}_i$ 单位向量应该为 $0$ 向量，最优解的第 $i$ 个分量应该为 $0$ 。但实际计算时，由于舍入误差，$r_{ii}$ 不会等于 $0$ ，只会趋近 $0$ ，是个极小的数。如果还是按公式 ${\mathbf{q}}_i={\mathbf{a}}_i/r_{ii}$ 计算，由于舍入误差 ${\mathbf{q}}_i$ 会极不稳定，导致最优解的第 $i$ 个分量远离 $0$ 。所以我们希望当 $r_{ii}$ 很小时，$1/r_{ii}$ 实际计算时取 $0$ ，不是很小时，还是取原值。即要求

$$1/r_{ii}=\{\begin{array}{rccc}1/r_{ii}& for& large& r_{ii}\\ 0& for& small& r_{ii}\end{array}$$

为了达到这个目的，可以采用各种数学技巧，阻尼倒数法就是著名的一种。

$$1/r_{ii}=\frac{r_{ii}}{r_{ii}^2+{\lambda }^2}$$

$\lambda$ 是阻尼系数，需要人为设定，当 $r_{ii}<\lambda$ 时，认为 $r_{ii}$ 过小，理论上是 $0$ 。

阻尼倒数法有如下近似结果

$$\frac{r_{ii}}{r_{ii}^2+{\lambda }^2}=\{\begin{array}{rcc}\frac{1}{r_{ii}}& for& |r_{ii}|\gg \lambda \\ \frac{r_{ii}}{{\lambda }^2}\to 0& for& |r_{ii}|\ll \lambda \end{array}$$

为了减小阻尼系数 $\lambda$ 对正常 $r_{ii}$ 的影响，可以令当 $r_{ii}$ 较大时，$\lambda$ 趋近 $0$ 。可采用分段函数

$$\lambda =\{\begin{array}{rcc}{\lambda }_0(1-\frac{|r_{ii}|}{ϵ})& for& |r_{ii}|\le ϵ\\ 0& for& |r_{ii}|>ϵ\end{array}$$

也可采用高斯函数

$$\lambda ={\lambda }_0{e}^{-(\frac{|r_{ii}|}{ϵ}{)}^2}$$

其中 ${\lambda }_0$ 为名义阻尼系数，$ϵ$ 为判断奇异的阈值。

高斯函数比分段函数更光滑，这样最优解在奇异位置更平滑。高斯函数缺点是当 $r_{ii}$ 较大时，$\lambda$ 不等于 $0$ ，会引入极小误差。

按照阻尼倒数法计算，${\mathbf{q}}_i={\mathbf{a}}_i/r_{ii}$ ，当 $r_{ii}$ 趋近 $0$ 时，${\mathbf{q}}_i$ 趋近 $0$ 。最优解的第 $i$ 分量 ${\hat{x}}_i=({\delta }_i-{\sum }_{j=i+1}^n({\delta }_j{\hat{x}}_j))/r_{ii}$ 也趋近 $0$ ，达到稳定解的目的。阻尼倒数法涉及的参数如 ${\lambda }_0$、$ϵ$ ，其最优值很难确定。

$r_{ii}$ 趋近 $0$ ，矩阵 $A$ 不是列满秩，此时矩阵是行列均不满秩，方程 $A\mathbf{x}=\mathbf{b}$ 的解理论需要采用奇异值分解，后面章节会解释。阻尼倒数法虽能得到较稳定的解，但只是其中一个解，没有包含所有解。