矩阵求逆运算一般是对于方阵而言,矩阵求逆没有对非方阵定义。非方阵求逆会给我们带来很多便捷,假设我们得到矩阵A的左逆矩阵B,对于线性方程组Ax=y,我们可以这样求得:x=By;根据问题的结构,有可能无法设计一个从A到B的单一映射。
如果矩阵A更高(行数m大于列数n,即未知数的约束方程可能大于未知数的数目),那么这个方程就有可能没有解。如果矩阵A更宽(行数m小于列数n,即未知数的约束方程一定小于未知数的数目),那么就有多种解 。在这些情况下,Moore-Penrose伪逆允许我们取得一些进展。矩阵A的伪逆定义如下:
用上述定义计算伪逆是不实用的,计算伪逆的实用算法基于如下公式:
其中矩阵U、D、V是矩阵A的奇异值分解(上篇文章所讲);对角矩阵D的伪逆是通过取其非零元素的倒数,然后所得矩阵进行转置得到的。当A的列数多于行数时,那么使用伪逆解线性方程组就提供了许多可能的解之一,具体地说,它提供了在所有可能的解中具有最小欧氏范数的解。当A的行数多于列数时,可能方程组是没有解的,在这种情况下,根据欧式范数,使用伪逆给出了使Ax尽可能接近y的解x。