机器学习013_正规方程在矩阵不可逆情况下的解决方法

1、矩阵不可逆

矩阵不可逆的情况是很少的，使用Octave时，使用pinv函数可以计算出矩阵不可逆时的解，而函数inv不可以。

2、原因及解决方法

当特征中存在线性相关的特征时，那么组成的特征矩阵就是不可逆的。此时应删去其中的某个特征。
当特征个数远远多于训练样本集个数时（约束条件不够），可以删去一些不重要的特种工或者进行正规化处理（后面再学习到）。