机器学习——不可逆矩阵处理

• 在实际问题处理中，可能会遇到矩阵不可逆的情况。那么如何进行处理呢？
• 让我们回溯到所构造的矩阵的意义——代表不同的特征
• 在此给出几种处理方案。

1. 采用函数库求解伪逆矩阵（如：pinv）
2. 矩阵不可逆代表某些特征之间存在线性相关性关系，即一些特征可以通过简单的线性变化得到另外一些特征。因此特征之间存在冗余数据，应该删除一些线性相关的特征。
3. 当特征个数远远多于训练样本集个数时（约束条件不够），可以删去一些不重要的特种工或者进行正规化处理。