关于PCA作用于过拟合时的一些策略

之前在进行数据挖掘比赛的时候，同事友推荐使用PCA降维。使用过后的效果也并不是很好。

且今天在听机器学习课程的时候，听到老师给出如下建议：

为了避免overfitting，并不推荐采用PCA算法。因为无论如何，PCA还是会丢失信息。
更推荐使用regularization,来避免过拟合，此时的信息保存/使用率为100%，

且在使用PCA前，记得先用raw data跑第一遍。only if 出现一些，例如memory lack 或者计算时间过长到不太能接受的情况下，才建议使用PCA降维。

#周末再仔细看一下covariance，SVD（single value decomposition）和 eigenvector