PCA
特征选择:从n个属性选择m个,要最大程度的保留主要的,可辨识的特征
特征提取:例如边缘提取(像素点的差分)
Variance=Information,如果沿着某一个属性的Variance越大,就说明这个属性越重要
假设数据是二维高斯分布(椭圆形:有长轴与短轴),X1属性优于X2(Variance较大),则选择X1,把数据向长轴上投影,转化为一维。
![0bd993ee1161d09588ec26cdb5f6ac13.png](https://i-blog.csdnimg.cn/blog_migrate/09514e3de0e8cae940d59b09a68084dd.jpeg)
但并不是所有的都是标准的,如图就有一定的偏转,此时再向x1,x2投影,无论如何选择,都会损失较多的特征数据。若将坐标轴做一定的平移与偏转似乎就有了解决的办法,利于特征的选择。
![01b69bb77c42039e65d732ac3c720049.png](https://i-blog.csdnimg.cn/blog_migrate/b409578a09e7e81e43da2a398a593992.jpeg)
那么,如何做这个变换呢?目标在Y坐标轴下计算出的correlation只有对角线上是非0的,其他的都为0
Y=PX P为n维的旋转矩阵。要求得S(Y),进行变化,希望该矩阵为对角阵
-->