【ZJU-Machine Learning】特征提取——主成分分析PCA

主成分分析可以看成一个一层的，有M个神经元的神经网络。X是没有标签（Label）的。（自编码器）

PCA的做法

本质：寻找使方差最大的方向，并在该方向投影。（方差最大方向指的是投影之后方差最大，因为如果投影之后点都汇集在一起的话，那么可以近似成一个点，就区分不出来了）

M=1时

假设共有p个x训练样本

改造Y：






对a1进行归一化

M>1时

PCA算法

求特征值，可用SVD算法（Singular Value Decomposition）快速求。