P C A − − − 主 成 成 分 分 析 PCA---主成成分分析 PCA−−−主成成分分析
矩阵的相似对角矩阵,接近矩阵的本质
协方差矩阵可用来表示多维随机变量的概率密度,从而可通过协方差矩阵达到对多维随机变量的研究。
相似对角化
非奇异矩阵,可以转换为某个空间中的对角阵
特征矩阵的定义
Ap = ap
第一步,求每个特征的平均值,然后对于所有的样例,都减去对应的均值。
第二步,求特征协方差矩阵
第三步,求协方差的特征值和特征向量
第四步,将特征值按照从大到小的顺序排序,选择其中最大的k个,然后将其对应的k个特征向量分别作为列向量组成特征向量矩阵。
第五步,将样本点投影到选取的特征向量上。
推荐阅读资料
https://blog.csdn.net/zhongkelee/article/details/44064401
在图像里
一张图片就是向量
图片的个数(样本数)就是矩阵的维度