PCA原理技术总结

一、博文的目的：

深度学习做图像时很多情况都需要PCA降维，正好最近把这方面得问题总结了一下。如果有很多地方不对，或者是有原理得理解错误，希望大家多多纠正。因为Python的sklearn的库里面已经自带了PCA的源代码，所以代码就不写了，相信学了机器学习的人都知道了，毕竟鸢尾花实验。
from sklearn.decomposition import PCA

PCA降维的必要性：
1、多重共线————预测变量之间的相互关联。多重共线性会导致解空间的不稳定性，从而导致结果不连贯。
2、高维空间本身就具有稀疏性。一维正态分布具有68%的值会落于正负标准差之间，而在十维空间上只有0.02%。
3、过多的变量会妨碍查找规律的建立。
4、仅在变量层面上可能会忽视变量之间的潜在联系

降维的目的：
1、减少预测变量的个数
2、确保这些变量的相互独立
3、提供一个框架来解释结果

二、PCA需要的基础知识与基本流程

1、一丢丢线性代数的知识
2、对于图像与通道特征理解就行
一、首先需要理解协方差的概念：变量X和变量Y的协方差公式如下，协方差是描述不同变量之间的相关关系，协方差>0时说明 X和 Y是正相关关系，协方差<0时 X和Y是负相关关系，协方差为0时 X和Y相互独立。

协方差的计算是针对两维的，对于n维的数据集，可以计算C(n,2)种协方差。 n维数据的