前言:
深度学习是个很有意思的话题:
1.对线性不可分的数据,其方法是通过增加隐层神经元的数量,将低维不可分的数据映射到高维,使得数据可分(如单隐层感知机训练异或门)
2.对特征维数过高的数据(如mnist手写识别中的维度为28*28),将对数据进行降维操作,通常的降维操作有PCA(主成分分析)与dA(降噪自动编码器)。
下面是对PCA的工作流程的简述,之后对工作流程进行数学上的解释。之后有的部分摘自别人的博客,在段尾标注了文章转载处。
Part 1 : PCA的工作流程:
1. 输入的数据为m个n维的样本组成的矩阵A,m*n
2. 矩阵的每一列为样本的一个特