常用降维方法归纳

降维方法分为线性核非线性降维，非线性降维又分为基于核函数和基于特征值的方法。

线性降维方法：PCA  ICA LDA  LFA  LPP(LE的线性表示)

基于核函数的非线性降维方法：KPCA  KICA  KDA 

基于特征值的非线性降维方法（流型学习）：ISOMAP  LLE  LE  LPP  LTSA  MVU

LLE（Locally Linear Embedding）算法（局部线性嵌入）：

       每一个数据点都可以由其近邻点的线性加权组合构造得到。

      算法的主要步骤分为三步：

      (1)寻找每个样本点的k个近邻点（k是一个预先给定的值）；

     （2）由每个样本点的近邻点计算出该样本点的局部重建权值矩阵；

     （3）由该样本点的局部重建权值矩阵和其近邻点计算出该样本点的输出值，定义一个误差函数。