局部线性嵌入LLE原理总结

 局部线性嵌入(LLE)是重要的降维方法，它关注于降维时保持样本局部的线性特征。

1.流形学习概述  

2.LLE思想

某一个数据可以由它领域内的几个样本线性表示。

3.LLE算法推导

利用K近邻算法，选择该数据样本邻域内的其他样本。

求高维空间中该数据样本用其邻域样本线性表示的权重系数。

该数据样本低维空间中线性关系和权重系数已知，求该数据样本低维空间中投影数据。

 4.LLE算法流程

1.  求K近邻的过程，这个过程使用了和KNN算法一样的求最近邻的方法
2.  对每个样本求它在邻域里的K个近邻的线性关系，得到线性关系权重系数W
3.  利用权重系数来在低维里重构样本数据

5.LLE总结