【机器学习算法】流形学习笔记一：Isomap

流形学习是一类借鉴了拓扑流行概念的降维方法.

首先先看一些定义：
流形 是局部具有欧几里得空间性质的空间，能用欧氏距离来进行距离计算.
同胚 在拓扑学中，两个流形，如果可以通过弯曲、延展、剪切(只要最终完全沿着当初剪开的缝隙再重新粘贴起来)等操作把其中一个变为另一个，则认为两者是同胚的.

故也可以称流形是在局部与欧式空间同胚的空间。这给降维方法带来了很大的启发：若低维流形嵌入到高维空间中，则数据样本在高维空间的分布虽然看上去非常复杂，但在局部上仍具有欧式空间的性质，因此，可以容易地在局部建立将为映射关系，然后再设法将局部映射关系推广到全局.

等度量学习Isomap算法

测地线距离 空间中两点的局域最短或最长路径.

Isomap认为低维流形嵌入到高维空间之后，直接在高维空间中计算直线距离具有误导性，因为高维空间中的直线距离在低维嵌入流形上式不可达的.下图为高维数据分布图，虚线为高维空间中的直线距离，实线为相同两点的测地线距离.

图1：高维数据的分布

利用流形可以进行欧氏距离计算的性质，对每个点基于欧氏距离找出其近邻点，于是可以建立一个近邻连接图，图中近邻点之间存在连接，而非近邻点不存在连接，于是计算两点之间测地线距离的问题就转变为计