流形学习（一）

1、什么是流形？

      经常会在 paper 里看到“嵌入在高维空间中的低维流形”，高维的数据对于我们总是难以想像，所以最直观的例子通常都会是嵌入在三维空间中的二维或者一维流形。比如说一块布，可以把它看成一个二维平面，这是一个二维的欧氏空间，现在我们（在三维）中把它扭一扭，它就变成了一个流形（当然，不扭的时候，它也是一个流形，欧氏空间是流形的一种特殊情况）。所以，直观上来讲，一个流形好比是一个 d 维的空间，在一个 m 维的空间中 (m > d) 被扭曲之后的结果。需要注意的是，流形并不是一个“形状”，而是一个“空间”，而上面布的例子，把它扭一扭并不是说它的特征被扭曲了，跟形状没有关系。恰恰相反在流形中的特征通常都有着很好的几何性质，可以避免特征扭曲（第二小节流形学习的第③个方向），没有人知道布的真正形态，平整的形态只是我们人类所喜欢的形态。（有点哲学呦）

如果你觉得“扭曲的空间”难以想象，那么请再回忆之前一块布的例子。

 

2、流形跟我们的关系---数据关系

流形学习的观点：认为我们所能观察到的数据实际上是由一个低维流形映射到高维空间的。由于数据内部特征的限制，一些高维中的数据会产生维度上的冗余，实际上这些数据只要比较低的维度就能唯一的表示。而我们想做的就是&#