距离、范数与流形学习
距离范数流形学习总结
距离
让我们思考一个基础的问题,我们怎么计算距离?
小学时我们经常做的A市到B市的距离为100KM,初中会有用勾股定理计算距离,到高中接触欧式距离。
如果我们对机器学习有点了解,也会对以下名词并不陌生。
欧氏距离
标准化欧氏距离
马氏距离(Mahalanobis距离)
夹角余弦距离
汉明距离
曼哈顿(Manhattan)距离
这些距离都是非常常用的,并且各自有各自的适用范围。
各种距离的具体定义在这里不赘述了,可以看看下面这个博客文章。
https://blog.csdn.net/Kevin_cc98/article/details/73742037
很多距离其实有非常好的几何理解,也是很有意思的,有一种奇妙的联系。比如就以我们最常见的欧式距离为例,欧式距离其实和勾股定理有点关系,很多机器学习算法也经常用欧式距离。
最初的勾股定理指出,在一个直角三角形中三条边a,b,c满足:
当然这是在一个欧式空间里讨论的。
开个脑洞,如果我们在这个直角三角形斜边上叠加一个直角三角形。
想象这是一张折纸,把它折起来&#x