机器学习（二）降维（PCA，kPCA，LLE）

爱踢球的猕猴桃

已于 2023-01-06 22:01:34 修改

阅读量910

点赞数 3

分类专栏：机器学习文章标签： sklearn 人工智能

于 2022-12-12 19:32:24 首次发布

本文链接：https://blog.csdn.net/m0_63168931/article/details/128291917

版权

写在前面

这是一个新的板块，用于记录作者机器学习的学习历程，同时分享自己的学习笔记给大家，希望这份笔记能帮助大家，同时也欢迎大家一起学习交流指正，我会尽量做到周更。如果有用的话请记得关注点赞收藏！！！

预告：下一章学习内容为无监督学习技术

1.思维导图

2.降维主要方法

降维能够加快训练速度，但不一定能使结果更好，取决于数据集和你的目的。

2.1投影和流形

投影是最简单的降维方法，即将所有训练实例垂直投影到子空间上，可以简单理解为把这个图形拍扁形成的图像，就像小学画三视图一样。

就像这样假设我们的数据分布就长成这个几何体一样，观察三视图，我们取其中任何一张图片（2D）都是不能很好的还原这个几何图形(3D)的，也就是说多数情况下子空间会发生旋转和扭动，并不能很好的反映数据本身的联系。比如说我们现在需要计算该几何体上两点之间的距离，如果利用投影，可能误差会非常大，而合理的计算方式是展开图形再测量，那么这样把三维的图形展开转为二维的形状就是流形。