2024年【吴恩达机器学习笔记】十二、降维_主成分数量选择，2024年最新算法题+大数据开发

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

需要这份系统化资料的朋友，可以戳这里获取

2. 目标2：可视化

这节课再来将一下降维的第二个应用可视化，假设我们现在有很多数据关于每个国家的信息，每个国家都有50个指标表示即50维，现在我们通过一系列变换将50维降到2维，这可能就很难理解2维是如何表示国家的情况。

那我们可以通过图像去理解这些信息，假设横轴代表国家的GDP而纵轴代表人均的GDP，就能很直观的表现出来。

3. 主成分分析问题规划

主成分分析（PCA）问题规划

这种算法是最强大的无监督算法之一，其原理是通过将样本通过投影到更低维度上从而找到一个投影误差最小的维度，拿2D到1D距离，PCA就是通过计算所有样本到直线垂直距离即投影误差，找到平方投影误差最小的直线，同理换成3D到2D就是将直线换成了平面。

并且PCA不是线性回归，虽然与线性回归比较相似。

上图左侧代表的是线性回归图像，而右侧则是PCA，可以发现线性回归问题中是找到样本竖直方向与直线的距离的最小误差，而PCA中则是样本与直线的垂直距离。还有一点不同就是，线性回归是要预测y值的，而PCA并没有什么预测的概念，本身作用是用于降维，而特征之间并没有什么特殊关系。

接下来，我们来讲讲PCA算法的详细步骤，但在此之前，我们首先要执行的是均值标准化，这里的流程实际上是和之前有监督学习的数据处理步骤是一样的。

并且如果特征值相差过大，还需要进行特征缩放。

如果你想减少数据即从N维降到K维，首先你要计算协方差矩阵（covariance matrix），要注意的是上面sigma矩阵和求和sigma是完全不一样的，虽然符号十分相似。然后再计算**奇异值分解（svd）**得到U，S，V矩阵，而svd函数可以通过数值库找到对应的代码。

而得到的USV中的U矩阵尤为关键，它是一个n阶方阵，我们要取其中的前k项从而组成Ureduce矩阵，然后计算其与样本向量的乘机得到z，这里的样本可以用训练集中的也可以用交叉验证集中的。

4. 主成分数量选择

我们在使用PCA的时候还要考虑到k的选择，以下就是我们选择k的标准。

你要计算平均平方投影误差与总平方误差，然后使两者相除的数值尽量的小，我们一般想让这个值尽量小于1％，或者我们也可以说尽量有大于99％的方差被保留即大于99％的数据被保留。

所以我们要该如何去选取k呢，下面左侧的方法就比较笨拙，通过不断尝试k值，然后反复计算平均平方投影误差和总平方投影误差，这样每次都会调用一次奇异化分解，导致效率变低。

所以我们会用上图右侧的方法，利用之前奇异化分解得到的矩阵中的S矩阵，然后将之前的算式改成上图右侧的算式，这样我们就只用计算一次奇异化分解，每次只用计算只用调用S矩阵中的值即可，同样只用尽量让上面算式结果小于0.01，下面就是具体算式。

5. 压缩重现

我们前面通过投影将高维转化为低维，同样我们也可以通过压缩后的数据将低维重现为高维。

重现后的x都在之前映射的直线上，不等于原来的x，但都接近于原来的x，具体步骤通过Ureduce乘以z即可。

6. 应用PCA的建议

我们在进行监督学习时有时候会碰到样本数据量特别大的情况，这时候直接运用逻辑回归、支持向量机等算法可能会运行的比较慢，这时候我们可以通过PCA来降维从而加速监督学习。

我们可以从训练集中提取出x特征（注意只能是训练集），然后通过PCA算法将这些特征压缩成z，上面的这个例子是将10000维降到了1000维，实际中可能没这么夸张，可能会降1/5或者1/10之类，并保留大部分的方差。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

03fab5e56a57acb)**

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！