吴恩达机器学习笔记week14——降维 Dimensionality Reduction(无监督学习&PCA)

最新推荐文章于 2024-11-09 13:22:34 发布
最新推荐文章于 2024-11-09 13:22:34 发布
阅读量149 收藏
点赞数
文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Saulty/article/details/109377927
版权
该博客详细介绍了吴恩达机器学习课程第14周的内容，主要聚焦于无监督学习中的降维技术——主成分分析PCA。PCA的主要目标包括数据压缩和可视化，通过最小化投影误差来实现。博客还阐述了PCA与线性回归的区别，以及PCA的实施步骤和数据预处理。此外，讨论了如何选择主成分的数量，并解释了如何从压缩表示中重构数据。最后，给出了在实际应用PCA时的一些建议。
摘要由CSDN通过智能技术生成

@[TOC](吴恩达机器学习笔记week14——降维 Dimensionality Reduction(无监督学习))

14-1.目标.I：数据压缩 Motivation I:Data Compression

在这里插入图片描述
在这里插入图片描述

14-2.目标.II：可视化 Motivation II：Data Visualization

在这里插入图片描述

14-3.主成分分析问题规划1 PCA problem formulation——原理理论基础

PCA == principal component analysis 主成分分析
projection error 投影误差——需要最小化
在这里插入图片描述

  • PCA VS 线性回归
    在这里插入图片描述

14-4.主成分分析问题规划2 PCA problem algorithm——实现步骤

  • 数据预处理
    在这里插入图片描述
    • 求降维后的向量
      在这里插入图片描述
      在这里插入图片描述
  • 总结
    在这里插入图片描述

14-5.主成分数量选择 Choosing the number of principal components——K


在这里插入图片描述

14-6.压缩重现 Reconstruction from compressed representation

在这里插入图片描述

14-7.应用.PCA.的建议 Advice for applying PCA

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Saulty
关注
吴恩达机器学习笔记（12）——降维（Dimensionality Reduction）
阿尔基亚的玫瑰蜜
03-05 719
这里介绍第二种无监督学习方法，叫做降维（Dimensionality Reduction） 一、目标1：数据压缩Data Compression 由于可能存在许多冗余特征量，或者说特征高度相关，所以需要减少特征量的数量。 so如果允许我们通过投影这条绿线上所有的原始样本，来近似原始的数据集，那么我只需要用一个数就能表示每个训练样本的位置，这样就能把内存的需求减半，同时这将允许我们的学习算法运行的...
吴恩达机器学习基础课程笔记
tjujackson的博客
03-06 946
吴恩达机器学习2022笔记
机器学习学习笔记（十二）—— 无监督学习/维数约减(dimensionality reduction)
Lancetop的博客
05-15 949
为什么使用维数约减： 应用于数据压缩，数据压缩不仅通过压缩数据使得数据占有更少的计算机内存和硬盘空间，还能给算法提速。 什么是维数约减： 给出数据集：{},. 使得数据集转换成：{ },, k <= n. 尽量使得k=2/3，这样便于将数据可视化。 主成分分析法(Principal Component Analysis, PCA): 就2D到1D来举例，就是从平面上寻找...
吴恩达《Machine Learning》-Dimensionality Reduction降维（十四）
丰brother的博客
07-22 386
Data Compression数据压缩 为了让机器学习算法的运行效率更高，我们一般对于一些有特点的数据采取数据压缩。 如上图，数据集大多分布在一条线上附近，这种数据我们可以采用数据压缩。其操作是将直线附近的数据投影在本直线上。相当于将一个二维数据，降维成一维数据。 同理多于三维数据，我们也可以考虑投影在二维平面。（一般三维数据分布在二维平面附近）。此时我们仅仅需要两个维度，即投影二维平面的Z...
吴恩达机器学习之降维(Dimensionality Reduction)（二）：动机二——数据可视化（详细笔记，建议收藏，已有专栏）
汪雯琦的博客
03-20 305
吴恩达机器学习栏目清单 专栏直达：https://blog.csdn.net/qq_35456045/category_9762715.html 文章目录14.2 动机二：数据可视化 14.2 动机二：数据可视化 参考视频: 14 - 2 - Motivation II_ Visualization (6 min).mkv 在许多及其学习问题中，如果我们能将数据可视化，我们便能寻找到一个更好的解决...
机器学习——无监督学习
weixin_43212941的博客
11-15 923
机器学习——无监督学习预处理和缩放降维、特征提取、流形学习主成分分析1、可视化2、特征提取非负矩阵分解用t-SNE进行流行学习 在无监督学习中，学习算法只有输入数据，并需要 从这些数据中提取知识。 本章将研究两种类型的无监督学习：数据集变换与聚类。 数据集的无监督变换（unsupervised transformation）是创建数据新的表示的算法，与数据的原始表示相比，新的表示可能更容易被人或其他机器学习算法所理解。无监督变换的一个常见应用是降维（dimensionality reduction），它接受
AndrewNg 吴恩达机器学习笔记
04-19
上述知识点覆盖了吴恩达机器学习课程中的核心概念和算法，包括监督学习、无监督学习、线性回归、逻辑回归、正则化、神经网络、支持向量机、聚类、降维、异常检测、推荐系统以及大规模机器学习问题的解决策略等。...
【机器学习】课程笔记13_降维(Dimensionality Reduction)
qq_45627555的博客
11-25 381
吴恩达机器学习课程笔记13_降维(Dimensionality Reduction)
吴恩达机器学习[15]-无监督学习之 降维、主成分分析
踏归 的博客
08-06 746
吴恩达机器学习
吴恩达机器学习之降维(Dimensionality Reduction)（四）：主成分分析问题、主成分分析算法、选择主成分的数量（详细笔记，建议收藏，已有专栏）
汪雯琦的博客
03-20 591
吴恩达机器学习栏目清单 专栏直达：https://blog.csdn.net/qq_35456045/category_9762715.html 文章目录14.6 重建的压缩表示14.7 主成分分析法的应用建议 14.6 重建的压缩表示 参考视频: 14 - 6 - Reconstruction from Compressed Representation (4 min).mkv 在以前的视频中，...
Dimensionality Reduction（主成分分析PCA与线性判别分析LDA）
nakaizura
10-19 4767
PCA原理，实现，应用。多重境界的理解。通常情况下，在收集数据集时会有很多的特征，这代表着数据是高冗余的表示，但是对于某个工程来说其实可能并不需要那么多的特征。所以就需要给数据进行降维（Dimensionality Reduction）。降维可以简化数据，使数据集更易使用，降低时间开销，而且能减少一部分噪音的影响，使最后的效果变好。比如上图中，如果进行降维后再进行分类，将会易于处理.........
吴恩达机器学习之降维(Dimensionality Reduction)（一）：动机一——数据压缩（详细笔记，建议收藏，已有专栏）
汪雯琦的博客
03-20 738
吴恩达机器学习栏目清单 专栏直达：https://blog.csdn.net/qq_35456045/category_9762715.html 文章目录14.降维(Dimensionality Reduction)14.1 动机一：数据压缩 14.降维(Dimensionality Reduction) 14.1 动机一：数据压缩 参考视频: 14 - 1 - Motivation I_ Dat...
机器学习在医疗健康领域的应用
最新发布
qq_36287830的博客
11-09 643
机器学习是一种人工智能技术，通过训练模型来识别数据中的模式和规律，实现对未知数据的预测和分类。机器学习的核心思想是从数据中学习，通过算法自动提取特征，建立模型，进行预测和决策。
机器学习—矩阵乘法
yn3535_的博客
11-06 530
让我们来看看向量矩阵乘法，也就是当你把一个向量乘以一个矩阵，又得到一个向量，列向量a转置后得到行向量a，所以与其把这看作是一个2×1的矩阵，转置后就变成了1×2的矩阵，现在用这四个元素创建一个2×2的矩阵w，如果你想计算Z，Z=a转置W，结果z是一个2×1的矩阵，计算z的第一个值，我们要做一个a转置乘w1，所以要计算z的第一个元素，最终得到(1*3)+(2*4),然后计算第二个元素，现在将转置乘w2，，所以计算第二个元素，最终得到(1*5)+(2*6)。如何在向量之间取点积？
机器学习—为什么我们需要激活函数
yn3535_的博客
11-09 350
用一个更简单的例子来说明这一点，看一个神经网络的例子，其中输入x只是一个数字，有一个隐藏单位，参数w和b，输出一个，这里只是一个数字a[1]，然后第二层是输出层，它也只有一个输出单元，参数为w2 b2，输出一个a2，也就是一个数字，只是一个标量，它是神经网络f(x)的输出，如果用线性激活函数，g(z)=z，将x=a1计算，神经网络将使用a1=g(w)*x+b1，具体替换如下图所示，所以w只是一个线性函数而不是使用一个隐藏层和一个输出层的神经网络，还不如用线性回归模型，如果熟悉线性代数，
突破1200°C高温性能极限！北京科技大学用机器学习合成24种耐火高熵合金，室温延展性极佳
HyperAI超神经
11-06 1930
屈服强度超出所有已报道的耐火高熵合金
机器学习周报（RNN的梯度消失和LSTM缓解梯度消失公式推导）
weixin_51923997的博客
11-03 869
在深度学习领域，循环神经网络（Recurrent Neural Network, RNN）被广泛应用于处理序列数据，特别是在自然语言处理、时间序列预测等任务中。然而，传统的RNN在长序列数据学习过程中容易出现梯度消失和梯度爆炸问题，使得模型难以捕捉长时间依赖性。梯度消失问题源于RNN的反向传播算法中，多次矩阵相乘导致梯度指数级衰减，从而影响模型性能。为解决这一问题，长短期记忆网络（Long Short-Term Memory, LSTM）应运而生。
ML 系列：机器学习和深度学习的深层次总结（ 19）— PMF、PDF、平均值、方差、标准差
gongdiwudu的专栏
11-06 1349
在概率和统计学中，了解结果是如何量化的至关重要。概率质量函数 （PMF） 和概率密度函数 （PDF）是实现此目的的基本工具，每个函数都提供不同类型的数据：离散和连续数据。
机器学习系列-----主成分分析（PCA）
DK22151的博客
11-07 988
主成分分析（PCA）是一种强大的统计方法，广泛应用于数据降维和特征提取。其主要思想是通过将高维数据投影到一个新的坐标系中，使得新坐标系中的各个主成分（即特征向量）能够最大程度地捕捉数据的方差，从而有效降低数据的维度并保留最重要的信息。PCA的基本过程包括对数据进行标准化处理、计算数据的协方差矩阵、对协方差矩阵进行特征值分解、然后选择前几个具有最大特征值的主成分，并将原始数据投影到这些主成分上，从而实现降维。
吴恩达机器学习笔记：斯坦福大学2014年机器学习课程学习笔记
吴恩达机器学习个人笔记完整版 吴恩达机器学习个人笔记完整版是根据斯坦福大学2014年机器学习课程视频所做的笔记，主要记录吴恩达老师上课时的重点。该笔记对机器学习的基本概念、模型、算法和应用进行了详细的介绍...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值