斯坦福ML公开课笔记14——主成分分析

最新推荐文章于 2024-06-20 16:57:49 发布
最新推荐文章于 2024-06-20 16:57:49 发布
阅读量9.1k 收藏 9
点赞数 6
分类专栏： 机器学习笔记 机器学习笔记 文章标签： 机器学习 主成分分析 PCA
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/stdcoutzyx/article/details/37568225
版权

上一篇笔记中，介绍了因子分析模型，因子分析模型使用d维子空间的隐含变量z来拟合训练数据，所以实际上因子分析模型是一种数据降维的方法，它基于一个概率模型，使用EM算法来估计参数。

本篇主要介绍PCA(Principal Components Analysis, 主成分分析)，也是一种降维方法，但是该方法比较直接，只需计算特征向量就可以进行降维了。本篇对应的视频是公开课的第14个视频，该视频的前半部分为因子分析模型的EM求解，已写入笔记13，本篇只是后半部分的笔记，所以内容较少。





张雨石
关注
专栏目录
斯坦福机器学习ML公开课笔记1-15（完整版、带目录索引和NG原版讲义）
11-07
1-15节全部完整版讲义！超清分享~~~（附赠目录索引和NG原版讲义） 含金量高，独家整理~~ 目录如下： 公开课笔记1-2——线性规划、梯度下降、正规方程组 公开课笔记3——局部加权回归、逻辑斯蒂回归、感知器算法 公开课笔记4——牛顿方法、指数分布族、广义线性模型 公开课笔记5——生成学习、高斯判别、朴素贝叶斯 公开课笔记6——NB多项式模型、神经网络、SVM初步 公开课笔记7——最优间隔分类、原始/对偶问题、SVM对偶 公开课笔记8———核技法、软间隔分类器、SMO算法 公开课笔记9—偏差/方差、经验风险最小化、联合界、一致收敛 公开课笔记10——VC维、模型选择、特征选择 公开课笔记11——贝叶斯正则化、在线学习、ML应用建议 公开课笔记12——K-Means、混合高斯分布、EM算法 公开课笔记13A——混合高斯模型、混合贝叶斯模型 公开课笔记13B-因子分析模型及其EM求解 公开课笔记14——主成分分析 公开课笔记15—隐含语义索引、奇异值分解、独立成分分析
斯坦福ML公开课笔记15—隐含语义索引、奇异值分解、独立成分分析
雨石
07-22 9264
斯坦福ML公开课笔记15 我们在上一篇笔记中讲到了PCA(主成分分析)。PCA是一种直接的降维方法，通过求解特征值与特征向量，并选取特征值较大的一些特征向量来达到降维的效果。 本文继续PCA的话题，包括PCA的一个应用——LSI(Latent Semantic Indexing, 隐含语义索引)和PCA的一个实现——SVD(Singular Value Decomposition,奇异值分解)，在SVD和LSI结束之后，关于PCA的内容就告一段落。视频的后半段开始讲无监督学习的一种——ICA(Indepen
主成分分析（PCA）
最新发布
nandijimo的博客
06-20 554
主成分分析（PCA）是一种基于统计学的数据分析方法，旨在利用正交变换将原始数据转换为一系列线性不相关的变量，即主成分。这些主成分按照方差大小进行排序，第一主成分具有最大的方差，后续主成分依次递减。通过选择前几个主成分，我们可以在减少数据维度的同时，保留原始数据的主要信息。本次实验旨在通过主成分分析（PCA）方法对一个实际数据集进行降维处理，探索数据的内在结构和特征。主成分分析是一种常用的数据降维技术，它可以将高维数据转化为低维数据，同时保留原始数据的主要信息。
斯坦福大学机器学习——主成份分析（Principal Components Analysis）
linkin1005的专栏
12-26 6105
主成份分析就是求出原始数据矩阵的协方差矩阵对应的特征值和特征向量，对特征值进行由大而小的排序，再根据特征值对应的特征向量进行线性变换，得到新的向量（新的向量间相互正交）。通过设定阈值可以用低维的新向量近似表示高维的原向量（协方差矩阵为非奇异的）；若协方差矩阵为奇异的，且零特征值较多，这种情况使用低维的新向量也可以完全表示高维原向量。
斯坦福ML公开课笔记（中文版）
12-29
斯坦福ML公开课笔记 中文版
斯坦福ML公开课笔记_中文版
12-16
斯坦福机器学习公开课笔记_中文版
斯坦福ML公开课笔记(中文版1-6)
11-06
主成分分析（Principal Component Analysis, PCA）是一种无监督的线性降维技术，用于将多维数据转换到一个新的坐标系统中，新坐标系统的轴按照数据方差的大小排列。PCA通过找到数据方差最大的方向，减少数据的冗余，...
斯坦福ML公开课笔记(中文版7-11)
11-06
这些笔记内容涵盖了机器学习的多个重要主题，旨在帮助学习者深入理解这些模型的工作原理和应用场景，提升数据分析和机器学习项目的能力。通过阅读和研究这些资料，可以增强对机器学习理论和实践的理解，为进一步的...
斯坦福ML公开课笔记31
08-03
斯坦福ML公开课笔记31 斯坦福ML公开课笔记31是斯坦福大学机器学习公开课的笔记，涵盖了机器学习的基本概念和算法。笔记的主要内容包括局部加权回归、最小二乘法的概率解释、逻辑斯蒂回归、感知器算法等。 局部加权...
【机器学习-斯坦福】学习笔记15 主成分分析（Principal components analysis）-最小平方误差解释
宁静致远
12-03 1944
接上篇 3.2 最小平方误差理论            假设有这样的二维样本点（红色点），回顾我们前面探讨的是求一条直线，使得样本点投影到直线上的点的方差最大。本质是求直线，那么度量直线求的好不好，不仅仅只有方差最大化的方法。再回想我们最开始学习的线性回归等，目的也是求一个线性函数使得直线能够最佳拟合样本点，那么我们能不能认为最佳的直线就是回归后的直线呢？回归时我们的最小二乘法度
线性规划、梯度下降、正规方程组——斯坦福ML公开课笔记1-2
lien0906的专栏
08-17 834
转载请注明链接：http://blog.csdn.net/xinzhangyanxiang/article/details/9101621 最近在看Ng的机器学习公开课，Ng的讲法循循善诱，感觉提高了不少。该系列视频共20个，每看完一个视频，我都要记录一些笔记，包括公式的推导，讲解时候的例子等。按照Ng的说法，公式要自己推理一遍才能理解的通透，我觉得自己能够总结出来，发到博客上，也能达到这个效果
斯坦福ML公开课笔记11——贝叶斯正则化、在线学习、ML应用建议
shuiziliu1025的博客
08-13 665
本文对应ML公开课的第11个视频。前半部分仍然是讲学习理论的内容，后半部分主要讲述一些在具体应用中使用ML算法的经验。学习理论的内容包括贝叶斯统计和正则化(Bayesianstatistics and Regularization)、在线学习(OnlineLearning)。ML经验包括算法的诊断(Diagnostics for debugging learning algorithms)、误
斯坦福机器学习公开课--整理笔记（…
宣小K的博客
09-05 628
跟老板聊了很久之后，决定换一个研究方向，本来想专门写一篇博文说说数据挖掘与机器学习，后来转念也想也算了，毕竟之前还是有很多可以用上的知识，这几天准备把Andrew大牛的机器学习公开课重新刷一遍，简单做一下笔记好了。 第一课是基本介绍，略过。 第二课：监督学习应用.梯度下降： 这节课主要探究的是监督学习的最优化，即给定输入特征向量X，标准输出Y，要求用一个线性函数h（x）来拟合中间...
机器学习笔记-standford公开课课程学习笔记
xiaodidadada的博客
05-13 390
一、回归问题（regression）与分类问题（classification）的区别二者都属于监督式学习，回归问题和分类问题的本质一样，都是针对一个输入做出一个输出预测，其区别在于输出变量的类型。分类问题是指，给定一个输入，根据训练集推断它所对应的类别，是一种定性输出，也叫离散变量预测；通常是用来预测一个值，如预测房价、未来的天气情况等。回归问题是指，给定一个输入，根据训练集推断它所对应的输出值，...
机器学习斯坦福公开课学习笔记
du_qi的博客
03-12 1579
第1课 机器学习的动机与应用无监督学习适用于即使是人也不知道正确答案，但是要进行分类的数据，即对无标签数据进行分类 强化学习可用于机器人领域，实现一些很复杂的、人很难写出每个细节的控制程序，如机器人或机器狗的行走、跨越障碍第2课 监督学习应用与梯度下降视频中定义的一些符号：m训练样本数，n特征数，X输入样本，Y输出变量，θ\theta参数向量,(x(i),y(i))(x^{(i)}, y^{(i)
斯坦福机器学习公开课笔记
ACM,再见！
05-31 2009
初步介绍 监督式学习: 给定数据集并且知道其正确的输出应该是怎么样的，即有反馈（feedback），分为 回归 （Regressioin）: map输入到连续的输出值。分类 （Classification）：map输出到离散的输出值。 非监督式学习: 给定数据集，并不知道其正确的输出是什么，没有反馈，分为 聚类（Clustering）： Examples: Google N
斯坦福机器学习： 网易公开课系列笔记（三）——局部加权回归、logistic回归
起风之后，只剩沙丘
02-18 2752
在上一节中，我们讲到了线性回归的梯度下降和最小二乘的求解方法，但是实际当中，大部分问题并不是线性的，如果用线性方程去拟合这些数据，误差会非常大。       下图中最左边的，是我们用y=Θ0+Θ1x对数据集进行拟合，可以看到数据并没有很好的分布在方程的附近，会产生很大的误差；如果我们添加一个额外是特征x2,并用y=Θ0+Θ1x+Θ2x2进行拟合，可以看到数据被拟合的更好一些；进一步，如果我们添加更
斯坦福机器学习网易公开课笔记6
zhonglj0314的专栏
02-24 709
这一讲介绍了两种朴素贝叶斯算法的事件模型，接着介绍了神经网络算法。最后介绍支持向量机，给出了两个重要的概念，函数间隔和几何间隔，基于这两个概念的最大间隔分类器算法。
[优达 机器学习入门]课程12：特征选择/课程13：主成分分析（PCA）
Daisy_fight的博客
06-13 707
特征选择sklearn 中有两大单变量特征选择工具：SelectPercentile 和 SelectKBest。 两者之间的区别从名字就可以看出：SelectPercentile 选择最强大的 X% 特征（X 是参数），而 SelectKBest 选择 K 个最强大的特征（K 是参数）。from sklearn.feature_selection import SelectPercentile ...
斯坦福机器学习公开课笔记：混合模型与分析
斯坦福大学机器学习公开课笔记，涵盖了混合高斯模型、混合贝叶斯模型、因子分析模型、主成分分析、奇异值分解、隐含语义索引和独立成分分析等多个机器学习领域的核心概念。 这篇笔记是基于斯坦福大学机器学习（ML）...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值