斯坦福ML公开课笔记14——主成分分析

最新推荐文章于 2024-09-24 08:11:55 发布
最新推荐文章于 2024-09-24 08:11:55 发布
阅读量9.2k 收藏 9
点赞数 6
分类专栏： 机器学习笔记 机器学习笔记 文章标签： 机器学习 主成分分析 PCA
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/stdcoutzyx/article/details/37568225
版权

上一篇笔记中，介绍了因子分析模型，因子分析模型使用d维子空间的隐含变量z来拟合训练数据，所以实际上因子分析模型是一种数据降维的方法，它基于一个概率模型，使用EM算法来估计参数。

本篇主要介绍PCA(Principal Components Analysis, 主成分分析)，也是一种降维方法，但是该方法比较直接，只需计算特征向量就可以进行降维了。本篇对应的视频是公开课的第14个视频，该视频的前半部分为因子分析模型的EM求解，已写入笔记13，本篇只是后半部分的笔记，所以内容较少。





张雨石
关注
专栏目录
斯坦福机器学习ML公开课笔记1-15（完整版、带目录索引和NG原版讲义）
11-07
1-15节全部完整版讲义！超清分享~~~（附赠目录索引和NG原版讲义） 含金量高，独家整理~~ 目录如下： 公开课笔记1-2——线性规划、梯度下降、正规方程组 公开课笔记3——局部加权回归、逻辑斯蒂回归、感知器算法 公开课笔记4——牛顿方法、指数分布族、广义线性模型 公开课笔记5——生成学习、高斯判别、朴素贝叶斯 公开课笔记6——NB多项式模型、神经网络、SVM初步 公开课笔记7——最优间隔分类、原始/对偶问题、SVM对偶 公开课笔记8———核技法、软间隔分类器、SMO算法 公开课笔记9—偏差/方差、经验风险最小化、联合界、一致收敛 公开课笔记10——VC维、模型选择、特征选择 公开课笔记11——贝叶斯正则化、在线学习、ML应用建议 公开课笔记12——K-Means、混合高斯分布、EM算法 公开课笔记13A——混合高斯模型、混合贝叶斯模型 公开课笔记13B-因子分析模型及其EM求解 公开课笔记14——主成分分析 公开课笔记15—隐含语义索引、奇异值分解、独立成分分析
第十讲：主成分分析（Principal components analysis）
xyk_hust的博客
01-25 2341
前面我们讲了因子分析（factor analysis），其中在某个 kkk 维度子空间对 x∈Rnx ∈ R^nx∈Rn 进行近似建模，kkk 远小于 nnn，即 k≪nk ≪ nk≪n。具体来说，我们设想每个点 x(i)x^{(i)}x(i) 用如下方法创建：首先在 kkk 维度仿射空间（affine space） Λz+μ;z∈Rk{Λz + μ; z ∈ R^k}Λz+μ;z∈Rk 中生成某...
GLM（通用语言模型）实战指南
最新发布
gitblog_00008的博客
09-24 359
GLM（通用语言模型）实战指南 GLM GLM (General Language Model) 项目地址: https://gitcode.com/gh_mirrors/glm2/GLM ...
机器学习斯坦福公开课学习笔记
du_qi的博客
03-12 1598
第1课 机器学习的动机与应用无监督学习适用于即使是人也不知道正确答案，但是要进行分类的数据，即对无标签数据进行分类 强化学习可用于机器人领域，实现一些很复杂的、人很难写出每个细节的控制程序，如机器人或机器狗的行走、跨越障碍第2课 监督学习应用与梯度下降视频中定义的一些符号：m训练样本数，n特征数，X输入样本，Y输出变量，θ\theta参数向量,(x(i),y(i))(x^{(i)}, y^{(i)
机器学习基础--各种学习方式（12）--子空间估计与主成分分析
wydbyxr的博客
07-14 1544
子空间估计（subspace estimation）和主成分分析（principal component analysis） 相同点 　　都是无监督学习。 　　 不同点 　　我们可以用少量的参数，准确地捕获数据的相关属性吗？球的轨迹可以很好地用速度，直径和质量准确描述。裁缝们也有一组参数，可以准确地描述客户的身材，以及适合的版型。这类问题被称为子空间估计（subspace estim...
SL-PCA(子空间学习模型)——前景提取
hello world
03-17 1539
目录 1、算法评价 2、综述 2.1子空间学习方法的背景建模 3、Matlab code Paper: subspace learning for background modeling:a survey 2009, T.Bouwmans A Bayesian Computer Vision Systemfor Modeling Human Interactions,Nuri...
斯坦福ML公开课笔记(中文版1-6)
11-06
主成分分析（Principal Component Analysis, PCA）是一种无监督的线性降维技术，用于将多维数据转换到一个新的坐标系统中，新坐标系统的轴按照数据方差的大小排列。PCA通过找到数据方差最大的方向，减少数据的冗余，...
斯坦福ML公开课笔记(中文版7-11)
11-06
这些笔记内容涵盖了机器学习的多个重要主题，旨在帮助学习者深入理解这些模型的工作原理和应用场景，提升数据分析和机器学习项目的能力。通过阅读和研究这些资料，可以增强对机器学习理论和实践的理解，为进一步的...
斯坦福ML公开课笔记_中文版
12-16
总之，这份“斯坦福ML公开课笔记_中文版”提供了全面而深入的机器学习理论与实践指导，无论你是初学者还是有一定基础的学习者，都能从中受益匪浅。通过学习这些笔记，你将能够理解并应用各种机器学习模型，为你的...
斯坦福ML公开课笔记12——K-Means、混合高斯分布、EM算法
雨石
01-21 1万+
公开课系列的pdf文档已经上传到csdn资源，下载请猛击这里。 本文对应斯坦福ML公开课的第12个视频，第12个视频与前面相关性并不大，开启了一个新的话题——无监督学习。主要内容包括无监督学习中的K均值聚类(K-means)算法，混合高斯分布模型(Mixture of Gaussians, MoG)，求解MoG模型的EM算法，以及EM的一般化形式，在EM的一般化形式之前，还有一个小知识点，即Jensen不等式(Jensen’s inequality)。
机器学习公开课笔记1-12
02-22
本资源是机器学习公开课笔记的pdf版。其内容均已发表到blog中，blog地址：http://blog.csdn.net/stdcoutzyx。资源中包含1-12的课程内容。
斯坦福ML机器学习课程笔记 （1-16节完整版，附原始NG英文讲义）
11-07
斯坦福ML机器学习课程笔记 （1-16节完整版，附原始NG英文讲义）
斯坦福ML公开课笔记（中文版）
12-29
斯坦福ML公开课笔记 中文版
斯坦福ML公开课笔记(中文版12-15)
11-06
本资源是斯坦福ML公开课笔记。主要内容包括混合高斯模型、混合贝叶斯模型、因子分析模型、主成分分析、奇异值分解、隐含语义索引和独立成分分析等内容。
SIMCA 14.1 Omics Skin操作教程
04-03
关于SIMCA软件的使用，SIMCA 14.1 Omics Skin操作教程，SIMCA 14.1 Omics Skin操作教程
斯坦福ML公开课笔记15—隐含语义索引、奇异值分解、独立成分分析
雨石
07-22 9287
斯坦福ML公开课笔记15 我们在上一篇笔记中讲到了PCA(主成分分析)。PCA是一种直接的降维方法，通过求解特征值与特征向量，并选取特征值较大的一些特征向量来达到降维的效果。 本文继续PCA的话题，包括PCA的一个应用——LSI(Latent Semantic Indexing, 隐含语义索引)和PCA的一个实现——SVD(Singular Value Decomposition,奇异值分解)，在SVD和LSI结束之后，关于PCA的内容就告一段落。视频的后半段开始讲无监督学习的一种——ICA(Indepen
主成分分析（Principal components analysis）-最大方差解释
redstar649的专栏
09-07 1693
本文转自 http://www.cnblogs.com/jerrylead/archive/2011/04/18/2020209.html 在这一篇之前的内容是《Factor Analysis》，由于非常理论，打算学完整个课程后再写。在写这篇之前，我阅读了PCA、SVD和L
因子分析、主成分分析（PCA）、独立成分分析（ICA）——斯坦福CS229机器学习个人总结（六）
热门推荐
Jiahe的博客
05-07 4万+
因子分析是一种数据简化技术，是一种数据的降维方法。 因子分子可以从原始高维数据中，挖掘出仍然能表现众多原始变量主要信息的低维数据。此低维数据可以通过高斯分布、线性变换、误差扰动生成原始数据。 因子分析基于一种概率模型，使用EM算法来估计参数。主成分分析（PCA）也是一种特征降维的方法。 学习理论中，特征选择是要剔除与标签无关的特征，比如“汽车的颜色”与“汽车的速度”无关； PCA中要处理与标
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值