机器学习——PCA算法

最新推荐文章于 2023-06-22 12:54:38 发布
最新推荐文章于 2023-06-22 12:54:38 发布
阅读量525 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhongzi123456789/article/details/50812103
版权

m个数据，每个数据有n维的特征，现在要用PCA算法将n维特征降到k维

首先计算n维特征，每个维度特征的均值，然后将m个数据n维特征分别减去对应维度的均值，然后根据这些新的m*n维的数据，计算协方差矩阵n*n的特征根和特征向量，从大到小排列特征根，取（lamda 1...lamdak/lamda1....lamda n）>=99%的k个特征值对应的特征向量，然后将m*n维的数据向这k个特征根对应的特征向量做投影，也就是m*n  *  n*k，最终得到m*k的数据，以上就是PCA算法实施的过程

等候下一场雪
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习之PCA算法
Goodbye_的博客
02-21 738
PCA 是 Principal Component Analysis 的缩写，中文称为主成分分析法。它是一种维数约减（Dimensionality Reduction）算法，即把高维度数据在损失最小的情况下转换为低维度数据的算法。显然，PCA 可以用来对数据进行压缩，可以在可控的失真范围内提高运算速度。 所谓损失最小就是从高维向低维映射的时候误差最小，低位空间的描述是向量组，k维空间就用k个向量...
机器学习方法简介（4）--主成分分析（PCA）
gan785160627的博客
08-01 384
顾名思义，主成分分析方法是找出原始数据中的主要成分，用原始数据的主要成分代替原始数据达到降维的效果。 那么我们如果寻找主成分呢？我们可以试图在样本空间中找到一个超平面，使得样本点到这个超平面的距离足够近,或者说样本点在这个超平面上的投影能尽可能的分开，这个超平面的方向即为主成分。 经过推导可知（推导过程省略），假如我们需要将n维样本数据映射为维的主成分数据，我们找到协方差矩阵的个最大的特征向量...
监督学习方法与无监督学习方法总结
daisyxyr的博客
07-10 4103
（一）监督学习 10种监督学习方法特点的概括汇总如下表： （二）无监督学习 八种常用的统计机器学习方法，即聚类方法（包括层次聚类与k均值聚类）、奇异值分解（SVD）、主成分分析（PCA）、潜在语义分析（LSA）、概率潜在语义分析（PLSA）、马尔可夫链蒙特卡罗法（MCMC）、潜在狄利克雷分配（LDA）、PageRank算法 还有另外三种常用的统计机器学习方法，即非负矩阵分解（NMF）、变分推理、幂法 这些方法常用于无监督学习的聚类、降维、话题分析以及图分析 矩阵分解基于不同假设：SVD基于正交假设，即分
数据挖掘领域经典算法——CART算法
weixin_34408717的博客
12-28 115
简介 CART与C4.5类似，是决策树算法的一种。此外，常见的决策树算法还有ID3，这三者的不同之处在于特征的划分： ID3：特征划分基于信息增益 C4.5：特征划分基于信息增益比 CART：特征划分基于基尼指数 基本思想 CART假设决策树是二叉树，内部结点特征的取值为“是”和“否”，左分支是取值为“是”的分支，右分支是取值为“否”的分支。这样的决策树等价于递归地二分每个特征，将输入空间即特征空...
简单易懂的人工智能系列：CART算法
薛定谔的猫-前端领域
03-10 258
C4.5算法 前面文章中讲到ID3算法有四个主要的不足，一是不能处理连续特征，第二个就是用信息增益作为标准容易偏向于取值较多的特征，最后两个是缺失值处理的问题和过拟合问题。昆兰在C4.5算法中改进了上述4个问题。 改进1：将连续的特征离散化 比如 m 个样本的连续特征 A 有 m 个，从小到大排列为\({a_1,a_2,...,a_m}\)，则 C4.5 取相邻两样本值的平均数，一共取得m-...
机器学习实战项目——无监督聚类&PCA tSNE降维.zip
04-11
机器学习实战项目——无监督聚类&PCA tSNE降维.zip
机器学习部分算法实现，分类、聚类、回归（LR、Kmeans、GMM、PCA）.zip
最新发布
04-28
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
机器学习实战笔记4——主成分分析
01-21
1、机器学习导论 8、稀疏表示 2、KNN及其实现 9、核方法 3、K-means聚类 10、高斯混合模型 4、主成分分析 11、嵌入学习 5、线性判别分析 12、强化学习 6、贝叶斯方法 13、PageRank 7、逻辑回归 14、深度学习 ...
机器学习算法详解
04-12
机器学习算法详解▪ 一、线性回归 ◦ 1、代价函数 ◦ 2、梯度下降算法 ◦ 3、均值归一化 ◦ 4、最终运行结果 ◦ 5、使用scikit-learn库中的线性模型实现 ▪ 二、逻辑回归 ◦ 1、代价函数 ◦ 2、梯度 ◦ 3、正则化 ◦...
傻瓜机器学习笔记，简单例子&手推题目
08-10
本文档总结了机器学习的重要算法、技术和概念，涵盖了线性回归、逻辑回归、决策树、集成学习、支持向量机、朴素贝叶斯、GDA、高斯判别分析、BP 误差逆传播算法、卷积神经网络、K-means 聚类、EM 算法、PCA 主成分...
（2020更新）Matlab非支配排序遗传算法 PESA-II
09-17
基于Pareto的非支配排序遗传算法II (PESA-II)是一种多目标进化优化算法，它利用了遗传算法的机制以及基于Pareto包络的选择。 PESA-II使用外部存档来存储近似的Pareto解决方案。 基于基于档案成员的地理分布创建的网格，从这个外部档案中选择父类和突变体。 这与在MOPSO(这里)算法中使用的机制非常相似。 实际上，PESA-II是一个多目标遗传算法，它使用网格进行选择，并创建下一代。 该算法以结构化的方式实现，如果你熟悉MATLAB编程语言，你会发现在你的研究项目中使用这些代码很容易。
【第二章 数据预处理】袁博《数据挖掘：理论与算法》
qq_43629945的博客
01-28 2548
PCA（主成分分析）、LDA（线性判别分析）；熵与信息增益；离群点和异常点、LOF方法进行离群点检测；数据类型转换、采样、可视化等等
【机器学习】十大算法之一 “PCA”
Code_and516的博客
06-22 3048
PCA（Principal Component Analysis，主成分分析）是一种广泛使用的线性降维算法，在机器学习领域被广泛应用。通俗地说，它是一种通过将高维数据映射到低维数据，保留数据主要特征的方法。在PCA中，数据被投影到一个新的低维抽象空间中，使新的特征集能最大化地解释数据集的方差，我们可以选择保留最大方差的前k个特征值。通常，PCA被用于降维，但它也被用作一种特征提取算法。在本文中，我们介绍了PCA算法的基本原理，讨论了它的应用，以及在Python中如何实现。
Machine Learning:十大机器学习算法
weixin_33875839的博客
02-11 1228
2019独角兽企业重金招聘Python工程师标准>>> ...
【多目标优化算法】基于帕累托包络（PESA-II）的选择算法（Matlab代码实现）
weixin_46039719的博客
09-20 1281
进化算法3作为一类启发式搜索算法，己被成功应用于多目标优化领域，发展成为一个相对较热门的研究方向–进化多目标优化。进化算法通过在代与代之间维持由潜在解组成的种群来实现全局搜索，这种从种群到种群的方法对于搜索多目标优化问题的Pareto最优解集是很有用的。PESA 4( the Pareto Envelope - based SelectionAlgorithm)是Corne 等人在2000年提出的一种多目标进化算法。
学习笔记--基于范围选择的进化多目标优化（PESA-II）
xt_18829518330的博客
10-16 2041
基于范围选择的进化多目标优化PASA-II 摘要：这篇文章对进化多目标优化算法提出了一个新的选择技术—目标空间中的选择单元是一个超长方体。在这项技术中，与给每个个体分配一个选择适应度不同的是，适应度值被分配给被当前至少一个接近帕累托前沿的个体占据的当前目标空间中的超长方体。然后从这块空间中随机选择个体作为结果。 第二部分简要介绍现代进化多目标算法中的选择方案以及基于区域选择的概念。第三部分算法测试...
机器学习：一些常见的监督型学习方法（K近邻、决策树、朴素贝叶斯、逻辑回归）
热门推荐
EastCarFxx Blog
02-18 2万+
机器学习：一些常见的监督型学习方法（K近邻、决策树、朴素贝叶斯、逻辑回归）在机器学习中，无监督学习（Unsupervised learning）就是聚类，事先不知道样本的类别，通过某种办法，把相似的样本放在一起归位一类；而监督型学习（Supervised learning）就是有训练样本，带有属性标签，也可以理解成样本有输入有输出。所有的回归算法和分类算法都属于监督学习。回归（Regression）
【机器学习】几种常见的无监督学习算法
书山有路，学海无涯。记录成长，追逐梦想
05-26 1万+
降维是指在保留数据特征的前提下，以少量的变量表示有许多变量的数据，这有助于降低多变量数据分析的复杂度。减少数据变量的方法有两种：一种是只选择重要的变量，不使用其余变量；另一种是基于原来的变量构造新的变量。
机器学习算法/模型——有监督到无监督（降维）：主成分分析（PCA）
Robin_Pi的博客
02-24 6827
主成分分析 PCA1. 背景：数据降维2. 主成分分析原理3. 求解主成分3.1 矩阵分解3.2 奇异值分解 1. 背景：数据降维 2. 主成分分析原理 3. 求解主成分 3.1 矩阵分解 3.2 奇异值分解 参考 机器学习数据预处理：数据降维之PCA 数据预处理：PCA原理推导 数据降维处理：PCA之特征值分解法例子解析 数据降维处理：PCA之奇异值分解（SVD）介绍 ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值