python-PCA算法详解

PCA(主成分分析)是一种数据降维技术,用于去除噪声和减少计算开销。本文介绍了PCA的基本思路,包括数据的零均值化、协方差矩阵计算、特征值和特征向量求解,以及如何选择保留的主成分。并通过Python代码展示了PCA的实现过程。
摘要由CSDN通过智能技术生成


基本思路:

(1)对所有的样本进行demean处理。

(2)梯度上升法求系数。注意:和线性回归不同点。

      每次求一个单位向量;初始化w不能为0向量;不能使用sklearn进行标准化了。

(3)批量和随机梯度同样适用梯度上升法。

(4) 第一主成分和后续主成分。先将数据进行改变,将数据在第一主分上的分量去掉。

在新的数据上求第二主成分。这是循环往复过程。


一、PCA算法简介


主成分分析(Principal Components Analysis),简称为:PCA,是一种常见的数据降维技术,用于数据预处理的非常好的工具。一般我们获取的原始数据维度都很高,比如图像文件,几百上千个特征维度值已经很正常。但实际上,这些高维度数据不但含有很多的噪声,还存在很多维度数据存在冗余,也就是相关性太高,真正能用到的特征数据也就是几十个上百个,这样在实际进行机器学习算法过程中,通过PCA,可以大大减少运算量,节约计算时间,并且还能够达到同样的处理效果。


主要原因如下:


  1. 数据更易使用

  2. 降低很多算法的计算开销

  3. 去除噪声

  4. 使得结果更容易解读


二、PCA算法实现


  • 4
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值