Sklearn PCA 主成分分析

最新推荐文章于 2024-03-30 12:29:56 发布
最新推荐文章于 2024-03-30 12:29:56 发布
阅读量489 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/rglkt/article/details/107707124
版权

目前理解的主成分分析作用:用于降维,方便后续的处理.

这次在尝试学习相关原理了,不过学的还是不是很通顺,还是很难理解线性代数的一些处理方法的直观意义.
(本篇博客原理部分是从其他博主博客糅合进来的)
在这里插入图片描述

  1. 第一步就是每个样本都减去期望值(均值)的意思,这样每个样本的均值就都为0了.
    在这里插入图片描述
  2. 协方差矩阵涨这样,对角线是方差,其他都是协方差.我们比较熟悉的协方差计算公式是这样的.
    在这里插入图片描述
    由于第一步处理的时候,E(Xi)都为0了,所以cov(X,Y)=E(XY).然后就变成了这个公式.
    在这里插入图片描述
    方差变成了这个公式
    在这里插入图片描述

3.第三步理解的不是很透彻,总的来说就是由于上面的矩阵是实对称矩阵,肯定能求出n个不线性相关的特征向量,以及对应得特征值,而特征值的大小就可以用于选取特征向量去组成特征矩阵.比如说有n个特征值.但是前k个(特征值由小到大排列)就占了99%,那就只选取k个特征向量组成特征矩阵就好.

在这里插入图片描述
这样,特征数就从n降到了k.实现了降维.

参考文章1
参考文章2

下面是代码实现部分


                

                
                
        

        

    

  


        

            

                    
                      最低0.47元/天 解锁文章
                        
                    
            

        

    

      

        

            

              
                
                  rglkt
                
              
            

            

                关注
              
            

        

        

          
      

      

            

                专栏目录
          









                



	

		

			

				
					
用sklearn进行PCA（主成分分析）

				
			

			

				

					今天你学习了吗？
				

				

					05-24
					
					1万+
					
				

			

		

		

			
				
PCA主要是用来数据降维，将高纬度的特征映射到低维度的特征，加快机器学习的速度。



原理：



在这个图片中，我们用两个特征来描述样本，分别是attack，defense。但如右图所示，作两条线，可以看出在右边这条线上有较大的方差，而左边这条线的方差比较小。方差越大，所包含的信息就越多。那么如何把这两个特征进行降维呢，降维要尽可能保持原始数据的信息，故要取使方差最大的一个维度（本例中从二维降到一维）。假设右边这条线的方差最大，我们就可以把这条线所在的直线当作降维后的一个维度。也就是二维降到一维后，这.

			
		

	



                

              
                



	

		

			

				
					
具体介绍sklearn库中：主成分分析（PCA）的参数、属性、方法

				
			

			

				

					12-22
				

			

		

		

			
				
转载请注明出处：https://editor.csdn.net/md?articleId=104839136

文章目录主成分分析（PCA）Sklearn库中PCA一、参数说明（Parameters）二、属性（Attributes）三、方法（Methods）四、示例（Sample）五、参考资料（Reference data）
主成分分析（PCA）
主成分分析（Principal components analysis，以下简称PCA）的思想是将n维特征映射到k维上（k<n），这k维是全新的正交特征(新的坐标系)。这k维特征称为主元，是重新构造出来的k维特征，而不是简单地从n维特征中去除其余n-

			
		

	



                


  
              

                


	

		

			

				
					
Sklearn——PCA主成分分析

				
			

			

				

					m0_37634594的博客
				

				

					12-28
					
					2278
					
				

			

		

		

			
				
Sklearn——PCA主成分分析1.特征降维2.特征选择和特征降维的区别3.常用降维算法4.sklearn中PCA算法函数主成分分析 (PCA)不同主成分个数对应的可解释方差分析(Explained Variance)5 sklearn中的其他降维算法函数6 sklearn中的fit、transform、fit_transform、inverse_transform1. 数据预处理中方法2. 各种算法的方法
1.特征降维
降维实际上就是把高维空间的数据转换映射到低维空间中，从而达到降低数据维度的目的，降维

			
		

	





	

		

			

				
					
sklearn主成分分析PCA

					
最新发布

				
			

			

				

					微小冷的学习笔记
				

				

					03-30
					
					1905
					
				

			

		

		

			
				
PCA，即主成分分析(Principal components analysis)，顾名思义就是把矩阵分解成简单的组分进行研究，而拆解矩阵的主要工具是线性变换，具体形式则是奇异值分解。


			
		

	



		

			
		



	

		

			

				
					
sklearn基础篇（九）-- 主成分分析（PCA）

				
			

			

				

					CarpeDiem
				

				

					12-15
					
					2936
					
				

			

		

		

			
				
PCA（Principal Component Analysis） 是一种常见的数据分析方式，常用于高维数据的降维，可用于提取数据的主要特征分量。PCA 的数学推导可以从最大可分型和最近重构性两方面进行，前者的优化条件为划分后方差最大，后者的优化条件为点到划分平面距离最小，这里我原理出发，介绍算法流程和sklearn实现。

			
		

	





	

		

			

				
					
主成分分析（PCA）原理详解

					
热门推荐

				
			

			

				

					Microstrong
				

				

					06-09
					
					65万+
					
				

			

		

		

			
				
“微信公众号”本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s/Xt1vLQfB20rTmtLjiLsmww本文同步更新在我的知乎专栏里面：主成分分析（PCA）原理详解 - Microstrong的文章 - 知乎https://zhuanlan.zhihu.com/p/377770741.相关背景在许多领域的研究与应用中，通常需要对含有多个变量的数据进行观...

			
		

	





	

		

			

				
					
PCA主成分分析法_特征提取,pca主成分分析应用,Python

				
			

			

				

					09-10
				

			

		

		

			
				
PCA，python实现，包含手工写的PCA完整实现过程，以及直接从sklearn调用包进行PCA降维，前者可以帮助理解PCA的理论求解过程，后者可以直接替换数据迅速上手，里面还包含一个案例，降维到二维空间以后的散点图。...

			
		

	





	

		

			

				
					
机器学习--sklearn之主成分分析(PCA)

				
			

			

				

					cocofisher的博客
				

				

					11-29
					
					2178
					
				

			

		

		

			
				
PCA(主成分分析)推导过程
假设在nnn维空间内有mmm个点{x(1),x(2),……,x(m)x^{(1)}, x^{(2)}, ……, x^{(m)}x(1),x(2),……,x(m) }， 为了降低维度，对于每一个nnn维向量的样本点x(i)x^{(i)}x(i)，我们希望找到一个对应x(i)x^{(i)}x(i)的lll维编码向量c(i)c^{(i)}c(i)。
假设编码函数为c=f(x...

			
		

	





	

		

			

				
					
【机器学习sklearn】主成分分析PCA(Principal Component Analysis)

				
			

			

				

					Aoyama的博客
				

				

					12-28
					
					4680
					
				

			

		

		

			
				
主成分分析方法PCA前言一、PCA是什么？二、使用步骤1.引入库2.读入数据总结

前言

PCA`(Principal Component Analysis)`，即主成分分析方法，是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。
降维的方法有很多，包括：奇异值分解(SVD)、主成分分析(PCA)、因子分析(FA)、独立成分分析(ICA)等等。

读书是爱读，会读，想方设法去读。
一、PCA是什.

			
		

	





	

		

			

				
					
基于sklearn的主成分分析

				
			

			

				

					月见樽
				

				

					12-16
					
					1148
					
				

			

		

		

			
				
理论部分
特征降维
特征降维是无监督学习的一种应用：将n维的数据降维为m维的数据（n>m）。可应用于数据压缩等领域
主成分分析（PCA）
主成分分析是一种常用的特征降维方法，对于m维的数据A，可以降维获得一个n维的数据B（m>n），满足$B = f(A)$且$A \approx g(f(A))$，其中f(x)为编码函数，g(x)为解码函数。
当...

			
		

	





	

		

			

				
					
九、Sklearn主成分分析

				
			

			

				

					Norni的博客
				

				

					03-20
					
					579
					
				

			

		

		

			
				
参考url:
https://jakevdp.github.io/PythonDataScienceHandbook/05.09-principal-component-analysis.html
主成分分析(principal component analysis,PCA),无监督算法之一，PCA是一种非常基础的降维算法，适用于数据可视化、噪音过滤、特征抽取和特征工程等领域。
1、主成分分析简...

			
		

	





	

		

			

				
					
sklearn 实现 主成分分析

				
			

			

				

					qq_44614115的博客
				

				

					06-01
					
					436
					
				

			

		

		

			
				
sklearn 实现 主成分分析

			
		

	





	

		

			

				
					
sklearn-降维-(主成分分析)PCA

				
			

			

				

					qq_41663800的博客
				

				

					05-10
					
					1073
					
				

			

		

		

			
				
主成分分析（PCA）是最常用的一种降维方法，通常用于高维数据集的探索与可视化，还可以用作数据压缩和预处理等。
PCA可以把具有相关性的高维变量合成为线性无关的低维变量，称为主成分。主成分能够尽可能保留原始数据的信息。

原理
矩阵的主成分就是其协方差矩阵对应的特征向量，按照对应的特征值大小进行排序，最大的特征值就是第一主成分，其次是第二主成分，依次类推。

sklearn中主成分分析
在skle...

			
		

	





	

		

			

				
					
Python-sklearn之PCA主成分分析

				
			

			

				

					m0_43405302的博客
				

				

					03-19
					
					7681
					
				

			

		

		

			
				
文章目录写在前面一、PCA主成分分析1、主成分分析步骤2、主成分分析的主要作二、Python使用PCA主成分分析
写在前面
作为大数据开发人员，我们经常会收到一些数据分析工程师给我们的指标，我们基于这些指标进行数据提取。其中数据分析工程师最主要的一个特征提取方式就是PCA主成分分析，下面我将介绍Python的sklearn库中是如何实现PCA算法及其使用。
一、PCA主成分分析
什么是PCA主成分分析。百度百科给出如下定义：

1、主成分分析步骤
对于一个PCA主成分分析，一般分为以下几个步骤：

去除平均

			
		

	





	

		

			

				
					
【OpenCV 例程 300篇】235. 特征提取之主成分分析（sklearn）

				
			

			

				

					youcans的博客
				

				

					07-20
					
					2158
					
				

			

		

		

			
				
主成分分析（Principal Components Analysis，PCA）是一种基于统计的数据降维方法，又称主元素分析、主分量分析。
SKlearn 工具包提供了多种降维分析方法。sklearn.decomposition.PCA 类是 PCA算法的具体实现。
**sklearn.decomposition.PCA(n_components=None, copy=True, whiten=False)** 
SKlearn 工具包针对实际问题的特殊性，发展了各种改进算法.........

			
		

	





	

		

			

				
					
sklearn学习06——PCA

				
			

			

				

					qq_42929168的博客
				

				

					12-30
					
					6325
					
				

			

		

		

			
				
sklearn学习06——PCA前言一、PCA的核心思想1.1、PCA的原理1.2、PCA的大致流程1.3、样本信息量的衡量二、sklearn实现PCA过程2.1、引入相关库2.2、利用PCA降维2.3、不同主成分个数对应的可解释方差分析(Explained Variance)总结

前言

主成分分析（principal component analysis）是一种常见的数据降维方法，其目的是在“信息”损失较小的前提下，将高维的数据转换到低维，从而减小计算量。本篇简单介绍PCA的思想，然后继续使用skle

			
		

	





	

		

			

				
					
使用Sklearn学习降维算法PCA和SVD

				
			

			

				

					理科男同学
				

				

					10-24
					
					5714
					
				

			

		

		

			
				
1，概述

1.1，什么是维度？

我们先来解释一下维度的概念。

对于数组和Series来说，维度就是功能shape返回的结果，shape中返回了几个数字，就是几维。索引以外的数据，不分行列的叫一维（此时shape返回唯一的维度上的数据个数），有行列之分叫二维（shape返回行x列），也称为表。一张表最多二维，复数的表构成了更高的维度。当一个数组中存在2张3行4列的表时，shape返回的是(更高维，行，列)。当数组中存在2组2张3行4列的表时，数据就是4维，shape返回(2,2,3,4)。

数组中的每

			
		

	





	

		

			

				
					
PCA实战：Python利用sklearn进行主成分分析

				
			

			

				

					
				

			

		

		

			
				
例如，`sklearnPCA(n_components=2)`表示保留两个主成分。  - 使用`fit_transform`方法对特征`X`进行PCA变换，得到降维后的数据`Y`。  3. **PCA的应用**  - 数据可视化：降维后的数据可以方便地在二维图上展示，帮助...

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  





	
打赏作者

	

		

		
			
		
		

		

			
rglkt

			
你的鼓励将是我创作的最大动力

		

	

	

			

	

	

    ¥1
    ¥2
    ¥4
    ¥6
    ¥10
    ¥20
	

	

		

			

				

					扫码支付：¥1
				

				

					

					
					获取中
					

				

				

					
					
					扫码支付
				

			

		

		

			
您的余额不足，请更换扫码支付或充值

			
打赏作者

		

	



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值