sklearn中的降维算法PCA和SVD

最新推荐文章于 2024-07-20 17:25:24 发布

真是个大美丽

最新推荐文章于 2024-07-20 17:25:24 发布

阅读量458

点赞数

分类专栏： sklearn

本文链接：https://blog.csdn.net/oTianShiZaiChangGe1/article/details/117731250

版权

本文介绍了sklearn中降维算法PCA和SVD的使用，重点讲解了PCA如何根据样本方差选择特征，PCA的n_components参数如何设定，以及SVD在PCA中的作用。PCA通过SVD实现快速降维，找到最大化信息量的新特征向量。文章还提到了参数svd_solver的选择及其影响，并强调了components_属性在降维过程中的重要性。

摘要由CSDN通过智能技术生成

前提要点：
1.降维算法中的”降维“，指的是降低特征矩阵中特征的数量。
2.降维的目的是为了让算法运算更快，效果更好，但其实还有另一种需求：数据可视化。
3.特征工程中有三种方式：特征提取，特征创造和特征选择。降维算法属于特征创造。
正式内容
1.sklearn中降维算法都被包括在模块decomposition中，这个模块本质是一个矩阵分解模块。
在这里插入图片描述
2.在降维中，PCA使用的信息量衡量指标，就是样本方差，方差越大，特征所带的信息量越多。
3.代码块1

#调用库和模块
import matplotlib.pyplot as plt
from sklearn.datasets import load_iris
from sklearn.decomposition import PCA

#提取数据集
iris=load_iris()
x=iris.data
y=iris.target
print("x.shape:",x.shape)
import pandas as pd
pd.DataFrame(x)

#建模
pca=PCA(n_components=2)
x_dr=pca.fit_transform(x)
print("x_dr:",x_dr)

#可视化
colors=['red','black','orange']
pri