自实现PCA

最新推荐文章于 2024-06-18 17:10:50 发布

weixin_44778883

最新推荐文章于 2024-06-18 17:10:50 发布

阅读量156

点赞数

分类专栏：自学

本文链接：https://blog.csdn.net/weixin_44778883/article/details/95733428

版权

博客主要介绍了PCA（主成分分析）的基本原理和应用场景，并通过代码详细展示了PCA的实现过程，特别提到了在实现中涉及的协方差矩阵、特征值和特征向量等关键概念。博主分享了对np.sort()函数的进一步理解，但表示对lambda函数的运用仍需提升。

摘要由CSDN通过智能技术生成

最近学了PCA，其原理简单，应用范围也十分广泛，但是当实现过程中会用到协方差矩阵，特征值和特征向量，总是有种似懂非懂的感觉，但是算法的流程算是搞清楚了，这里把代码写出来放在这里，供以后继续参考学习。其中np.sort()算是再次了解下，lambda还是不太会灵活应用。

'''
用算法自实现PCA
算法实现流程:
    1、将样本数据中心化，相当于将数据点的中心点变为零，不然分的是没有意义的
    2、计算样本集的协方差矩阵，要用无偏估计， X.T*X/m，这一步是为了更好求得矩阵非对角线为0，无相关
    3、计算协方差矩阵的特征值和特征向量，并将其一一对应组合，并按特征值从大到小排列
    4、算出各特征值所占的信息比和累加后所占比例
    5、根据选定信息量阈值，选择符合条件的特征向量，转置后与X进行特征变换
'''
import numpy as np
import matplotlib.pyplot as plt
from sklearn.decomposition import PCA
from sklearn.datasets import load_iris

if __name__ == '__main__':
    np.set_printoptions(suppress=True)
    data = load_iris()
    x, y = data.data, data.target
    '''
    数据集是150个样本，4个特征，我们接下来降成两维
    数据在调入pca model的时候已经中心化了
    '''
    '''
    plt.figure(figsize=(15, 9))
    p