关于PCA(特征降维)的特征值,特征向量的理解

之前学习pca这点地方时,一直不太理解为什么特征降维需通过“ Aa=λα ”来计算,在网上也看了很多资料,现在来说一说我自己的理解:

当然我的理解也是建立在别人的博文之上的,推荐一篇博文  https://blog.csdn.net/a727911438/article/details/77531973    (是关于介绍矩阵、向量、行列式、特征值与特征向量的),再次对此博主表示感谢。

  现在我就关于特征值与特征向量在特征降维时该怎么理解补充几点:

1)将矩阵向量化:把一个样本具有n个维度(x1, x2,x3....Xn)的特征想象成一个在n维空间,由x1,x2,x3...表示的一个有向线段,这个有向线段是由这n个点描绘出来的(可以通过二维空间想象,二维空间是通过(x1,y)描绘一个有向线段);

2)a为列向量(a1,a2,a3...),可以看成是每个特征值前面的系数;

3)Aa表示成方程就是a1x1+a2x2+a3x3+....,用一个变量y去接收这个这个值,则 y=a1x1+a2x2+a3x3+....,这个表达式的意义是:y被x1,x2,...线性表示了,(线性表示就是两个变量之间能够用一次方程去表示,千万不要把线性表示想象成一条直线了,其实直线和线性表示没有任何关系,只是在二维空间,两个变量的线性表示的图形为一条直线,在n维空间具体是什么形状,我也不知道。。。。),而这个线性表示的系数就是(a1,a2,a3...)

4)此时定义一下A为n*m,则A有n行,m列,与a经过平行四边形法则相乘之后会得到一个新的向量,即y = (y1,y2,y3....),同时这个向量又可以用刚才的a向量乘以一个数λ得到,即y与a共线,即y=λa

5)具有以上 Aa=λα 特性的a叫做特征向量,因为这个a是这个n维空间的一个代表,所以叫特征向量吧,而λ就是特征值

 

 

 

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
以下是使用Python进行PCA特征向量降维的代码示例: ```python import numpy as np def pca(X, k): # 计算协方差矩阵 sigma = np.cov(X.T) # 计算特征值特征向量 eigenvalues, eigenvectors = np.linalg.eig(sigma) # 对特征值进行排序 idx = eigenvalues.argsort()\[::-1\] eigenvectors = eigenvectors\[:, idx\] # 选择前k个特征向量 selected_eigenvectors = eigenvectors\[:, :k\] # 将数据投影到选定的特征向量上 X_reduced = X.dot(selected_eigenvectors) return X_reduced # 示例数据 X = np.array(\[\[1, 2\], \[3, 4\], \[5, 6\], \[7, 8\]\]) # 设置降维后的维度 k = 1 # 进行PCA降维 X_reduced = pca(X, k) print(X_reduced) ``` 这段代码首先计算输入数据的协方差矩阵,然后通过计算特征值特征向量来进行降维。最后,选择前k个特征向量,并将数据投影到这些特征向量上,得到降维后的数据。在上述示例中,输入数据X是一个2维的矩阵,k设置为1,表示将数据降维到1维。输结果X_reduced是降维后的数据。 #### 引用[.reference_title] - *1* *2* *3* [降维算法实战项目(1)—使用PCA对二维数据降维(Python代码+数据集)](https://blog.csdn.net/wzk4869/article/details/126074158)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值