matlab如何画lda投影结果_数据挖掘——主成分分析(PCA)与线性判别分析(LDA)...

本文介绍了PCA(主成分分析)和LDA(线性判别分析)在特征选择和降维中的作用。PCA通过旋转坐标轴减少特征间的相关性,最大化方差,实现数据降维。LDA则在考虑类别信息的情况下,寻找最佳投影方向,使不同类别间距离最大化,同类数据内部距离最小化,适用于分类问题。Fisher判别准则在LDA中起到关键作用,用于优化投影方向。
摘要由CSDN通过智能技术生成

PCA

特征选择:从n个属性选择m个,要最大程度的保留主要的,可辨识的特征

特征提取:例如边缘提取(像素点的差分)

Variance=Information,如果沿着某一个属性的Variance越大,就说明这个属性越重要

假设数据是二维高斯分布(椭圆形:有长轴与短轴),X1属性优于X2(Variance较大),则选择X1,把数据向长轴上投影,转化为一维。

0bd993ee1161d09588ec26cdb5f6ac13.png

但并不是所有的都是标准的,如图就有一定的偏转,此时再向x1,x2投影,无论如何选择,都会损失较多的特征数据。若将坐标轴做一定的平移与偏转似乎就有了解决的办法,利于特征的选择。

01b69bb77c42039e65d732ac3c720049.png

那么,如何做这个变换呢?目标在Y坐标轴下计算出的correlation只有对角线上是非0的,其他的都为0

Y=PX P为n维的旋转矩阵。要求得S(Y),进行变化,希望该矩阵为对角阵

-->

矩阵的特征值分解(Eigendecomposition),再带回(D就是一个对角阵,它包含的就是特征值)

-->

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值