线性判别分析与主成分分析

最新推荐文章于 2023-05-04 12:02:46 发布
最新推荐文章于 2023-05-04 12:02:46 发布
阅读量1k 收藏 1
点赞数
分类专栏： 机器学习 文章标签： python pca降维
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43294411/article/details/121605822
版权

成分分析是一种无监督降维，它识别数据差异最大的属性组合
线性判别分析是一种有监督降维，它识别在类别上差异最大的属性组合

import matplotlib.pyplot as plt

from sklearn import dataset
from sklearn.decomposition import PCA
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis

# 加载数据集
iris = dataset.load_iris()
X = iris.data
y = iris.target
target_names = iris.target_names

# PCA 投影至二维平面
pca = PCA(n_component = 2)
X_r = pca.fit(X, y)
最低0.47元/天 解锁文章
JC运
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习中的数学(4)-线性判别分析（LDA）, 主成分分析(PCA)
weixin_34185320的博客
01-08 1198
版权声明： 本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@gmail.com 前言： 第二篇的文章中谈到，和部门老大一宁出去outing的时候，他给了我相当多的机器学习的建议，里面涉及到很多的算法的意义、学习方法等等。一宁上次给我提到，如果...
主成成分分析-PCA
开开_王子的博客
08-15 1009
1、 问题描述 下表1是某些学生的语文、数学、物理、化学成绩统计： 首先，假设这些科目成绩不相关，也就是说某一科目考多少分与其他科目没有关系。那么一眼就能看出来，数学、物理、化学这三门课的成绩构成了这组数据的主成分（很显然，数学作为第一主成分，因为数学成绩拉的最开）。为什么一眼能看出来？因为坐标轴选对了！下面再看一组学生的数学、物理、化学、语文、历史、英语成绩统计，见表2，还能不能一眼看出来
机器学习---线性判别分析和主成分分析
J
02-20 1028
机器学习—线性判别分析和主成分分析 1.通俗解释： 线性判别分析(Linear Discriminant Analysisi,LDA)与主成分分析（Principle Component Analysis，PCA）都是线性降维（Dimension Reduction）的算法，区别在于LDA是有监督的降维，而PCA是无监督的降维。LDA旨在寻找一个有标签的训练数据集上的最佳投影，是这个投影中同类的数据点较为集中，而不同类的数据点之间尽量分散，从而实现对新样本的判别。 PCA则是对于一个无标签的高维的训练样本集
主成分分析&线性判别分析(学习笔记)
weixin_38907330的博客
11-28 1626
主成分分析是一种线性降维方法，线性降维的另外一种方法是LDA，在这两个过程中协方差矩阵的计算是最关键的部分。 核心思想：计算协方差矩阵以及其特征向量和特征值，寻找前N个最大特征值对应的特征向量， 为什么这么做：协方差矩阵（散布矩阵）在模式识别中应用广泛，最典型的应用是PCA主成分分析了，PCA主要用于降维，其意义就是将样本数据从高维空间投影到低维空间中，并尽可能的在低维空间中表示原始数据。这就...
机器学习 | 线性判别分析LDA和主成分分析PCA
RUC_Lee的博客
05-12 1527
LDA的两种含义1 背景2 线性判别分析LDA3 主成分分析PCA4 LDA和PCA有什么区别和联系？ 1 背景 聊到LDA，大部分可能都会想到是线性判别分析，甚至在面试的时候，我简历上明明写的是LDA主题模型，但面试官其实不太懂，直接就问了线性判别分析。。。所以今天我们就来聊一聊线性判别分析LDA以及和其很相近的PCA！ 2 线性判别分析LDA 3 主成分分析PCA 4 LDA和PCA有什么区别...
线性判别分析与主成分分析及其相关研究评述_王晓慧.pdf
03-02
:线性判别分析(LDA)和主成分分析(PCA)都在各个领域有着重 要的作用。他们各自抓住样本在特征空间的不同特征, 一般情况下更趋向于使 用LDA, 因为LDA直接处理类间的分析问题, 而PCA则没有突出类的结构。 然而实验...
判别分析与主成分分析.zip
09-02
判别分析与主成分分析是两种在统计学和数据分析中常用的方法，特别是在处理高维数据时。SAS（Statistical Analysis System）是一款强大的统计软件，它提供了丰富的功能来执行这两种分析。 判别分析的主要目的是根据...
Fisher算法线性判别分析python实现
04-01
线性判别分析（Linear Discriminant Analysis，简称LDA）是一种经典的统计方法，常用于多类别的分类问题，尤其在高维数据降维时表现出色。Fisher算法，即Fisher判别分析，由R.A. Fisher提出，是LDA的基础。本教程将...
LDAPCA.zip_主成分分析_包括部分讲解_线性判别分析代码
07-14
**主成分分析(PCA)与线性判别分析(LDA)** 主成分分析（PCA）是一种统计学方法，主要用于高维度数据的降维。在数据分析和机器学习领域，PCA广泛应用于特征提取，它能将原始数据转换成一组线性不相关的特征向量，这些...
LDA.zip_线性判别分析
09-23
当这些假设不满足时，可以考虑使用更灵活的方法，如支持向量机（SVM）或者非监督的主成分分析（PCA）。 在"线性判别分析.pdf"这个文件中，可能会详细讲述LDA的原理，包括数学公式、步骤解释、实例演示以及如何在...
线性判别分析（LDA）与主成分分析（PCA）
weixin_44327656的博客
04-14 1267
简介 线性判别分析（LDA） 什么是LDA 线性判别分析（Linear Discriminant Analysis，LDA）是一种经典的降维方法。LDA是一种监督学习的降维技术，数据集的每个样本有类别输出。 LDA的特点 多维空间中，数据处理分类问题较为复杂，LDA算法将多维空间中的数据投影到一条直线上，将d维数据转化成1维数据进行处理。 对于训练数据，设法将多维数据投影到一条直线上，同...
主成分分析（PCA）和线性判别分析（LDA）
math_computer的博客
12-19 415
参考 PCA： PCA发挥作用的实例（实践证明）https://www.jianshu.com/p/0227aa77425f PCA前的数据预处理：去中心，标准化（理论取胜）https://blog.csdn.net/u010182633/article/details/45918737 训练集和测试集上的做法（操作上的细节）http://wenda.chinahadoop.cn/quest...
运用scikit-learn库进行主成分分析和线性判别分析
王樰沫
02-10 417
运用scikit-learn库进行主成分分析和线性判别分析一、主成分分析二、线性判别分析 一、主成分分析 在进行数据分析之前，先对数据进行预处理。 # 读取酒数据 import pandas as pd df_wine = pd.read_csv('wine.csv', header=None) df_wine.columns = ['Class label', 'Alcohol', 'Malic...
机器学习中的数学（六）：线性判别分析（LDA）, 主成分分析(PCA)
qq_37692302的博客
06-13 1892
前言 如果学习分类算法，最好从线性的入手，线性分类器最简单的就是LDA，它可以看做是简化版的SVM，如果想理解SVM这种分类器，那理解LDA就是很有必要的了。谈到LDA，就不得不谈谈PCA，PCA是一个和LDA非常相关的算法，从推导、求解、到算法最终的结果，都有着相当的相似。 本次的内容主要是以推导数学公式为主，都是从算法的物理意义出发，然后一步一步最...
主成分分析、线性判别的应用
sunyuxiu的博客
06-30 746
注：此博客仅为本人自己记录，有很多地方没有说明的很清楚，日后补上 第一次写，不是很有经验，还望各位不要吐槽 线性判别分析被应用于模式识别中的各类问题，包括图像分类、人脸识别以及其他数据的分析。子空间方法是人脸识别研究早期的非常重要的一类方法，它将人脸图像作为一个向量投影到低维的子空间中然后进行分类。使用主成分分析的特征脸（Eigenfaces）和使用线性判别分析的Fisherfaces是这类方法的...
线性判别分析（LDA）与主成分分析（PCA）：原理、实现与应用
weixin_37410657的博客
05-04 1439
线性判别分析（LDA）与主成分分析（PCA）是两种重要的降维技术，它们在机器学习、数据分析和模式识别中都有着广泛的应用。LDA通过最大化类间距离和最小化类内距离实现对数据的分类，而PCA通过寻找数据的主成分实现降维，保留原始数据的大部分信息。本文详细介绍了LDA和PCA的原理、数学公式，并通过Python代码和LaTeX公式进行了详细解释。希望本文能够帮助读者更好地理解这两种降维方法的原理和实践步骤，并能够在实际项目中灵活运用这些方法。线性判别分析 - 维基百科主成分分析 - 维基百科。
主成分分析(PCA)/线性判别分析(LDA)总结
J~的博客
01-31 1785
1 PCA PCA（Principal Component Analysis） 是一种常见的数据分析方式，常用于高维数据的降维，可用于提取数据的主要特征分量。 关于PCA的原理强烈推荐这篇文章PCA的数学原理 2 LDA 之前我们讨论的 PCA降维，对样本数据来言，可以是没有类别标签 y 的。如果我们做回归时，如果特征太多，那么会产生不相关特征引入、过度拟合等问题。我们可以使...
主成分分析（PCA）与线性判别分析（LDA）的区别与联系
梁小憨憨的博客
08-04 6072
刚整理完PCA的内容，又记得之前用过LDA但是并没有在这里整理，所以今天把这两个算法整理下，方便以后查阅。
线性判别分析 和 主成分分析区别
最新发布
06-13
线性判别分析（Linear Discriminant Analysis，LDA）和主成分分析（Principal Component Analysis，PCA）都是常用的降维技术，但它们的目的和应用场景不同。 LDA 是一种监督学习的降维方法，它的目的是将数据映射到一个新的低维空间，使得不同类别的数据在新的空间中尽可能分开，同一类别的数据尽可能靠近。LDA 常用于分类问题，可以将高维数据降维到更低维的子空间，从而提高分类的性能。 PCA 是一种无监督学习的降维方法，它的目的是将数据映射到一个新的低维空间，使得数据在新的空间中的方差尽可能大。PCA 常用于数据压缩和可视化，可以在不损失太多信息的情况下将数据降维到更低的维度，从而提高计算效率和可视化效果。 总结来说，LDA 和 PCA 的区别主要在于： 1. 目的不同：LDA 是一种监督学习的降维方法，用于分类问题；PCA 是一种无监督学习的降维方法，用于数据压缩和可视化。 2. 应用场景不同：LDA 适用于有标签的数据集，PCA 适用于无标签的数据集。 3. 映射方式不同：LDA 通过确定投影向量来将数据映射到新的子空间，PCA 通过计算主成分来将数据映射到新的子空间。 4. 优化目标不同：LDA 优化类间距离和类内距离之间的比率，PCA 优化数据在新的子空间中的方差。 因此，在实际应用中，需要根据具体的问题和数据特点来选择合适的降维方法。如果数据集有标签，且需要进行分类，可以使用 LDA；如果需要进行数据压缩和可视化，或者数据集无标签，可以使用 PCA。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值