PCA主成分分析/LDA线性判别分析/CCA典型相关分析 对比

已于 2023-03-11 05:23:20 修改
阅读量1.9k 收藏 2
点赞数
分类专栏： 数据分析 文章标签： python 开发语言
于 2020-12-18 22:28:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_46268055/article/details/111397457
版权

目录

简介

主成分分析PCA，降维的原则是投影方差最大；再回想下线性判别分析LDA，降维的原则是同类的投影方差小，异类间的投影方差大。对于我们的典型相关分析CCA，它选择的投影标准是降维到1维后，两组数据的相关系数最大

和标准相关分析的区别

虽然相关系数可以很好的帮我们分析一维数据的相关性，但是对于高维数据就不能直接使用了。拿上面我们提到的，如果X是包括人身高和体重两个维度的数据，而Y是包括跑步能力和跳远能力两个维度的数据，就不能直接使用相关系数的方法。那我们能不能变通一下呢？CCA给了我们变通的方法。

CCA使用的方法是将多维的X和Y都用线性变换为1维的X’和Y’，然后再使用相关系数来看X’和Y’的相关性。将数据从多维变到1位，也可以理解为CCA是在进行降维，将高维数据降到1维，然后再用相关系数进行相关性的分析。下面我们看看CCA的算法思想。

参考

典型关联分析(CCA)原理总结.

balabalahoo
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
java初学者适用 --java中如何在主类中添加方法
weixin_50677717的博客
11-24 2582
在java文件主类中如何添加方法java文件新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 java文件 public class F { static void b(E x) { x.i+=3; x.ch+=3; }
主成分分析、因子分析和聚类分析的联系与区别
dftxmloo600965的博客
08-21 6885
主成分分析就是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。综合指标即为主成分。所得出的少数几个主成分，要尽可能多地保留原始变量的信息，且彼此不相关。 因子分析是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 聚类分析是依据实验数据本身所具有的定性或定量...
Deeper Bottleneck(瓶颈) Architectures
wydbyxr的博客
11-28 1656
Deeper Bottleneck(瓶颈) Architectures   看50-layer那一栏，在进入到DBA层之前的网络比较简单，分别是：①卷积层"7×7, 64, stride 2"、②BN层、③ReLU层、④池化层"3×3 max pool, stride 2"，最终的输出结果是一个大小为 [batch_size, height, width, kernels] 矩阵。   再看c...
深度学习基础--Bottleneck(瓶颈) Architectures
wydbyxr的博客
11-12 2万+
Bottleneck(瓶颈) Architectures   ResNet的核心内容之一，即“Deeper Bottleneck Architectures”（以下简称DBA），论文里的原图是这样的（Bottleneck V1 ）： 作用   换成bottleneck design以后，网络的参数减少了很多，训练也就相对容易一些。然后我们再看一下原作中的ResNet全貌。 ...
偏最小二乘回归（Partial Least Squares Regression）笔记
热门推荐
闲渔的专栏
01-09 3万+
看一篇文章，其中提到了偏最小二乘回归PLS，PLS方法在普通多元回归的基础（最小二乘法），结合了主成分分析PCA和典型相关分析CCA的思想，解决回归分析中自变量多重共线性的问题。 首先需要补充一下PCA和CCA的基础知识，其中最小二乘法比较常见，参见百度百科：最小二乘法 1. 主成分分析PCA 了解PCA，当然是 wiki:PCA，多元统计中，PCA在减少数据集的维数同时，保留住
MATLAB数据处理模型代码 特征降维，特征融合，相关分析等多元数据分析的典型相关分析代码.zip
最新发布
07-21
在MATLAB中，PCA（主成分分析）、LDA（线性判别分析）和SVD（奇异值分解）等方法常用于此目的。CCA也可视为一种特征降维技术，因为它将多个变量转换为一组新的变量，这些新变量之间的相关性最大化。 2. **特征融合*...
MATLAB源码集锦-特征降维，特征融合，相关分析等多元数据分析的典型相关分析代码
02-16
常见的方法有主成分分析（PCA）、线性判别分析（LDA）和奇异值分解（SVD）。在MATLAB中，可以使用`princomp`函数进行PCA，`fisherdiscrim`执行LDA，而`svd`则用于执行SVD。 2. **特征融合**：特征融合是将来自不同...
PCA(主成成分分析)和LDA(线性判别分析)详解-共性和区别
yj_isee的博客
04-30 2万+
注：这里说的LDA实际上讲的是Fisher’s linear discriminant analysis在machine learning领域，PCA和LDA都可以看成是数据降维的一种方式。但是PCA是unsupervised，也就是说不需要知道sample对应的label，但是LDA是supervised，需要知道每一个数据点对应的label。下面分别解释PCA和LDA的基本原理1.PCAPCA被
第6讲 主成分分析与相关的谱方法1
08-04
【线性判别分析(LDA)】 线性判别分析是一种分类方法，旨在找到一个线性变换，以最大化类间距离，同时最小化类内距离。LDA在降维和分类问题中非常有用，尤其当类别信息可用时。 【典型相关分析(CCA)】 典型相关分析...
表示学习(Representation Learning)(二)——主成分分析、典型相关分析
weixin_41635741的博客
12-21 1201
主成分分析 1.概要 主成分分析法由Karl Pearson 在1903 提出，经由Harold Hotelling 在20世纪三十年代从另一个角度进行了完善，是一种适用于高维数据，探索性数据分析的方法，作为最早一批被应用于模式识别、机器学习模型的算法之一，其现在经过实现数据压缩降维、特征提取而广泛应用于力学、信号处理、质量控制、心理学等许多领域。 2.算法思想 简单一句话来说的话：找到一组组正交化的投影（一次线性变化-linear transfo...
核PCA和CCA
04-05
详细讲述了核PCA和核CCA算法的数学推导过程
canoco数据分析CCA、PCA、RDA
01-13
在生态学统计分析中用的PCA、CCA、RDA均能通过canoco实现
JAVA编程基础（六） 在Java类中添加方法
青山师
10-24 4587
学习访问器（存取(getter、setter)）方法的声明使用和方法调用更多精彩请阅读 东陆之滇的csdn博客：http://blog.csdn.net/zixiao217本节学习目标 学会编写使用访问器（存取(getter、setter)）方法 学会正确调用无参的或者有参的方法 学会嵌套调用方法 访问器方法在第五节中展示的getter、setter方法我们也叫访问器方法（迅速温故：getter方法
典型相关分析
weixin_42612518的博客
06-11 2984
典型相关分析函数：[a,b,r,u,v,stats] = cononcorr(x,y): param: 　　x：原始变量x矩阵，每列一个自变量指标，第i列是 xi 的样本值 　　y：原始变量y矩阵，每列一个因变量指标，第j列是 yj 的样本值 return: 　　a：自变量x的典型相关变量系数矩阵，每列是一组系数。 　　列数为典型相关变量数 　　b：因变量y的典型相关变量...
使用分类向某个现有类添加方法（类扩展，范畴）
lj20082100的专栏
07-03 742
iOS中有时候我们需要向现有的类中添加一些方法，使用分类（Category）可以在运行时向某个现有类添加新的方法，这在我们向系统类或者我们不知道源码的类添加我们需要的方法时，非常的方便。不过分类有个缺点，无法添加新的变量，解决方法见下篇。写个Demo,代码如下： #import @interface UIImage (fixOrientation) - (UIImage *)fixOrie
java在类中添加方法,JAVA编程基础（六） 在Java类中添加方法
weixin_32089639的博客
03-21 2130
学习访问器(存取(getter、setter))方法的声明使用和方法调用更多精彩请阅读 东陆之滇的csdn博客：http://blog.csdn.net/zixiao217本节学习目标学会编写使用访问器(存取(getter、setter))方法学会正确调用无参的或者有参的方法学会嵌套调用方法访问器方法在第五节中展示的getter、setter方法我们也叫访问器方法(迅速温故：getter方法是返回...
数模笔记（六）：两变量相关性分析与主成分分析1.0
刘躺的博客
10-08 1万+
数模笔记（一）：线性规划、整数规划及非线性规划 数模笔记（二）：层次分析法 数模笔记（三）：灰色系统分析方法 数模笔记（四）：插值与拟合 数模笔记（五）：变异系数法 一、概述 （一）变量关系强度 指两个变量相关程度的高低。统计学中是以准实验的思想来分析变量相关的。通常从以下的角度分析： 1.两变量是否相互独立。 2.两变量是否有共变趋势。 3.一变量的变化多大程度上能由另一变量的变化来解释。 （二）四种基本变量 ...
数学建模 典型相关分析Canonical Correlation analysis
wulimmya的博客
09-15 3365
典型相关分析CCA和主成分分析PCA非常相似，都是通过现有变量的线性组合构造新的综合变量以实现减少变量数目但代表几乎同样多的信息的目的。只是CCA分析的是两组变量，是要把每一组变量用一个线性组合综合变量表示，从而把两组变量的相关转化为两个综合变量（典型变量）的相关；而PCA是针对一个数据的多组变量，比如一张图片的所有像素，一个人的各种特征（身高，体重，肺活量···），是去把这一组变量实现降维就行了...
属性和方法、用装饰器在类中添加方法、静态方法
微信公众号进阶的阿牛哥的博客
04-05 585
一、属性 1、类属性，直接定义在类中的属性（变量） 类属性可以通过实例对象和类对象来访问 实例属性，只能由实例对象来访问 class A(object): count=0 #类属性 a=A() a.acount=10 #实例属性 #对类属性的访问 print(a.count) print(A.count) #对实例属性的访问 print(a.acount) 结果： 2、类属性只能通过类对象来修改，不能通过实例对象来修改。 class A(object): count=0 #类属性 a=
PCA主成分分析：从原理到应用实战
"PCA主成分分析是数据降维和简化的一种常用技术，旨在发现数据的主要结构，去除冗余和噪声。PCA通过线性变换将原始数据转换为一组按方差递减排序的新变量，即主成分。这种方法无参数限制，适用范围广泛。PCA的核心...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

balabalahoo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值