鲁棒核典型相关分析(Robust Kernel Canonical Correlation Analysis, Robust KCCA)是经典典型相关分析(CCA)的扩展,它结合了核方法以处理非线性数据并引入了鲁棒性以减少异常值和噪声的影响

Robust KCCA旨在当数据集中存在异常点或者噪声时,仍能有效地发现两组数据之间的内在关联性。

经典CCA回顾

CCA是一种统计方法,用于寻找两个随机变量集合(如两个数据集)之间的线性相关性

如果数据集为 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_相关分析_02 ,CCA的目标是找到投影向量 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_03基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_04 ,使得投影后的数据 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_05基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_相关分析_06相关性最大化。

核CCA(KCCA)

核CCA通过使用核函数将数据映射到高维特征空间,从而能够处理非线性相关性。这通常通过构造核矩阵来实现,其中每个元素表示数据点之间的相似度或内积。在KCCA中,我们通常寻找最大化以下目标函数的投影向量:

基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_07

  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_08基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_09 是数据集 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据_10基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_相关分析_11
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_12 是数据集 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据_10基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_相关分析_11 之间的交叉核矩阵
引入鲁棒性

在Robust KCCA中,我们希望在存在噪声或异常值的情况下,仍然能够找到两个数据集之间的强相关性

这通常通过修改目标函数来实现,以降低异常值的影响。

一种常见的方法是使用M估计器,它基于一些鲁棒损失函数(如Huber损失、Tukey损失等)来替代标准的平方损失。

Robust KCCA公式

在鲁棒KCCA中,我们通常优化以下形式的目标函数:

基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_15

  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_16 是一个鲁棒损失函数
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_17尺度参数
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_18正则化参数
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_19基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_20 是数据集 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据_10基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_相关分析_11 中的第 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_23
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_24映射函数
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_08基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_09 是相应的核矩阵
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_12 未直接出现,但其信息隐含在 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据_28
对公式的解释
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_16
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_17
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_18
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_32基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_33
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_相关分析_34基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_相关分析_35
  • 基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_学习方法_08基于典型相关性分析的多视图学习方法(基于核技术的 CCA)——鲁棒核典型相关分析(Robust KCCA)_数据集_09
结论

鲁棒核典型相关分析(Robust KCCA)通过在经典CCA的基础上加入核方法和鲁棒性,能够在处理非线性数据的同时,有效减少异常值和噪声对结果的影响,从而在实际应用中提供更稳定和可靠的性能。