深度广义典型相关性分析（Deep Generalized Canonical Correlation Analysis, DGCCA）是由Adrian Benton等人提出的，它是深度典型相关分析（DCCA）的进一步拓展，旨在处理多于两个视图（数据集）的典型相关性分析问题。

DGCCA结合了深度学习的强大表示能力和广义典型相关分析（GCCA）的多视图数据融合能力，允许从多个数据源中学习共享的深层表示，这对于多模态数据的分析和融合尤为重要。

DGCCA的目标

DGCCA的目标是在多个数据集之间学习一组共享的潜在表示，即使得每个数据集的潜在表示在CCA意义上具有最大的相关性。

这通过训练多个深度神经网络实现，每个网络负责一个数据集，它们共同学习一组表示，以最大化所有数据集之间的相关性。

DGCCA的数学框架

假设我们有 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据 个数据集 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_人工智能_02 ，每个数据集包含 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_学习方法_03 个样本，但可能有不同的特征维度 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_学习方法_04

DGCCA的目标是找到 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据 个非线性变换 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_人工智能_06 ，其中 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_07 是第 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_神经网络_08 个网络的参数，使得变换后的数据在CCA的意义上具有最大的相关性。

DGCCA的损失函数

DGCCA的损失函数通常设计为最大化所有变换后数据集之间的平均相关性，同时可能包含正则化项来避免过拟合。

具体来说，DGCCA的损失函数可以表示为：

基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_人工智能_09

其中，

  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_学习方法_10 是变换后的数据 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据_11 和 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_12 之间的互协方差矩阵。
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_神经网络_13 和 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_神经网络_14 分别是 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据_11 和 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_12 的自协方差矩阵。
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_17 是正则化项， 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_人工智能_18 是所有网络参数的集合。
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_人工智能_19 是正则化参数，用于平衡CCA损失和正则化项的影响。
公式解析
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_20 ：原始输入数据集。
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_人工智能_21 ：由深度神经网络实现的第 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_22 个非线性变换函数。
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_学习方法_10 ：变换后的数据 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据_11 和 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_12 之间的互协方差矩阵，它衡量了这两组变换后数据的相关性。
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_神经网络_13 和 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_神经网络_14 ：分别表示 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据_11 和 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_12 的自协方差矩阵，用于衡量各自数据集内部的变量变化。
  • 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据_30 ：第 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_数据集_22 个深度神经网络的参数。
训练过程

DGCCA的训练过程涉及使用梯度下降或其他优化算法来最小化上述定义的损失函数。

这意味着要调整网络参数 基于典型相关性分析的多视图学习方法（基于神经网络的 CCA）——深度广义典型相关性分析（DGCCA）_学习方法_32

结论

DGCCA克服了DCCA只能处理两个数据集的局限性，允许在多个数据集之间学习深层的共现特征。

通过结合深度学习和多视图数据融合的能力，DGCCA为处理复杂的多模态数据提供了有力的工具，尤其是在需要从不同来源的数据中学习综合表示的场景中，如跨媒体检索、多传感器数据融合等。