【论文阅读】基于多任务学习和求同存异策略的跨库语音情感识别

原文：Cross-corpus Acoustic Emotion Recognition with Multi-task Learning: Seeking Common Ground while Preserving Differences

主要内容

研究性别、情感域（音乐和语音）、语料库对跨库情感识别的影响

---

模型设计

the simple model

• 融合所有数据集，训练同一个模型
• 类似于 [Using multiple databases for training in emotion recognition: To unite or to vote?] 中的“pooling”策略

the seperate task model (ST)

• 为每个分类任务训练一个模型
• 类似于 [Using multiple databases for training in emotion recognition: To unite or to vote?] 中的“voting”策略

以上两种模型均使用SVM，加入l1正则化和l2正则化，并且假设特征是稀疏的。

the multi-task learning model (MTL)

认为所有因素是相关的

the group multi-task learning (GMTL)

假设可以将任务分为几组，并且只允许组内信息共享，数据驱动

the multi-task learning with knowledge-driven grouping model (MTL-KDG)

假设信息在组内共享，但是它基于域、性别或语料库等知识预先定义了组，而不是从数据中学习组，知识驱动

MTL和MTL-KDG均使用多任务特征学习算法；GMTL使用组多任务学习算法

Multi-Task Feature Learning

使用 $L_{1,2}$正则化从任务中学习一个共同的特征表示，从而加强了任务间特征的稀疏性。该算法有两种设置：

(a) 特征学习(FL)：$L_{1,2}$正则化用于变换后的特征空间
$${\min }_{U,A}\sum _{t=1}^T\sum _{i=1}^{m_t}L(y_{ti},⟨{\mathbf{a}}_{\mathbf{t}},U^T{\mathbf{x}}_{\mathbf{t}\mathbf{i}}⟩)+\gamma \Vert A{\Vert }_{2,1}^2(1)$$
权重矩阵$W$的每个列向量$w_t$表示每个任务的权值。$W=UA$，$U^{T}U=I$，$A$是转换后特征空间的权重矩阵，$a_t$是$A$的列向量，即转换后的每个任务的权重。$U$和$A$都是从数据中学习得到。
式子的前半部分为损失项，后半部分为正则项
$m_t$为每个任务中训练实例， y i t ∈ { − 1 ,   1 } y_{it} \in \lbrace -1,~1\rbrace yit​∈{ −1, 1} 是第 $i$ 个实例在 $t$ 任务中的标签，$x_{ti}$是$t$任务中第 i i