多场景建模：腾讯3MN

3MN: Three Meta Networks for Multi-Scenario and Multi-Task Learning in Online Advertising Recommender Systems

背景

推荐领域的多场景多任务学习：维护单模型即可节省资源也可节省人力；各个场景的数据共享，理论上面学习是更加充分的

问题&挑战

1. 怎么学习复杂的多任务、多场景之间的关系MSMT(Multi-Scenario Multi-Task Learning),即（场景-场景、场景-任务、任务-任务之间的相互关系）
2. 单个模型如何解决多个场景多个任务的不同数据分布问题（例如，来自不同媒体的用户不同，点击广告的意愿也不同；即使用户来自同一媒体，他们也点击广告的意愿通常会与他们下载应用程序的意愿不同）
3. 不同场景下的样本分布严重不均，来自主流媒体的样本通常比小规模媒体要多得多，样本充足的场景怎么帮助哪些相关但是样本少的场景

解决方案

Three Meta Networks-based solution (3MN)

提出的三个场景自适应组件解决了挑战1，极大地提升了多任务的性能。第二个挑战由场景任务自适应主干网络及分类器解决，主干网络利用场景任务信息抽取分场景的任务特有、任务共享特征，场景自适应分类器利用这些特征提升分场景的多任务预测性能。第三个挑战由场景自适应embedding层解决，以一个自动的方式来选择不同场景下的Embedding维度。

点评：这篇文章是把元网络用到了极致，底层、中间层、顶层都注入了场景知识，实现场景的自适应匹配

方案详情

Scenario-Adaptive Embedding Layer

step1:Unified Embedding Dimensions.
以往的每个特征在Embedding层都映射到一个固定维度的特征向量上面，这里为了场景自适应匹配维度，设计了根据场景来选择合适的维度。
具体就是预先设置一组维度列表 { α 1 , α 2 , . . . , α a } \{\alpha_1, \alpha_2, ..., \alpha_a\} {α1​,α2​,...,αa​}，长度为$|\alpha |$，对于每个输入的特征，产生$|\alpha |$个embedding向量
x i = E m b e d d i n g i ( x )      i ∈ { 1 , 2 , . . . , ∣ α ∣ } \mathbf x_i = \mathrm {Embedding}_i(\mathbf x) \ \ \ \ i \in \{1,2, ..., |\alpha|\} xi​=Embeddingi​(x)    i∈{1,2,...,∣α∣}
然后使用一个形状转换层将形状转为统一的尺寸
x i ~ = x i W i + b i      i ∈ { 1 , 2 , . . . , ∣ α ∣ } \widetilde {\mathbf x_i} = \mathbf x_i \mathbf W_i + \mathbf b_i \ \ \ \ i \in \{ 1,2,..., |\alpha| \} xi​ ​=xi​Wi​+bi​    i∈{1,2,...,∣α∣}
然后使用BatchNorm对这$|\alpha |$个向量进行处理，避免出现由形状转换引起的极端数值变化
$\overline{{\mathbf{x}}_i}=\mathrm{BatchNorm}(\widetilde{{\mathbf{x}}_i})$

step2:Scenario-Adaptive Embedding Dimension Selection
然后将$|\alpha |$个向量进行加权求和得到特征最终的embedding向量
${\mathbf{x}}_{s{a}_{e}mb}={\sum }_{i=1}^{|\alpha |}\overline{{\mathbf{p}}_{\mathbf{i}}}\overline{{\mathbf{x}}_{\mathbf{i}}}$
这里的权重$\overline{{\mathbf{p}}_{\mathbf{i}}}$是由元网络得到的，而元网络的输入是场景特征，因此能做到场景自适应的选择不同Embedding维度。
${\mathbf{W}}_1,{\mathbf{b}}_1,{\mathbf{W}}_2,{\mathbf{b}}_2=\mathrm{MetaNe}{\mathrm{t}}_{\mathrm{emb}}({\mathbf{x}}_{scene})$

$\mathbf{p}=f_1(\sigma ({\mathbf{W}}_2^T(\sigma ({\mathbf{W}}_1^T\mathrm{Embedding}({\mathbf{x}}_{selected}))+b_1)+{\mathbf{b}}_2))$

其中${\mathbf{x}}_{selected}$是用户及item的一些频次统计特征，也就是基于user、item、scene三者来选择不同维度的Embedding

$\mathbf{p}\in R^{|\alpha |\ast n^{field}}$，先reshape成$R^{n^{field}\ast |\alpha |}$,然后经过softmax后再拆分成$\alpha$
$\overline{{\mathbf{p}}_1},\overline{{\mathbf{p}}_2},...,\overline{{\mathbf{p}}_{|\alpha |}}=\mathrm{Split}(\mathrm{Softmax}(\mathrm{Reshape}(\mathbf{p})))$

Scenario&Task-Adaptive Backbone Network

类似于PLE的结构，有任务特有和任务共享的专家
Shared and Specific Experts.
首先BN处理下
${\mathbf{x}}_{bn}=\mathrm{BatchNorm}({\mathbf{x}}_{s{a}_{e}mb})$
然后任务特有的专家和任务共享的专家
${\mathbf{e}}_{i,j}=\mathrm{TashSpecExper}{\mathrm{t}}_{\mathrm{i}}({\mathbf{x}}_{bn})$
${\mathbf{s}}_k=\mathrm{TashShareExper}{\mathrm{t}}_{\mathrm{k}}({\mathbf{x}}_{bn})$

Scenario&Task-Adaptive Expert Selection

对专家进行加权融合
$\widetilde{{\mathbf{x}}_{t_i}}=\widetilde{{\mathbf{p}}_{t_i}}{\mathbf{X}}_{t_i}$
这里的专家即
${\mathbf{X}}_{t_i}=[{\mathbf{e}}_{i,1}^T,{\mathbf{e}}_{i,2}^T,...,{\mathbf{e}}_{i,n^{n_i}}^T,{\mathbf{s}}_1^T,{\mathbf{s}}_2^T,...,{\mathbf{s}}_{n^{se}}^T]$

各个专家的权重$\widetilde{{\mathbf{p}}_{t_i}}$是场景自适应的，也是由元网络得到的，元网络的输入是场景信息和任务信息

${\mathbf{p}}_{t_i}=f_2(\sigma ({\mathbf{W}}_2^T(\sigma ({\mathbf{W}}_1^T\mathrm{Embedding}({\mathbf{x}}_{bn}))+b_1)+{\mathbf{b}}_2))$
${\mathbf{W}}_1,{\mathbf{b}}_1,{\mathbf{W}}_2,{\mathbf{b}}_2=\mathrm{MetaNe}{\mathrm{t}}_{\mathrm{backbone}}([{\mathbf{x}}_{scene}||{\mathbf{x}}_{task}])$

$\overline{{\mathbf{p}}_{t_i}}=\mathrm{Softmax}({\mathbf{p}}_{t_i})$

Scenario&Task-Adaptive Classifiers

得到专家的加权输出后，再通过各自任务的tower层，得到最终任务的输出

${\mathbf{o}}_{t_i}=f_3(\sigma ({\mathbf{W}}_2^T(\sigma ({\mathbf{W}}_1^T\mathrm{Embedding}(\widetilde{{\mathbf{x}}_{t_i}}))+b_1)+{\mathbf{b}}_2))$
${\mathbf{W}}_1,{\mathbf{b}}_1,{\mathbf{W}}_2,{\mathbf{b}}_2=\mathrm{MetaNe}{\mathrm{t}}_{\mathrm{classify}}([{\mathbf{x}}_{scene}||{\mathbf{x}}_{task}])$

MSMT Meta Networks

详解 meta 网络也有三个组件， meta embedding layer, meta backbone network, and meta fully-connected layers

meta embedding layer
${\mathbf{x}}_{emb}=\mathrm{Embedding}([{\mathbf{x}}_{scene}||{\mathbf{x}}_{task}])$

meta backbone network

${\mathbf{x}}_{meta}=\mathrm{LayerNorm}(\mathrm{Dropout}(\mathrm{MH}({\mathbf{x}}_{emb})))+{\mathbf{x}}_{emb}$

$\overline{{\mathbf{x}}_{meta}}=\mathrm{MLP}({\mathbf{x}}_{meta})$

meta fully-connected layers 得到最终的权重
W i , b i = W i m e t a x m e t a ‾ + b i m e t a     i ∈ { 1 , 2 } \mathbf W_i, \mathbf b_i = \mathbf W_i^{meta} \overline {\mathbf x_{meta}} + \mathbf b_i^{meta} \ \ \ i \in \{1,2\} Wi​,bi​=Wimeta​xmeta​​+bimeta​   i∈{1,2}
其中${\mathbf{W}}_i^{meta}$和${\mathbf{b}}_i^{meta}$是元网络FCN的参数
这里产出的${\mathbf{W}}_i,{\mathbf{b}}_i$就是上面用到的权重

实验&消融分析

数据集

实验效果

各个组件消融分析

专家选择权重的可视化

不同embedding尺寸选择权重的可视化

SA embedding layer加在base模型上的效果增益