每周一文（十一）google deep&cross模型

契机

进一步完善wide&deep的wide侧提取特征的方式，而且在计算score过程中加入更多参数，从而进一步提升效果。

模型结构

cross

下图红框中的模块为cross的具体操作流程，较为复杂。

cross的具体操作细节如下图所示，可以看出多层的$x_0\ast x^{\prime }$实现了高阶特征交叉，因为第一层相乘就可以得到二阶交叉特征($(N\ast 1)\times (1\ast N)=N\ast N$)，第二层相乘可以得到三阶交叉特征…

deep

下图红框中的模块为deep的具体操作流程，较为简单，这里不再赘述。

总体结构

可以看出，文章把cross层和deep层的输入concatenate到一起，再进行一次加权求和+sigmoid得到最终的输出结构。

核心思想

引入更高阶的wide侧交叉特征，从而实现效果的提升，整个思路和deepFM较为相似。

参考

1. deep&cross解析