Huifeng Guo et al. "DeepFM: A Factorization-Machine based Neural Network for CTR Prediction." in IJCAI 2017.
DeepFM可以看做是从FM基础上衍生的算法,将Deep与FM相结合,用FM做特征间低阶组合,用Deep NN部分做特征间高阶组合,通过并行的方式组合两种方法,使得最终的架构具有以下特点。
(1) 不需要预训练 FM 得到隐向量;
(2) 不需要人工特征工程;
(3)能同时学习低阶和高阶的组合特征;
(4)FM 模块和 Deep 模块共享 Feature Embedding 部分,可以更快的训练,以及更精确的训练学习。
整体的架构体系如下,左侧为FM的结构层,右侧为Deep部分的结构层,两者公用相同的特征输入,其实我刚看到下面的图也有点懵逼,两部分分离的架构都好理解,但是那些红线和黑线都表示什么?为什么有Field的标识,从输入层网上传播时候为什么有embedding层,而且还分成不同的块? 这都是我刚看到如下图产生的疑问,经过阅读源码后,才有了较为清晰的理解,接下来进行一一的解答。