[推荐系统] 手撕DeepFM模型

一、模型总体架构图

设计动机
在Wide & Deep模型中，Wide部分是一个简单的线性模型，交叉特征需要根据经验人工去挑选组合，而FM模型，可以自动学习交叉特征，所以自然而然想到，可以用FM模型来替换Wide & Deep模型的Wide部分，所以名字叫DeepFM。

比较特别的是，FM部分和Deep部分会共享Embedding权重，根据论文的说法，这样可以同时学习到高阶和低阶的特征交互信息。

二、FM部分

图中，黑色线表示的是FM模型中的一次项，红色线表示的是二次项。为啥叫Weight-1 Connection呢？就是这里红色线的值都是1，注意这里没有参数要训练的。而黑色线，每一条代表的是一次项的权重。

假设

三、Deep部分

答疑

问题1：怎么没看到连续型特征？都是Sparse Features？
论文中也没说连续型特征是怎么作为输入的，猜测是按照业界比较常用的方法，把连续型特征离散化了，从这里可以印证。