创新点
DIN 网络相比于前面的其他网络最大的创新点是增加了注意力机制。
网络结构
以前的网络无法表达用户的广泛兴趣,他们只是在embedding 之后只是进行了蛮力拼接,没有考虑之前用户历史行为商品具体是什么。而DIN 网络考虑到用户的历史行为商品与当前商品广告的一个关联性。他加入了注意力机制,用来学习用户兴趣和当前广告的关联程度。入下图,一入了一个local activation unit,它将用户的历史兴趣和当前广告的相关性给特征进行加权。该local activation unit是一个前馈神经网络,就是计算用户历史特征和当前商品特征的相关性,从而给每个相关性作为历史特征的权重,和embedding的特征相乘输入模型。