在CTR中对ID特征vector化,然后求解最小loss一种常见的解决方案,如下收藏两个比较好用的方法,fm以及ffm。其中ffm在前两年的kaggle CTR相关比赛中,都能看到它的身影。
一、fm(Factorization Machines)
论文
http://www.csie.ntu.edu.tw/~b97053/paper/Rendle2010FM.pdf
代码
两度fm公式如下:
三种类型参数更新如下:
二、ffm(field-aware factorization machines)
比赛ppt
http://www.csie.ntu.edu.tw/~r01922136/kaggle-2014-criteo.pdf
开源代码
https://github.com/guestwalk/kaggle-2014-criteo
fm公式如下,针对任一一个样本中的ID特征,有其唯一的一个分解向量与之对应:
ffm的公式如下,任一一个样本中的领域A下的ID特征i,对每一个交叉的领域B下的ID特征有一个分解向量与之对应: