02-《Field-aware Factorization Machines for CTR Prediction》

FFM(Field-aware Factorization Machines)是针对CTR预测的模型,优于二阶多项式和FM。FFM引入field概念,考虑特征类别影响,每个特征根据其他特征field选择不同隐向量,提高模型表达能力。损失函数采用Logistic Loss,通过AdaGrad进行参数更新。
摘要由CSDN通过智能技术生成

1. 什么是FFM

Field-aware Factorization Machines(简称FFM),是由YuChin Juan与其比赛队员提出,是FM的一种变式。

在Click-through rate (CTR) 预测中,FFM的效果好于二阶多项式(Poly2)和FM模型。

针对CTR预测,学习特征组合的影响是十分重要的,而普通的线性模型(y=wx)是很难学习特征组合项的参数。此前,针对特征组合的学习,有二阶多项式和FM模型。我们知道FM模型,是将Poly2中的二次项即特征组合项的参数,分解成了对应特征的隐向量的内积,因此可以应用在稀疏数据场景下。

下面两个公式,就是二阶多项式和FM模型。其中,FM公式是需要再经过推导,可以得到线性时间复杂度。

Poly2:

          \hat{y(x)} = w_{0}+ \sum_{i=1}^{n}w_{i}x_{i}+\sum_{i=1}^{n}\sum_{j=i+1}^{n} w_{i,j}x_{i}x_{j}

FM:

         \hat{y(x)} = w_{0}+ \sum_{i=1}^{n}w_{i}x_{i}+\sum_{i=1}^{n}\sum_{j=i+1}^{n}<v_{i},v_{j}>x_{i}x_{j}

那么,FFM作为FM的变式,与FM的不同之处在哪?

在FM中,一个特征i只对应一个隐向量

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值