Factorization Machine(因子分解机)

论文链接：Factorization Machine

Motivation

SVM在通用场景下的分类性能和模型学习是非常高效的，但是在推荐场景下，用户与商品的交互矩阵是高度稀疏(sparse)的，SVM并不适用于向量高度稀疏的学习任务中。于是，本文提出了一个新的模型——Factorization Machine(因子分解机)，简称FM，来解决向量高度稀疏场景下的模型学习问题。

Contribution

主要有三点：

1. FM能够在数据非常稀疏的场景下学习，这一点SVM做不到。（你做不了的，我能做）
2. FM计算复杂度是线性的，这一点保证了它能够适应大规模数据集。（我不仅能做，而且效率还高，速度快）
3. FM不仅适用于稀疏场景，在通用场景下也表现很好。（你做得了的，我也能做）

Solution

先来看第一个问题，为什么对SVM来说很吃力的任务，FM能轻松完成呢？这就要从FM的目标函数说起：

上面是二阶FM的表达式，为什么只考虑二阶，是因为二阶FM是实际应用场景中用得最多的，文章贡献中的线性复杂度也是从二阶推导出来的。当然从定义上来看，FM可以是任意阶。

$w_0$: 零阶系数，模型的整体偏差

$w_i$: 一阶系数 ，每个特征$x_i$的权重

$<v_i,v_j>$ : 二阶关系，$<\cdot ,\cdot >$表示两个向量的内积。$v_i$是与$x_i$对应的$k$维向量，意思就是对于每个向量$x_{}$