FM算法研究

目录

0. 摘要

1. 介绍

2. 稀疏下的预测

3. Factorization Machines (FM)

4. FMs与SVMs的比较

5. FMs与其它Factorization Models的比较

---

0. 摘要

        在本文中，我们介绍了因式分解机（FM），它是一种新的模型，它结合了支持向量机（SVM）和分解模型（Factorization Models）的优点。与SVM类似，FM是与任何实值特征向量一起使用的一般预测器。与SVM相比，FM使用分解参数模拟变量之间的所有交互。因此，在特征较为稀疏的情况下，如推荐系统等，SVM模型不再适用，而FM引入factorized parameters，用于学习交叉特征。FM模型方程可以在线性时间内计算，因此FM可以直接优化。与非线性SVM不同，双重形式的转换不是必需的，并且可以直接估计模型参数，而无需解决方案中的任何支持向量。本文将展示与SVM的关系，以及FM在稀疏设置中进行参数估计的优势。
        另一方面，有许多不同的因式分解模型，如矩阵分解，并行因子分析，或者专用模型如SVD ++，PITF或FPMC。这些模型的缺点是它们不适用于一般通用的预测任务，但仅适用于特定输入的任务。此外，他们的模型方程和优化算法是针对每个任务单独作用的。仅通过指定输入数据（即特征向量），FM就可以模仿这些模型。这使得即使对于没有分解模型专业知识的用户，FM也很容易适用。
关键词：稀疏数据；张量因子化；支持向量机。

1. 介绍

todo

2. 稀疏下的预测

todo

3. Factorization Machines (FM)

todo

4. FMs与SVMs的比较

todo

5. FMs与其它Factorization Models的比较

todo

 

参考文献：

1. FM论文

2. FM论文导读

3. 卡内基梅隆大学FM课件

4. 非常不错的讲解

5. 先看这个