1. 概要
(1)FM模型使用分解的系数,适合在高稀疏度的数据下估计特征之间的联系,并且可以在线性的时间内计算出结果,同时FM可以直接优化而不依靠支撑向量
(2)与现有的其他分解模型比较来讲,FM模型更易应用。FM模型可以在任何实数特征向量上实现,但其他模型只能在受限制的数据下使用。
2. FM
通过下图进行分析,数据的存储方式如下,物理含义是下面有说明,数据具有较大的稀疏度。
用这个数据进行预测任务的一个例子是:对某个用户在特定时间点上估计电影的排序推荐函数
y
^
\hat y
y^,度为2时FM的模型可用下面表达式进行表达
一个正定矩阵W可以用矩阵
W
=
V
∗
V
T
W = V*V^{T}
W=V∗VT表示。所以当k足够大时,FM模型可以表达任何关系矩阵W。
FM模型可以通过分解来打破变量之间的独立性,所以一个关系系数可以帮助评估另一个关系系数。
一对的联系可以如下进行整理,最后复杂度被降至O(kn)
FM的参数可以使用梯度下降法进行学习:
推广到d维