学习笔记3——LFM算法(Latent Factor Model)

最新推荐文章于 2021-11-10 18:34:05 发布

Jasonus_Chou

最新推荐文章于 2021-11-10 18:34:05 发布

阅读量2.1k

点赞数 1

分类专栏：个性化推荐文章标签：个性化推荐

本文链接：https://blog.csdn.net/qq_32439303/article/details/88775081

版权

个性化推荐专栏收录该内容

3 篇文章 0 订阅

订阅专栏

1. LFM算法基本内容

输入：user对item的点击矩阵

参数：每一个user的向量表示和每一个item的向量表示

方式：用user矩阵和item矩阵的矩阵乘拟合 user对item的点击矩阵

2. LFM应用普适场景：

2.1 获取user的item推荐列表、

2.2 获取item间的相似度列表、

2.3 挖掘item间隐含topic

3. 实例：

3.1 输入：user对item的点击矩阵（1代表点击、0代表未点击）

user对item的点击矩阵
	item1	item2	item3
user1	1	0	1
user2	0	1	0
user3	1	1	0

3.2 输出：

user1:[0.123, 0.325, ..., 0.623], ...

item1:[0.214, 0.034, ..., 0.241], ...

3.3 user和item的向量维度是自定义的，用user与item作内积即可判断user对item的偏好

4. LFM应用具体场景

4.1 计算用户的item top like、

4.2 计算item的item top sim、

4.3 计算item的topic

5. LFM建模公式

$p(u,i)=p_{u}^{T}q_{i}=\sum_{f=1}^{F}p_{uf}q_{if}$

其中， $p(u,i)$ 表示user对item的点击关系，若user点击了item则 $p(u,i)=1$ ，否则 $p(u,i)=0$ 、 $F$ 表示向量的维度。

模型最终输出的是 $p_{u}$ 和 $q_{i}$ ，即user和item分别的vector表达形式

6. LFM损失函数 loss function

$loss = \sum_{(u,i)\in D}(p(u,i)-p^{LFM}(u,i))^2$

其中， $p(u,i)$ 是监督模型的label、 $p^{LFM}(u,i)$ 是模型估计的user对item的点击关系、 $D$ 是所有样本的集合。为了避免过拟合，在损失函数中增加 $l_2$ 正则化项( $\lambda$ 是正则化参数)，如下公式所示：

$loss = \sum_{(u,i)\in D}(p(u,i)-\sum _{f=1}^Fp_{uf}q_{if})^2+\lambda |p_u|^2+\lambda |q_i|^2$

7. LFM算法迭代，求梯度

$\frac{\partial loss}{\partial p_{uf}}=-2(p(u,i)-p^{LFM}(u,i))q_{if}+2\lambda p_{uf}$

$\frac{\partial loss}{\partial q_{if}}=-2(p(u,i)-p^{LFM}(u,i))p_{uf}+2\lambda q_{if}$

使用梯度下降的方法，可以得到 $p_{uf}$ 和 $q_{if}$ 的迭代更新公式， $\beta$ 表示学习率：

$p_{uf}=p_{uf}-\beta \frac {\partial loss}{\partial p_{uf}}$

$q_{if}=q_{if}-\beta \frac {\partial loss}{\partial q_{if}}$

8. 影响LFM算法的不同情况

8.1 负样本选取负样本比正样本多得多，因此选取充分展现但用户无点击的item作为负样本；

8.2 模型参数：隐特征 $F$ (10~32之间)、正则参数 $\lambda$ (0.01~0.05之间)、learning rate 学习率 $\beta$ (0.01~0.05之间)

9. LFM vs item CF

9.1 理论基础 LFM使用隐特征基于平方误差训练监督学习模型；

9.2 离线计算空间时间复杂度 LFM需要的空间复杂度更低；

9.3 在线推荐与推荐解释。

Jasonus_Chou

关注

1
点赞
踩
6

收藏

觉得还不错? 一键收藏
3
评论
学习笔记3——LFM算法(Latent Factor Model)

1. LFM算法基本内容输入：user对item的点击矩阵参数：每一个user的向量表示和每一个item的向量表示方式：用user矩阵和item矩阵的矩阵乘拟合 user对item的点击矩阵2. LFM应用普适场景：2.1 获取user的item推荐列表、2.2获取item间的相似度列表、2.3 挖掘item间隐含topic3. 实例：3.1 输入：user...
复制链接

扫一扫