Neural Collaborative Filtering阅读笔记

最新推荐文章于 2024-08-10 07:01:04 发布

zhongrui_fzr

最新推荐文章于 2024-08-10 07:01:04 发布

阅读量794

点赞数

文章标签：推荐系统 NCF

本文链接：https://blog.csdn.net/ymrfzr/article/details/103051748

版权

本文介绍了Neural Collaborative Filtering（NCF）框架，一种基于神经网络的协同过滤方法，旨在改进传统的矩阵分解。NCF通过使用多层感知机（MLP）和Generalized Matrix Factorization（GMF）模型，增强了对用户和物品交互的非线性建模。实验表明，NCF在推荐系统中提供了优于现有方法的性能。

摘要由CSDN通过智能技术生成

2017-深度协同过滤
代码地址：pytorch版
https://github.com/hexiangnan/neural_collaborative_filtering
作者何向南
使用神经结构替换矩阵分解的内积

摘要

近几年来，深度学习在推荐系统领域应用不多，本文力争使用深度学习解决推荐系统领域的关键问题：隐式反馈的协同过滤
尽管最近也有一些工作将深度学习应用于推荐领域，但都主要集中在对辅助信息建模上，比如物品的文本描述、音乐的声学特征等等。
但对于协同过滤中的关键点，用户和物品的交互建模上仍然是矩阵分解MF，然后使用用户和物品的隐特征做内积。
本文提出了一种通用框架，NCF（Neural network- based Collaborative Filtering），基于神经网络的协同过滤，它把内积部分替换成了可以拟合任意函数的神经网络结构。
NCF是一个通用框架，可以表达并泛化到矩阵分解。为了提高NCF的非线性，本文提出使用MLP学习用户物品交互函数。最后在两个实际数据集上验证了NCF远优于sota方法。经验表明，使用深度神经网络能提供更好的推荐效果。

深度协同过滤

先说明如何使用强调隐式反馈二值性的概率模型学习NCF，再阐明NCF可以表达MF并泛化到MF。为了探索用于协同过滤的DNN结构，本文提出了一个NCF实例，使用MLP学习用户物品交互函数。
最后，本文提出一个在NCF框架下融合MF和MLP的新的深度矩阵分解模型，既有MF的线性优势，又利用MLP的非线性建模用户物品的隐特征。

通用框架

为了实现一个全神经网络的协同过滤，引入多层表示来建模用户物品交互，上一层的输出是下一层的输入。如下图所示，

最底层的输入input layer由两个描述用户和物品的特征向量 $v^U_u$ 和 $v_i^I$ 组成，它们可以被定制成各种各样的用户物品模型，比如上下文感知，基于内容，基于近邻等等
鉴于本文集中于纯粹的协同过滤场景，只使用用户身份和物品独热编码的二值稀疏向量作为输入特征。使用通用特征表示作为输入的另一个好处是使我们的方法可以通过引入内容特征表示用户和物品来轻易解决冷启动问题。
输入层之上是embedding layer，这是一个全连接层，将稀疏表示映射为稠密向量。得到的用户/物品embedding可以看做是隐因子模型中的隐向量。用户和物品的embedding随后喂给一个多层神经网络结构，本文称之为深度协同过滤层，将隐向量映射到预测分数。
Neural CF layers的每一层都可以定制化为挖掘用户物品交互的某种隐式结构。最后一层隐层X的维度决定了模型的表达能力。
最后是输出层output layer，预测分值 $\hat y_{ui}$ ，训练也是通过最小化 $\hat y_{ui}$ 和目标值 $y_{ui}$ 之间的pointwise loss进行的。
我们注意到训练本文模型的另外一种方式是pairwise学习，比如使用贝叶斯个性化排序BPR和margin-based loss。由于本文的重点是神经网络建模部分，我们把pairwise learning的扩展部分作为未来工作。
现在NCF的预测模型可以表达为： $\hat y_{ui} = f(P^T V_u^U, Q^T V_i^I|P, Q, \circleddash_f)$ ，其中 $P\in R^{MXK}$ 和 $Q\in R^{NXK}$ ，分别表示用户和物品的隐因子矩阵， $\circleddash_f$ 表示交互函数f的模型参数。
函数f是一个多层神经网络，可以描述为 $f(P^TV_u^U, Q^TV_i^I) = \phi_{out}(\phi_X(...\phi_2(\phi_1(P^T V_u^U, Q^TV_i^I))...))$ ，其中， $\phi_{out}$ 和 $\phi_x$ 分别表示输出层和第x层深度协同过滤层，Neural CF共有X层。