Neural Collaborative Filtering【论文笔记】

Xiangnan He, Lizi Liao, Hanwang Zhang, Liqiang Nie, Xia Hu, and Tat-Seng
Chua. 2017. Neural Collaborative Filtering. In WWW. 173–182.

这篇文章将神经网络融入到RS里面，由DNNs来学习预测交互函数，并且指出了MF构建交互模型存在的弊端。文章一共提出了三种NCF模型，并且取得了很好的实验结果。

1 文章为了解决什么问题？

协同过滤(CF, Collaborative Filtering):个性化推荐系统根据用户过去的互动(如评分和点击)，为用户对项目的爱好进行建模。
矩阵分解(MF，matrix factorization)：利用潜在特征向量来表示用户或项目，将用户和项目投影到共享的潜在空间中。然后，将用户对项目的交互建模为其潜在向量的内积。

内积只是简单地将潜在特征的相乘线性组合起来，不足以捕获用户交互数据的复杂结构。在低维隐空间中，使用一个简单而固定的内积来估计复杂的用户-项目交互可能会导致MF的局限性。

2 文章提出了什么方法？

本文的工作通过形式化一种用于协同过滤的神经网络建模方法来解决上述研究问题。通过将内积运算替换为可以从数据中学习任意函数的神经体系结构，本文提出了一个名为NCF(Neural network based Collaborative Filtering)的通用框架。 NCF是通用的，可以在其框架下表示和推广矩阵分解。 为了使NCF建模具有非线性效果，提出利用多层感知器来学习用户与物品的交互函数。在这篇论文中，探讨的中心主题是如何利用DNNs对有噪声的隐式反馈信号进行建模。

3 模型架构以及原理？

3.1 推荐问题基本描述

隐式反馈的推荐问题被表述为估计用户-物品交互矩阵Y中未观察物品的分数的问题，该分数用于对物品进行排序。在形式上,他们可以抽象为${\hat{y}}_{ui}=f\left(u,i|\Theta \right)$，${\hat{y}}_{ui}$表示用户u和物品i的预测得分，$\Theta$表示模型的参数，f表示将模型参数映射到预测分数的函数(交互函数)。

3.2 矩阵分解(Matrix Factorization, MF)

MF将每个用户和物品与潜在特征的实值向量相关联。设$p_u$和$q_i$分别表示用户u和物品i的隐向量;MF估计$y_{ui}$是$p_u$和$q_i$的内积：
$${\hat{y}}_{ui}=f\left(u,i|p_u,q_i\right)=p_u^T{q}_i=\sum _{k=1}^K{p}_{uk}{q}_{ik}\text{\hspace{1em}(1)}$$

缺点：使用一个简单而固定的内积来估计复杂的用户-项目交互可能会导致MF的局限性。

3.3 NCF通用框架

1.NCF框架

为了允许对协同过滤进行完整的神经处理，采用多层表示对用户-物品交互$y_{ui}$进行建模，如图2所示，其中一层的输出作为下一层的输入。底层输入层由两个特征向量$v_u^U$和$v_i^I$组成，分别描述用户u和物品i的特征，其为一个具有one-hot编码的二值化稀疏向量。
在输入层之上为Embedding层，它是一个全连接层，将稀疏表示投影到稠密向量上。现在将NCF的预测模型表示为
$${\hat{y}}_{ui}=f\left({\mathbf{P}}^T{\mathbf{v}}_u^U,{\mathbf{Q}}^T{\mathbf{v}}_i^I|\mathbf{P},\mathbf{Q},{\mathbf{\Theta }}_f\right)\text{\hspace{1em}(2)}$$

• 这里$\mathbf{P}\in {\mathbb{R}}^{M\times K}$，$\mathbf{Q}\in {\mathbb{R}}^{N\times K}$分别表示用户和物品的隐含因子矩阵。
• ${\Theta }_f$表示了交互函数$f$的模型参数。

函数$f$可以定义为多层神经网络，可以被表述为：
$$f\left({\mathbf{P}}^T{\mathbf{v}}_u^U,{\mathbf{Q}}^T{\mathbf{v}}_i^I\right)={\varphi }_{out}\left({\varphi }_X\left(\dots {\varphi }_2\left({\varphi }_1\left({\mathbf{P}}^T{\mathbf{v}}_u^U,{\mathbf{Q}}^T{\mathbf{v}}_i^I\right)\right)\dots \right)\right)\text{\hspace{1em}(3)}$$

${\varphi }_{out}$和${\varphi }_x$分别表示输出层和第x层神经协同过滤的映射函数(CF)层，总共有X个神经CF层。

2.NCF学习

为了学习模型参数，现有的pointwise方法大多使用了平方损失的回归：
$$L_{sqr}=\sum _{(u,i)\in y\cup y^{-}}{w}_{ui}{\left(y_{ui}-{\hat{y}}_{ui}\right)}^2\text{\hspace{1em}(4)}$$

• y表示了在Y中观察到的相互作用的集合；
• $y^{-}$表示负向实例的集合；
• $w_{ui}$表示训练实例(u, i)权值的超参数。

但我们指出它可能与隐式数据不符。这是因为对于隐式数据，目标值$y_{ui}$是一个二值化的1或0，表示u是否与i交互。所以赋予NCF概率解释：预测得分${\hat{y}}_{ui}$表示了用户u和物品i之间相关的可能性。定义概率函数如下所示：
$$p\left(y,y^{-}|\mathbf{P},\mathbf{Q},{\Theta }_f\right)=\prod _{(u,i)\in y}{\hat{y}}_{ui}\prod _{(u,j)\in y^{-}}(1-{\hat{y}}_{uj})\text{\hspace{1em}(5)}$$

取概率的负对数，得到：
$$\begin{array}{rl}L& =-\sum _{(u,i)\in y}\log {\hat{y}}_{ui}-\sum _{(u,j)\in y^{-}}\log (1-{\hat{y}}_{uj})\\ & =-\sum _{(u,i)\in y\cup y^{-}}{y}_{ui}\log {\hat{y}}_{ui}+(1-y_{ui})\log (1-{\hat{y}}_{ui})\end{array}\text{\hspace{1em}(6)}$$

(6)式是NCF方法最小化的目标函数，其优化可以通过使用随机梯度下降(SGD)来实现。通过对NCF的概率处理，我们将隐式反馈的推荐作为一个二分类问题来解决。对于负实例y-,在每次迭代中我们从未观察到的交互进行一致的采样并且控制采样率，即观察到的相互作用的数量。

3.4广义矩阵分解(GMF)

由于对输入层的用户(项目)ID进行one-hot编码，得到的Embedding向量可视为用户(项目)的隐向量。设用户的隐向量 ${\mathbf{p}}_u$为${\mathbf{P}}^T{\mathbf{v}}_u^U$，物品隐向量${\mathbf{q}}_i$为${\mathbf{Q}}^T{\mathbf{v}}_i^I$。定义CF第一层的映射函数为：
$${\varphi }_1({\mathbf{p}}_u,{\mathbf{q}}_i)={\mathbf{p}}_u\odot {\mathbf{q}}_i\text{\hspace{1em}(7)}$$

$\odot$表示向量的元素乘积，然后我们将向量投影到输出层：
$${\hat{y}}_{ui}=a_{out}\left({\mathbf{h}}^T\left({\mathbf{p}}_u\odot {\mathbf{q}}_i\right)\right)\text{\hspace{1em}(8)}$$

• $a_{out}$和$h$分别表示输出层的激活函数和权值。
• 对$a_{out}$使用恒等函数并使h成为1的向量，就可以准确地将其恢复为MF模型。
• 在本文的工作中，实现了NCF下MF的一个通用版本，将$a_{out}$定义为sigmoid函数$(\sigma (x)=1/\left(1+e^{-x}\right))$，并且从数据中使用log损失函数学习$h$。

3.5 多层感知器(MLP)

在连接的向量上添加隐藏层，使用一个标准的MLP来学习用户和物品潜在特征之间的交互。NCF框架下的MLP模型定义为：
$$\begin{array}{rl}{\mathbf{z}}_1& =\varphi ({\mathbf{p}}_u,{\mathbf{q}}_i)=\left[\begin{array}{c}{\mathbf{p}}_u\\ {\mathbf{q}}_i\end{array}\right],\\ {\varphi }_2({\mathbf{z}}_1)& =a_2\left({\mathbf{W}}_2^T{\mathbf{z}}_1+{\mathbf{b}}_2\right),\\ & \dots \dots \\ {\varphi }_L({\mathbf{z}}_{L-1})& =a_L\left({\mathbf{W}}_L^T{\mathbf{z}}_{L-1}+{\mathbf{b}}_L\right),\\ {\hat{y}}_{ui}& =\sigma \left({\mathbf{h}}^T{\varphi }_L({\mathbf{z}}_{L-1})\right),\end{array}\text{\hspace{1em}(9)}$$

$W_x$，$b_x$和$a_x$分别表示第x层感知器的权值矩阵，偏置向量和激活函数。对于MLP层的激活函数，可以自由选择sigmoid、tanh和ReLU等函数。实验结果表明，ReLU的性能略好于tanh，而tanh的性能又明显好于sigmoid。对于网络结构的设计，通常的解决方案是采用塔状结构，底层最宽，每一层的神经元数量逐级变少。本文根据经验实现了塔式结构，将每一层的尺寸减半。

3.6 GMF与MLP的融合

允许GMF和MLP学习独立的Embedding，并通过连接它们的最后一个隐藏层来组合这两个模型。下图展示了所提出的方案。

公式如下：
$$\begin{array}{rl}{\varphi }^{GMF}& ={\mathbf{p}}_u^G\odot {\mathbf{q}}_i^G,\\ {\varphi }^{MLP}& =a_L\left({\mathbf{W}}_L^T\left(a_{L-1}\left(\dots a_2\left({\mathbf{W}}_2^T\left[\begin{array}{c}{\mathbf{p}}_u^M\\ {\mathbf{q}}_i^M\end{array}\right]+{\mathbf{b}}_2\right)\dots \right)\right)+{\mathbf{b}}_L\right),\\ {\hat{y}}_{ui}& =\sigma ({\mathbf{h}}^T\left[\begin{array}{c}{\varphi }^{GMF}\\ {\varphi }^{MLP}\end{array}\right]),\end{array}\text{\hspace{1em}(10)}$$

• $p_u^G$和$p_u^M$ 分别表示GMF部分和MLP部分的用户Embedding；
• $q_i^G$和$q_i^M$分别表示GMF和MLP的物品Embedding。

我们使用ReLU作为MLP层的激活函数。该模型结合了MF的线性和DNNs的非线性，作用于用户-项目隐含结构的建模。称这个模型为“NeuMF”，是神经矩阵分解的简称，每一个模型参数都可以用标准的反向传播来计算。

3.7 预训练

首先用随机初始化训练GMF和MLP，直到收敛。然后，使用它们的模型参数作为NeuMF参数的相应部分的初始化。唯一的调整是在输出层，将两个模型的权值连接在一起:
$$\mathbf{h}\leftarrow \left[\begin{array}{c}\alpha {\mathbf{h}}^{GMF}\\ (1-\alpha ){\mathbf{h}}^{MLP}\end{array}\right],\text{\hspace{1em}(11)}$$

• 这里${\mathbf{h}}^{GMF}$和${\mathbf{h}}^{MLP}$分别表示GMF模型和MLP模型的预训练h向量。
• $\alpha$是一个超参数确定两个预训练的模型之间的权衡。

4 改进的效果如何以及比较的对象?

对提出的NCF方法(GMF，MLP和NeuMF)与以下基准进行对比：
baseline：-ItemPop、-ItemKNN、-BPR、-eALS
NeuMF在两个数据集上(MovieLens和Pinterest)都取得了最好的性能，显著地超出了最先进的eALS和BPR方法(平均而言，相对于eALS和BPR的相对改进是分别是4.5%和4.9%)。

5 future work

NeuralCF模型也存在局限性。由于是基于协同过滤的思想进行改造的，所以NeuralCF模型并没有引入更多其他类型的特征，这在实际应用中无疑浪费了其他有价值的信息。此外，对于模型中互操作的种类并没有做进一步的探究和说明。这都需要后来者进行更深入的探索。

---

参考链接

1. 知乎：https://zhuanlan.zhihu.com/p/131274333
2. 原文地址：https://arxiv.org/pdf/1708.05031.pdf
3. 上一篇NGCF：https://blog.csdn.net/xzq_13972146251/article/details/114549065