推荐算法学习笔记2.1:基于深度学习的推荐算法-基于共线矩阵的深度推荐算法-AutoRec模型

• AutoRec模型
  前置知识：推荐算法学习笔记1.1:传统推荐算法-协同过滤算法

  AutoRec模型通过引入自编码器结构，将共线矩阵中的用户向量（基于用户的U-AutoRec）或物品向量（基于物品的I-AutoRec）嵌入到低维空间后还原，从而使模型可以估计未知的用户评分。其公式如下所示：

  $$h(\mathbf{r};\mathbf{W},\mathbf{b},\mathbf{V},\mathbf{\mu })=f(\mathbf{W}g(\mathbf{Vr}+\mathbf{\mu }+\mathbf{b}))$$

  其训练的损失函数如下所示：

  $$mi{n}_{\mathbf{W},\mathbf{b},\mathbf{V},\mathbf{\mu }}\frac{\lambda }{2}(\Vert \mathbf{W}{\Vert }_F,\Vert \mathbf{V}{\Vert }_F)+\sum _{i=1}^N\Vert {\mathbf{r}}^i-h({\mathbf{r}}^i;\mathbf{W},\mathbf{b},\mathbf{V},\mathbf{\mu }){\Vert }_2^2$$

  m其网络结构如下所示：

  

  在《深度学习推荐系统》书中，把输出层描述成多分类层是存在歧义的。原论文中输出层实际的激活函数为$f(x)=x$。

  

  该模型的训练以及推荐过程如下（以U-AutoRec为例）：

  输入所有用户向量 R = { r i ∣ i = 1 , 2 , . . N } \mathbf{R} = \{\mathbf{r}^i|i=1,2,..N\} R={ri∣i=1,2,..N}进行模型训练。推理时输入用户向量${\mathbf{r}}^i$，得到预测向量${\hat{\mathbf{r}}}^i$，其中对于物品$Ite{m}_k$，用户的预测评分为${\hat{\mathbf{r}}}^i[k]$。

  总结：

  • 优点：通过从所有物品向量（或用户向量）中学习到核心的低维表示，从而在输入含未知取值的物品向量（或用户向量）时，可以估计未知取值的得分，从而提高泛化能力。
  • 缺点：结构比较简单，存在表达能力不足的问题，另一方面只使用了共现矩阵的信息， 没法利用用户和物品的特性。