[论文阅读] ANR: Aspect-based Neural Recommender

pdf原文 和 code【CIKM2018】

这篇文章利用review数据，从aspect-level进行分析。
主要基于下述三点进行模型的建立：
【第一点】在评论中的所有词，并不都是同等重要的。（方面的重要性）
【第二点】同样的一个词，在不同的情感方面，表达的含义不同。（多方面）
【第三点】词往往和文中的上下文相关。（c超参）

让一个user对items评论的所有词，表示该user；让一个item被所有users评论的所有词，表示该item。设置一个阈值num_word，例如500个词。

模型分为3层：

1. Embedding Layer
2. Aspect-based Representation Learning
3. Aspect Importance Estimation

1. Embedding Layer

输入：user Document和item Document，每个user/item被n个词表示。维度为[n]
输出：user Document和item Document的embedding表示，维度为[n, d]表示为Mu，d是词的潜在维度。
在代码中不会一个个用户/物品处理，因此在最前面还会加上用户/物品的数量，通常为批量处理，因此为batch的数量。

2. Aspect-based Representation Learning

输入：user Document和item Document的embedding表示，维度为[n, dim] Mu.
输出：aspect-level user representation，aspect-level item representation。
Pu, Qi, 维度均为 [K, h1]，K个方面，h1是方面的潜在维度。

下述以user为例。

其中Mu[i]是输入user Document embedding表示的i-th词，维度为[1, dim]，Wa的维度为[dim, h1]，Mu,a[i]是i-th词在a方面的潜在表示，维度为[1, h1].
上述为1个词的维度，那么对于一个用户而言，包含n个词：

为用户u在a方面的潜在表示。因此一个方面是[n, h1], K个方面是[K, n, h1].

Note:
Mu是输入的d维向量，Mu[i]是其中的i-th词。
Mu,a[i] 和Mu,a分别为aspect-specifc word representation，aspect-specifc document representation，维度分别为[1, h1] 和 [n, h1]。

对每一个方面的向量，为长度，维度为[1, c×h1]。c是超参，表示涉及的词的宽度。比如，当c=3，宽度为3，除去中心词之外还包含中心词前后各一词，形成3个词，用来对应【第三点】
因此考虑a local context window，维度为[1, c×h1]

来得到用户u的中心词i-th在a这个方面的注意力分数，softmax得到的是一个值，维度为[1, 1].

聚合，中心词i-th在a方面的注意力分数，与中心词i-th的表示相乘，得到中心词i-th的表示，再把n个词的向量相加，n个词的维度一致，都为 [1, h1]。相加得到的Pu,a的维度为[1, h1]。

因此Pu表示user在K个方面的聚合，user的各个词，在各个方面的权重，对应相乘后相加，聚合得到Pu，维度为 [K, h1]； Qi同理。

3. Aspect Importance Estimation

输入：aspect-level user representation，aspect-level item representation。
Pu, Qi, 维度均为 [K, h1]。
输出：aspect-level user and item importance。（βu，βi），维度为[K×1]

Ws维度为 [h1, h1]， S的维度为 [K, K]。

其中，

是待学习的参数。

βu，βi是aspect-level user representation，aspect-level item representation在K个维度的重要性，维度为 [K, 1]，对应K个维度的重要程度。

Model Inference and Optimization

参考：

1. ANR: Aspect-based Neural Recommender阅读笔记：https://zhuanlan.zhihu.com/p/427315537
2. 【论文笔记】ANR: Aspect-based Neural Recommender 基于方面的神经网络推荐系统：https://blog.csdn.net/qq_34919415/article/details/100983912