查询建议的反馈记忆网络（18‘WWW）

 Query Suggestion with Feedback Memory Network

idea

模拟用户与搜索引擎的互动，对用户对搜索结果的偏好建模以获得查询建议。

Model（FMN）

问题定义

给定一个查询$q$，它的搜索结果$D$ = {$d_1$,$d_2$,…,$d_n$}，他的点击位置为$p$，即文档$d_p$,FMN考虑点击文档作为正例$D^{+}$，跳过的文档作为负例$D^{-}$

模型框架

FMN将$D^{+}$和$D^{-}$编码到正反馈memory $F^{+}$和负反馈memory $F^{-}$，这两个连续的向量代表用户的偏好。它由三个部分组成: document content encoding、position encoding和attention mechanism
Document Content Encoding（对$D^{+}$和$D^{-}$）

文档的content：

GRU编码（得到output向量）：

Position Encoding:（同word_emb）
文档在搜索结果中的排名位置传达了搜索引擎对文档相关性的判断。它还影响用户对文档的感知。为了掩盖其影响，FMN将文档的排名位置作为嵌入位置:

Attention Mechanism
FMN使用注意力机制来加权组合文档内容嵌入和位置嵌入。当推断搜索意图时，它捕获D+和D-中文档的重要性。例如，如果$d_p$对应于查询的罕见意图，单击它会提供更多信息；如果$d_p$是一个常见结果，跳过它表示更意外的意图。
对于查询$q$：

attention向量：

对于文档$d_p$（同$q$）:

attention:（点乘）

Feedback Memories:
注意力分数、文档嵌入和位置嵌入一起为查询产生正反馈记忆

位置嵌入和content嵌入呗连接由$M$和$b_F$投影，F+，和F-是 FMN的输出向量，代表用户反馈所反映的积极和消极偏好。

Feedback-Aware Query Suggestion

将FMN的输出与HRED结合：

Encoder
首先对查询做嵌入：

然后将反馈信息和查询结合：

将结果送的GRU中学习session级编码：

Decoder
首先投影$S^{\to }$:

目标查询：

被GRU编码：

然后按照LM的方式一个一个生成目标字：

损失自然目标查询q的最大化似然函数：

实验

在搜狗搜索日志上进行实验达到了SOAT