Coherent Comment Generation for Chinese Articles with a Graph-to-Sequence Model

论文网址 ：https://arxiv.org/abs/1906.01231
论文目的：看一篇文章或者新闻自动生成评价

方法顺序：
→ 1.使用skip gram训练词嵌入
→ 2.图构建
→ 3.结点编码
→ 4.图编码
→ 5.解码器（attention + RNN）

模型如下：

模型

1.使用skip gram训练词嵌入

略

2.图构建

首先使用（先成的词切分和定义实体类工具[Stanford CoreNLP]）进行操作，又使用了关键词提取技术（textRank）进行补充，得到了关键词。以关键词为结点，然后再按顺序扫描文章的句子，句子中含有某一个关键词就把这个句子分配给这个关键词所在的结点（可能含有多个关键词，那就分配给多个结点）。将关键词排在第一位，句子跟在后面，就完成了图构建。另外增加“Empty”和“Title”两个特殊顶点。
边的权重由关键词共享的句子数决定。即出现相同句子，两个结点就连线，越多相同句子权重越大。

3.结点编码

把每个词转化为对应的词向量
再加上一个位置编码

$e_i$是词向量，$p_i$是位置编码

再进行一个多头的自注意力编码

4.图编码

进行GCN传递，GCN多少层没有说

在最后一层太怕太平滑了，所以使用了一下残差

然后再计算输出

5.解码器

带注意力机制的RNN
看不太懂
公式如下：