多层注意力模型:Hierarchical Attention Networks for Document Classification
论文链接:https://arxiv.org/abs/1707.00896v11、网络结构2 层级“注意力”词层面的“注意力”机制本文针对的是任务是文档分类任务,即认为每个要分类的文档都可以分为多个句子。因此层级“注意力”模型的第一部分是来处理每一个分句。对于第一个双向RNN输入是每句话的每个单词,其计算公式如下所示:基于单词的注意力模型,其计算公式如下:句层...
原创
2019-03-20 15:37:13 ·
1722 阅读 ·
0 评论