论文阅读
alzy133
这个作者很懒,什么都没留下…
展开
-
论文阅读 《Text Summarization with Pretrained Encoders》
看了一篇摘要的文章,用BERT去做摘要,主要展示了预训练模型可以给文本摘要带来提升,对于生成式摘要和抽取式摘要都做了实验,生成式摘要用BERT做Encoder,抽取式摘要直接把BERT当embedding用原创 2020-05-26 21:22:39 · 1390 阅读 · 1 评论 -
论文阅读《Aspect Level Sentiment Classification with Deep Memory Network》
这篇文章是比较早的一篇用深度学习处理ASC的论文了,实验也用SVM做了baseline做比较,模型结构比较简单,主要由多个hops构成,每个Hops是一个Linear+attention原创 2020-05-21 20:36:08 · 249 阅读 · 0 评论 -
论文阅读 《Progressive Self-Supervised Attention Learning for Aspect-Level Sentiment Analysis》
这篇文章也是针对aspect-level SA的一篇文章,其实准确的说更像一篇针对注意力机制的文章,提出了SA模型目前注意力机制的缺陷:过度注意高频词,忽略了低频次,本文用了两个技巧:第一个是迭代的mask注意力权重最大的词,第二个是加入了一个正则化项...原创 2020-04-20 21:50:11 · 417 阅读 · 0 评论 -
论文阅读 《An Interactive Multi-Task Learning Network for End-to-End Aspect-Based Sentiment Analysis》
这篇文章主要把aspect情感分析的两个任务(AS和AE)进行了多任务学习,主要用一个attn层实现AE辅助AS训练,以及引入DD,DS两个文档级别的分类任务进行辅助训练,同时提出了一个信息传递机制,每次迭代都会根据多任务的数据对最初提取的特征向量进行更新,这种信息传递机制实现了更好的多任务学习。...原创 2020-04-10 20:47:52 · 508 阅读 · 0 评论 -
论文阅读 《An Effective Approach to Unsupervised Machine Translation》
这篇文章是针对机器翻译一篇文章,感觉主要的创新点在于加入了子词(subword)信息,另外还有在训练的时候,消除了生成的平行语料库可能包括错误语法的短语问题。...原创 2020-04-09 20:29:41 · 328 阅读 · 0 评论 -
论文阅读 《Emotion-Cause Pair Extraction: A New Task to Emotion Analysis in Texts》
结构挺简单的,但是思路很有意思原创 2020-04-04 21:38:52 · 782 阅读 · 0 评论