自然语言处理论文阅读及知识整理
一起学习,欢迎指正
彼得.攀
就是想开个博客
展开
-
论文笔记-Bleu 一种机器翻译的评价指标
[点击查看原文[(https://akeeper.space/blog/论文笔记-bleu-一种机器翻译的评价指标.html)在文本生成中,如何评价生成文本质量是一个很重要的问题。2002年Kishore Papineni et al.提出一个重要评价指标Bleu,该论文引用过万,是NLP领域的必读文章之一。Bleu最初应用于机器翻译论文地址:https://www.aclweb.org/an...原创 2019-06-17 20:23:37 · 1479 阅读 · 0 评论 -
论文笔记-语境重构
原文出自彼得攀的小站论文来自于华为和滑铁卢大学该文章主要针对解决了汉语对话中语境重构的问题,即把代词、零代词等指称短语替换为它们指代的名词,这样可以在没有上下文中的情况,直接对当前对话句子进行处理。Motivation作者认为语境重构任务可以被分解为引用表达式检测(即代词和零代词检测)和引用还原(将代词还原为所指代的实体)基于这样的认知,作者提出了一种新的端到端结构,来完成语境重构任...原创 2019-09-22 19:56:09 · 948 阅读 · 0 评论 -
词向量-ELMo介绍
原文出自彼得攀的小站Deep contextualized word representations获得了NAACL 2018的outstanding paper award,其方法有很大的启发意义,本文则是对其做了一个简要梳理。Motivation预训练的word representation在NLP任务中表现出了很好的性能,已经是很多NLP任务不可或缺的一部分,论文作者认为一个好的wo...原创 2019-09-22 19:59:30 · 773 阅读 · 0 评论 -
论文笔记-对话系统综述
原文出自彼得攀的小站本文是对论文“A Survey on Dialogue Systems: Recent Advances and New Frontiers”的阅读笔记,该文章是关于对话系统的综述,最后一次修改于2018年年初,主要对2018年之前对话系统相关技术做了一个概要性总结论文地址文中[45]这样的编号代表论文中参考文献的编号,可以查阅原始论文引言深度学习技术是现在对话系统采...原创 2019-09-22 20:02:13 · 1864 阅读 · 0 评论 -
transformer详解:transformer/ universal transformer/ transformer-XL
首发自彼得攀的小站特别鸣谢刘陆琛@Mayouji在本文写作过程中的帮助Attention机制在NLP领域的应用最早可以追朔到2014年,Bengio团队将Attention引入NMT(神经机器翻译)任务 [1]。之后更是在深度学习的各个领域得到了广泛应用:如CV中用于捕捉图像上的感受野;NLP中定位关键token/feature.作为某种程度上可以称为当下NLP领域最强的特征抽取器的tran...原创 2019-10-08 15:54:07 · 1733 阅读 · 2 评论