chenmingwei000的博客

虽然已经此文章的相关翻译，但是感觉介绍的并不清楚，并且本文章把论文的Theano更改成了tensorflow版本，并且尝试增加bert模型的修改。含有多个选项的阅读理解，需要人在给定{passage，question}对的前提下，选择n个选项中的最优的一个选择项作为答案。当前的state of the art方法是利用question对passage 进行attention操作得到一个综合表示，然后与选择与选项相似度最高的作为答案。但是人类去做这样的题目不仅集中于选项，主要也采用了排除和选择两种操作。.

1、首先建立一个有效的阅读理解模型，完全利用卷积以及自我attention，据我们所知，他们是第一个这样做的，在保持准确率的情况下，同样增快的训练速度；2、为了提高模型的精确度，提出了一个新的数据增强技术来丰富训练数据集，通过意译； 2 THE MODEL模型的整体介绍      在第二章首先会介绍阅读理解的任务，然后描述提出的qanet模型，他是仅有卷积以及自我attenti...

模型关于语句的相似度，由于变异以及长短不同表达，设计了一个这些中间，探究了输入的多个角度运用多个卷积类型以及多种类型的pooling，类似于运用了多个相似度函数。模型包括两个组成部分如图：如图1，两个输入的句子由两个并行的神经网络处理，输出句子representation，两个句子表示由一个结构化的相似性测量层，然后相似性的特征通过一个全连接来最终计算相似度。1、第一部分，为了句子相似...

cs224n-2017-notes1        这个课程一介绍nlp的基础概念开始，今天所面临的的困难，然后讨论了单词用数字向量表示的的概念，最后我们讨论单词向量的比较好的方法。   1   Introduction to natural language processing       开始什么是nlp    1.1 what is so sprcial about NLP...