论文笔记
文章平均质量分 94
IndexFziQ
这个作者很懒,什么都没留下…
展开
-
论文笔记——Gated-Attention Readers for Machine Reading Comprehension
Inroduction本文是ACL 2017的一篇文章,用更细粒度的gated-attention对背景文章和问题进行计算。作者是CMU的Graduate Research Assistant: Bhuwan Dhingra。文章的相关工作部分总结的很好,代码实现可以参考[GitHub]。Background本文针对的是MRC任务中的Cloze-Style类型,翻译过来是叫完形填空,但是...原创 2018-09-29 16:21:39 · 2341 阅读 · 0 评论 -
论文笔记 — COMET【自动常识知识库构建】
From Allen Institute for Artificial Intelligence and Microsoft Research.Authors: Antoine Bosselut, Hannah Rashkin, Maarten Sap, Chaitanya Malaviya, Asli Celikyilmaz, Yejin ChoiTitle: COMET: Commonsen...原创 2019-07-04 12:07:39 · 4342 阅读 · 0 评论 -
论文笔记 — Transformer-XL [更优秀的长文本编码器]
From Google Brain and CMU.Authors: Zihang Dai∗, Zhilin Yang∗, Yiming Yang, Jaime Carbonell, Quoc V. Le, Ruslan SalakhutdinovTitle: TransformerXL: Attentive Language Models Beyond a Fixed-Length Cont...原创 2019-06-26 11:10:13 · 2211 阅读 · 1 评论 -
论文笔记 —— XLNet [在20项任务上超越BERT]
From Google Brain and CMU.Authors: Zhilin Yang∗, Zihang Dai∗, Yiming Yang, Jaime Carbonell, Ruslan Salakhutdinov, Quoc V. LeTitle: XLNet: Generalized Autoregressive Pretraining for Language Understa...原创 2019-06-21 22:40:44 · 1304 阅读 · 0 评论 -
论文笔记--Multi-Style Generative Reading Comprehension (Masque)
First published on indexfziq.github.io at 2019-04-10 17:00:00Introduction目前,本文是目前MARCO数据集NLG任务的第一名,作者是NTT公司的Nishina等人。文章突破了抽取式阅读理解模型的束缚,采用摘要的方式生成指定风格的答案,这两个突破算是GMRC的一个里程碑。在此篇文章之后,分析选手榜可以发现,沿用词方法的模型也...原创 2019-04-10 18:38:50 · 1134 阅读 · 0 评论 -
论文笔记--From Answer Extraction to Answer Generation for Machine Reading Comprehension (S-Net)
First published on indexfziq.github.io at 2019-01-17 19:10:40.Introduction本文出自微软亚研院,一作是北航的Chuanqi Tan, 代码没有公开,链接为台湾的一位同学用CNTK实现的代码。首次使用了Seq2Seq模型对MS-MARCO阅读理解数据集进行答案生成,比较符合MS-MARCO的本意,同时定义了先抽取再生成的框架...原创 2019-03-07 16:06:22 · 602 阅读 · 0 评论 -
论文笔记--Multi-Passage Machine Reading Comprehension with Cross-Passage Answer Verification (V-Net)
First published on indexfziq.github.io at 2019-03-08 14:00:00Introduction本文出自Baidu NLP Research,在MS MARCO的V1版本上是第二;V2版本上QA任务是第三,well-formed任务是第二。代码没公开,基本的思想就是提出两个辅助任务,辅助抽取更好的答案片段。Motivation这篇文章的动机...原创 2019-03-08 14:15:21 · 988 阅读 · 0 评论 -
Analysis on MS MARCO leaderboard
My github project: https://github.com/IndexFziQ/MSMARCO-MRC-Analysis. Welcome to star my work!Analysis on MS MARCO leaderboardAnalysis on the MS-MARCO leaderboard, including V1 and V2, regarding the...原创 2018-12-28 15:29:56 · 770 阅读 · 0 评论 -
论文笔记——Semantic Sentence Matching with Densely-connected Recurrent and Co-attentive Information(DRCN)
Introduction本文出自韩国 Naver Corporation 和 Seoul National University ,工作定义在句子匹配任务上。Sentence Matching的关键之处在于如何表示句子语义(目前感觉就是上下文信息和类似 POS 的特征信息,不能说是语义),如何理解句子之间的语义关系。查看相关工作可以得到,Attention 算法在刻画两个句子语义关系和对齐句子成...原创 2018-10-29 17:11:49 · 2005 阅读 · 0 评论 -
论文笔记——对NLP深度神经模型的统一深入理解【神经网络可解释性】
From SJTU, MSRA and PKU.Authors: Chaoyu Guan, Xiting Wang, Quanshi Zhang, Runjin Chen, Di He, Xing Xie.Title: Towards a Deep and Unified Understanding of Deep Neural Models in NLPIn: ICML 2019.Co...原创 2019-10-07 16:47:13 · 2462 阅读 · 0 评论