NLP学习笔记
孤酒以之
伟大是熬出来的
展开
-
Distant supervision for relation extraction 远程监督
论文链接:https://pan.baidu.com/s/1CrRm2TEEmhuvsSjNB4uF7g 提取码:0wlb 最近在读关系抽取方面的论文,发现 Distant supervision 的概念出现频率很高。 追根溯源,Mintz 在2013年首次提出使用远程监督的方式训练关系抽取模型。本文不对论文进行详细解释,仅用来记录本人认为的一些重点,方便日后查阅。 为什么使用远程监督 在远程监督应用于关系抽取领域之前,主要有三种用来训练模型的方式(learning paradigm),分别是Super.原创 2020-11-27 14:41:10 · 518 阅读 · 0 评论 -
NLP学习笔记——Transformer模型
NLP学习笔记——Transformer模型 1.概述 《Attention Is All You Need》是Google在2017年提出的一篇将Attention思想发挥到极致的论文。该论文提出的Transformer模型,基于encoder-decoder架构,抛弃了传统的RNN、CNN模型,仅由Attention机制实现,并且由于encoder端是并行计算的,训练时间大大缩短。 Transformer模型广泛应用于NLP领域,机器翻译、文本摘要、问答系统等等,目前火热的Bert模型就是基于Trans原创 2020-10-28 10:42:42 · 1555 阅读 · 0 评论