![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
自然语言处理NLP
梳理和关注NLP领域常用理论与工具,论文阅读等
Gamelife27
NLP_apprentice
展开
-
NLP中的各种Attention机制
Attention机制是在Seq2Seq模型的基础上被提出来的,Seq2Seq通过encoder拿到(输入)文本信息的context向量(矩阵)。Attention机制让decoder部分更加关注与当前时刻相关性最高的item。因此,在回顾Attention机制之前,需要先回顾一下Seq2Seq(即Encoder-Decoder)模型。Seq2Seq(Encoder-Decoder)在此前的博...原创 2020-01-07 13:16:54 · 2207 阅读 · 0 评论 -
NLP基础:语言模型
什么是语言模型语言模型旨在为语句的联合概率函数建模,是用来计算一个句子概率的模型,对有意义的句子赋予大概率,对没有意义的句子赋予小概率,也就是用来判断一句话是否是人话的概念。这样的模型可以用于NLP中的很多任务,如机器翻译、语音识别、信息检索、词性标注以及手写识别等。语言模型考虑两个方面的子任务(以“How long is a football game?”为例):句子中的词序:“How l...原创 2020-01-07 09:11:15 · 2125 阅读 · 0 评论 -
FAQ问答机器人背景调研
问答系统背景介绍问答系统是信息检索的一种高级形式,能够更加准确地理解用户用自然语言提出的问题,并通过检索语料库、知识图谱或问答知识库返回简洁、准确的匹配答案。相较于搜索引擎,问答系统能更好地理解用户提问的真实意图, 进一步能更有效地满足用户的信息需求。问答系统是目前人工智能和自然语言处理领域中一个倍受关注并具有广泛发展前景的研究方向。问答系统分类:从发展历史看来,问答系统的发展历程可以简单...原创 2019-12-24 16:38:58 · 1225 阅读 · 0 评论 -
自动文本摘要任务背景调研
文本摘要任务背景任务是什么?自动文本摘要任务是什么?阅读一篇长文本,通过抽取、生成或者压缩的方式,形成一段较短篇幅的语句来概括原始文本的主题大意。用户可以通过预先阅读短文本来获取文章的主要内容。为什么需要自动文本摘要任务?近年来,随着信息技术的跨越式发展,人们获取信息的便捷度不断提升,信息量不断增加,使得文本信息呈现爆炸式增长,人们几乎被文本大数据所淹没。从大量文本信息中快速提取重要的内...原创 2019-12-24 11:17:13 · 4293 阅读 · 1 评论 -
NLP中面向文本表示的模型梳理
引言语言表示是将自然语言表示为计算机或者模型能够处理的数据特征,是解决例如情感分析、命名实体识别、机器翻译、文本生成等这些高级任务的基础。本文作为NLP基础知识的入门,梳理了相关文本表征的模型与方法。在语音处理技术中,语音信息被解析成为用音频频谱序列向量所构成的matrix,喂入神经网络或者统计学习模型进行处理;在图像处理技术中,图像信息被解析成由众多像素点构成的matrix,喂入神经网...原创 2019-12-23 10:07:18 · 1997 阅读 · 2 评论