![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
自然语言处理(NLP)
文章平均质量分 79
echoKangYL
这个作者很懒,什么都没留下…
展开
-
自然语言处理NLP(11)——篇章分析与指代消解
在上一部分中,我们介绍了语义分析的基本内容(自然语言处理NLP(10)——语义分析),重点介绍了格文法和语义角色标注(SRL)。在这一部分中,我们将介绍篇章分析相关内容。在介绍具体内容之前,我们首先要理解这样一个问题:什么是篇章?篇章是由一个以上的句子(sentence)或语段(utterance)构成的有组织、有意义的自然语言文本整体。一篇文章、一段会话等都可以看成篇章。构成篇章的句子(或...原创 2020-03-01 14:06:23 · 7758 阅读 · 2 评论 -
自然语言处理NLP(10)——语义分析
在上一部分中,我们介绍了句法分析中的局部句法分析以及依存关系分析(自然语言处理NLP(9)——句法分析c:局部句法分析、依存关系分析),至此,繁复冗长的句法分析部分就结束了。在这一部分中,我们将要介绍NLP领域的一个重要问题:语义分析。语义分析分为两个部分:词汇级语义分析以及句子级语义分析。这也就是为什么在词法分析和句法分析之后,我们要介绍的是语义分析而不是篇章分析的原因。【一】词汇级语义...原创 2019-09-24 19:28:13 · 54948 阅读 · 2 评论 -
自然语言处理NLP(9)——句法分析c:局部句法分析、依存关系分析
在上一部分中,我们介绍了基于规则法、概率统计法、神经网络法的完全句法分析方法(自然语言处理NLP(8)——句法分析b:完全句法分析)。在这一部分中,我们将介绍句法分析中的另外两种类型:局部句法分析、依存关系分析。【一】局部句法分析相比于完全句法分析要求对整个句子构建句法分析树,局部句法分析(浅层句法分析、语块分析)仅要求识别句子中某些结构相对简单的独立成分,如非递归的名词短语、动词短语等。这...原创 2019-06-04 20:26:02 · 7691 阅读 · 10 评论 -
自然语言处理NLP(8)——句法分析b:完全句法分析
在上一部分中,我们简单介绍了完全句法分析的概念,并详细介绍了句法分析的基础:Chomsky形式文法(自然语言处理NLP(7)——句法分析a:Chomsky(乔姆斯基)形式文法)。在这一部分中,我们将对完全句法分析进行详细介绍。回顾一下,句法分析共有三种类型:完全句法分析、局部句法分析、依存关系分析。对于完全句法分析,还是NLP领域中常用的三种解决方法:规则法、概率统计法、神经网络方法。下面...原创 2019-03-22 11:15:29 · 10438 阅读 · 4 评论 -
自然语言处理NLP(7)——句法分析a:Chomsky(乔姆斯基)形式文法
在上一部分中,我们介绍了NLP领域最基本的问题:词法分析,现阶段解决该问题最常用的方法就是将其转化为序列标注问题,根据解决序列标注问题的方法对其进行解决。在这一部分中,我们将在词法分析的基础上介绍句法分析。句法分析的任务是确定句子的句法结构或句子中词汇之间的依存关系,主要包括三种:完全句法分析、局部句法分析、依存关系分析。其中,前两种句法分析是对句子的句法结构进行分析(也称为短语结构分析),...原创 2019-03-08 10:12:46 · 7246 阅读 · 5 评论 -
神经网络语言模型中,词向量为什么可以随着模型的迭代而改变?
在神经网络语言模型中,通常我们认为词向量是模型的输入。对此不太熟悉的朋友可以参考博客:自然语言处理NLP(3)——神经网络语言模型、词向量神经网络语言模型的架构是这个样子的:然而,在模型训练的过程中,输入层的词向量可以随着模型的迭代而改变,就像调整上图中的权重:W,U,HW,U,HW,U,H一样。可能很多人有同样的疑问:词向量作为模型的输入,怎么能改变呢?朋友们可以先仔细思考一下这个问...原创 2019-03-12 09:02:01 · 1286 阅读 · 4 评论 -
自然语言处理NLP(6)——词法分析
在上一部分中,我们介绍了NLP领域中的一个基本问题:序列标注问题,并对解决该问题的三种方法:HMM、CRF、RNN+CRF进行了介绍。在这一部分中,我们将在语言结构层面对词法分析进行介绍。在了解了NLP架构之后(在博客:自然语言处理NLP(3)——神经网络语言模型、词向量中有过介绍,忘记了的朋友们可以翻回去看看),一定还记得这样一张图:现在,我们已经了解了自然语言研究层面的基本概念:语言模...原创 2019-02-26 15:12:21 · 12780 阅读 · 4 评论 -
自然语言处理NLP(5)——序列标注b:条件随机场(CRF)、RNN+CRF
在上一部分中,我们了解了序列标注问题以及解决该种问题的一种方法——隐马尔科夫模型HMM:自然语言处理NLP(4)——序列标注a:隐马尔科夫模型(HMM)在这一部分中,我们将要介绍解决序列标注问题的另外两种方法:条件随机场(CRF),以及RNN+CRF。【一】最大熵模型在介绍条件随机场(CRF)之前,首先了解一下什么是最大熵模型。...原创 2019-02-21 00:22:53 · 4284 阅读 · 0 评论 -
自然语言处理NLP(4)——序列标注a:隐马尔科夫模型(HMM)
在上一部分中,我们已经了解了神经网络语言模型和词向量:自然语言处理NLP(3)——神经网络语言模型、词向量在对现阶段NLP领域的最基本、最常用的架构有所了解之后,在这一部分中,我们将要介绍NLP领域最常见的一类问题:序列标注。【一】序列标注...原创 2019-02-13 00:59:04 · 4966 阅读 · 4 评论 -
自然语言处理NLP(3)——神经网络语言模型、词向量
在上一部分中,我们了解到了统计语言模型,n-gram模型以及语料库的基本知识:自然语言处理NLP(2)——统计语言模型、语料库在这一部分中,我们将在此基础上介绍神经网络语言模型以及词向量的相关知识。在介绍这些知识之前,我们首先对自然语言处理领域的整体架构进行一些简单的介绍。【一】自然语言处理架构我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能...原创 2019-02-09 15:44:24 · 6636 阅读 · 6 评论 -
自然语言处理NLP(1)——概述
本学期修读了“自然语言处理”这门课,趁着假期把学到的东西整理一下~在了解自然语言处理相关知识之前,首先要知道什么是自然语言处理、自然语言处理能干什么、怎么来做自然语言处理。 【一】什么是自然语言处理个人认为,自然语言处理(Natural language processing,NLP)是将自然语言处理为计算机所能理解的东西,并利用计算机做一些进一步的处理以达到某些目的的方法。那...原创 2019-01-23 15:45:04 · 4617 阅读 · 0 评论 -
自然语言处理NLP(2)——统计语言模型、语料库
在上一部分中,我们已经了解了自然语言处理的基本知识:自然语言处理NLP(1)——概述。在这一部分中,我们将简要介绍NLP领域的基本模型——语言模型,我们还将对自然语言处理的基础——语料库的概念进行介绍。这些都是在学习自然语言处理之前所必备的知识。此外,我们默认大家有一定的信息论和概率论基础,在这里不对信息论和概率论知识进行赘述。接下来,我们进入正题。【一】语言模型在这一部分中...原创 2019-01-24 16:29:23 · 7076 阅读 · 2 评论