[NLP]CS224n学习笔记一:NLP介绍

1.什么是自然语言处理?自然语言处理是做什么的?自然语言处理难在哪里?

语言是表达人的想法以及人与人之间交流的工具,而自然语言处理则是让计算机拥有处理人类语言的能力,从而让计算机能够使用和理解人类的语言。如今,自然语言处理在生活中应用已经很广泛,尤其是苹果的siri,谷歌的Google Assistant和alex,微软的Cortana和小冰。国内也有很多语音相关的应用,尤其是笔者所在的机器人行业,各种层出不穷的教育机器人、陪伴机器人、商务机器人无不在着消费者的眼球。而这些产品的基础技术就是自然语言处理。

那么自然语言处理到底是什么?这是一门研究什么,做什么的学科呢?

首先我们来看wikipedia上的解释:自然语言处理(英语:Natural Language Processing,简称NLP)是人工智能和语言学领域的分支学科。此领域探讨如何处理及运用自然语言;自然语言认知则是指让电脑“懂”人类的语言。自然语言生成系统把计算机数据转化为自然语言。自然语言理解系统把自然语言转化为计算机程序更易于处理的形式。
自然语言处理的研究内容包括:

  • 文本到语音(Text to speech)/语音合成(Speech synthesis)
  • 语音识别(Speech recognition)
  • 自动分词(word segmentation)
  • 词性标注(Part-of-speech tagging)
  • 句法分析(Parsing)
  • 自然语言生成(Natural language generation)
  • 文本分类(Text categorization)
  • 信息检索(Information retrieval)
  • 信息抽取(Information extraction)
  • 文字校对(拼写检查或者错别字校正)(Text-proofing)
  • 问答系统(对话系统)(Question answering):给一句人类语言的问定,决定其答案。 典型问题有特定答案 (像是加拿大的首都叫什么?),但也考虑些开放式问句(像是人生的意义是是什么?)
  • 机器翻译(Machine translation):将某种人类语言自动翻译至另一种语言
  • 自动摘要(Automatic summarization):产生一段文字的大意,通常用于提供已知领域的文章摘要,例如产生报纸上某篇文章之摘要
  • 文字蕴涵(推理)(Textual entailment)
  • 知识表示
  • 阅读理解

可以看到自然语言处理的范围相当的广泛,覆盖了人类语言的方方面面。

2.NLP的研究等级

这里写图片描述

从上图中可以看到,NLP的底层技术包括:建立在语音基础上的拼音分析和音韵分析、建立在文本基础上的标签化。在这基础之上的是结构分析、语法分析、语义理解、对话处理。结构分析分析的是句子的结构、语法分析分析的是词或者字在句子中的角色、语义理解研究的是语句的深层次的含义、对话处理研究的是上下文处理或者推理。随着等级从上往下,相应的研究领域难度越来越大。

3.一些NLP的应用

在消费领域一般有:

  • 拼写检查、关键字检索、同义词发现
  • 信息抽取:产品价格、时间、位置、人名或者机构名的抽取
  • 分类:对于新闻的分类、消费者对于产品的评价是正面还是负面
  • 机器翻译:典型的比如谷歌翻译
  • 对话系统:比如chatbot、自动客服

在工业领域:

  • 检索
  • 在线广告推荐
  • 自动或者辅助翻译
  • 市场情绪分析
  • 语音识别
  • 客服机器人、对话机器人:自动下单、自动客户支持、设备管理等等

可以看到NLP不管是在工业还是消费领域都是应用非常广泛,并且已经和人们的生活和商业活动息息相关、紧密结合了。

4.自然语言的特殊之处
  • 自然语言不同于信号处理和图像处理,后者研究的是环境中真真切切的信号,比如信号处理研究的是电平的变化,图像处理是对图像中像素的研究,而自然语言不是具体的环境信号,它是人类交流的媒介。
  • 自然语言也是对客观世界的符号化,并且具备丰富的表现形式。比如表达自己的喜爱之情:I looooooove it,就是通过对o的拉长来表达自己喜爱之情的强烈。
  • 语言具备很强的逻辑性,但是又不能用数字去具体的量化,比方说可能,大概表达的是一种概率,但是又不能具体的数字比如80%去衡量。
  • 此外语言还具备多种的表现形式,比如声音、动作、图像、文字等,神奇的是就算用不同的表现形式去表达,它们的含义却依然可以保持不变。
5.NLP的难点

NLP的难点分为3个:

  • (1).难在表示,试想一下,对于人类来说,语言保存在人脑中,那么对于计算机来说如何对语言进行表示呢?

  • (2).难在歧义:比如南京市长江大桥,可以理解为南京市长/江大桥,也可以理解为南京市/长江大桥。

  • (3).难在背景知识,当我们说一句话的时候,往往都具有上下文或者背景。比如我说:我不难过。那么问题来了,我到底难不难过呢?这就需要根据具体的语境和具体的环境进行判断了。

6.NLP+DL

NLP和DL的结合即是用DL的方法和特征去解决NLP的问题。
近年来,DL在NLP上的应用取得了巨大的进步具体表现在:

  • 从层次上看:语音,词组,语法,语义
  • 从工具上看:词性标注、命名实体识别、依存句法
  • 从应用上看:机器翻译、情感分析、对话系统、问答系统

DL将每一个词表征为一个多维的向量,每一个维度都表示着独特的信息。维度最少取25维,一般去200-300维,当然维度越多越好,但是随着维度的提高计算性能也会受到影响,所以具体的维度在实践中需要具体确定。
当用向量表示词组之后,词向量可以进行计算,比如计算相似度,近义词的向量比较接近,不同意义的词向量相距较远。
词组的向量化之后,就可以应用DL中的模型进行多种NLP任务的计算了,比如:依存句法、语义表示、情绪分析、自然语言生成、机器翻译等等。
这里写图片描述

7.总结

本文是NLP的常识性介绍,介绍了NLP是什么、研究什么、有那些应用领域和产品;最后介绍了NLP和DL的结合。
在下篇博文中,将介绍词组向量化。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值