NLP笔记

NLP
自然语言处理( Natural Language Processing, NLP)是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。

https://baike.baidu.com/item/自然语言处理/365730?fr=ge_ala

发展史
最早的自然语言理解方面的研究工作是机器翻译 [4]。1949年，美国人威弗首先提出了机器翻译设计方案 [1]。其发展主要分为三个阶段。
早期自然语言处理
第一阶段(60~80年代):基于规则来建立词汇、句法语义分析、问答、聊天和机器翻译系统。好处是规则可以利用人类的内省知识，不依赖数据，可以快速起步；问题是覆盖面不足，像个玩具系统，规则管理和可扩展一直没有解决。 [5]
统计自然语言处理
第二阶段(90年代开始)：基于统计的机器学习(ML)开始流行，很多NLP开始用基于统计的方法来做。主要思路是利用带标注的数据，基于人工定义的特征建立机器学习系统，并利用数据经过学习确定机器学习系统的参数。运行时利用这些学习得到的参数，对输入数据进行解码，得到输出。机器翻译、搜索引擎都是利用统计方法获得了成功。 [5]
神经网络自然语言处理
第三阶段(2008年之后)：深度学习开始在语音和图像发挥威力。随之，NLP研究者开始把目光转向深度学习。先是把深度学习用于特征计算或者建立一个新的特征，然后在原有的统计学习框架下体验效果。比如，搜索引擎加入了深度学习的检索词和文档的相似度计算，以提升搜索的相关度。自2014年以来，人们尝试直接通过深度学习建模，进行端对端的训练。目前已在机器翻译、问答、阅读理解等领域取得了进展，出现了深度学习的热潮。 [5]

专家系统
⑴按知识表示技术可分为：基于逻辑的专家系统、基于规则的专家系统、基于语义网络的专家系统和基于框架的专家系统。
⑵按任务类型可分为：
解释型：可用于分析符号数据，进行阐述这些数据的实际意义。
预测型：根据对象的过去和现在情况来推断对象的未来演变结果。
诊断型：根据输入信息来找到对象的故障和缺陷。
调试型：给出自己确定的故障的排除方案。
维修型：指定并实施纠正某类故障的规划。
规划型：根据给定目标拟定行动计划。
设计型：根据给定要求形成所需方案和图样。
监护型：完成实时监测任务。
控制型：完成实施控制任务。
教育型：诊断型和调试型的组合，用于教学和培训。