自然语言处理（一）

最新推荐文章于 2024-02-01 10:22:21 发布

分子( • ̀ω•́ )✧

最新推荐文章于 2024-02-01 10:22:21 发布

阅读量296

点赞数

本文链接：https://blog.csdn.net/weixin_44690183/article/details/108567693

版权

自然语言处理

自然语言处理（Natural Language Processing，NLP）研究的是如何通过机器学习等技术，让计算机学会处理人类语言，乃至实现终极目标——理解人类语言或人工智能。著名的图灵测试就是根据机器是否能像人类一样理解语言来判断它是否具备人工智能。
自然语言的复杂程度vs编程语言：词汇量、结构化、歧义性、容错性、易变性、简略性
自然语言处理系统的输入源一共有3个，即语音、图像与文本。语音和图像这两种形式一般经过识别后转化为文字，转化后就可以进行后续的NLP任务了。
词法分析的主要任务是将文本分隔为有意义的词语（中文分词），确定每个词语的类别和浅层的歧义消除（词性标注），并且识别出一些较长的专有名词（命名实体识别）。对中文而言，词法分析常常是后续高级任务的基础。
词法分析之后，所分析出来的每个单词和附有自己词性及其他标签的数据，抽取出一部分有用的信息，关键词、专业术语等。还可以对文本进行分类和聚类操作，找出相类似的文本。需要得到句子的主谓宾结构，这就是句法分析得到的结果。
相较于句法分析，语义分析侧重语义而非语法。它包括词义消歧、语义角色标注(标注句子中的谓语与其他成分的关系)乃至语义依存分析(分析句子中词语之间的语义关系)。

机器学习

机器学习指的是计算机通过某项任务的经验数据提高了在该项任务上的能力。
模型是对现实问题的数学抽象，由一个假设函数以及一系列参数构成。
特征指的是事物的特点转化的数值。如何挑选特征，如何设计特征模板，这称作特征工程。特征越多，参数就越多；参数越多，模型就越复杂。
样本的集合在机器学习领域称作数据集，在自然语言处理领域称作语料库。
如果数据集附带标准答案 y，则此时的学习算法称作监督学习。学习一遍误差还不够小，需要反复学习、反复调整。此时的算法是一种迭代式的算法，每一遍学习称作一次迭代。这种在有标签的数据集上迭代学习的过程称作训练。
如果我们只给机器做题，却不告诉它参考答案，机器仍然可以学到知识吗？可以，此时的学习称作无监督学习，而不含标准答案的数据集被称作无标注的数据集。无监督学习一般用于聚类和降维，降维指的是将样本点从高维空间变换成低维空间的过程。
半监督学习：如果我们训练多个模型，然后对同一个实例执行预测，会得到多个结果。如果这些结果多数一致，则可以将该实例和结果放到一起作为新的训练样本，用力啊扩充训练集。这样的算法被称为半监督学习。
强化学习：现实世界中的事物之间往往有很长的因果链：我们要正确地执行一系列彼此关联的决策，才能得到最终的成果。这类问题往往需要一边预测，一边根据环境的反馈规划下次决策。这类算法被称为强化学习。