一、nlp与正则表达式
正则表达式是一种定义了搜索模式得特征序列,主要是用于字符串得模式匹配、字符得匹配。
nlp得预料一般有两个来源:web网页信息得抽取与文本格式得文档;其中web网页信息有很强的开发价值,时效性强、信息量很大、结构稳、价值高;而文本格式文档多源于编写与系统生成,包含了非结构化文本与半结构化文本。
所以具有字符匹配得正则表达式在nlp中就可以有如下得作用:
(1)将非结构化文本文档结构化,以便于文本挖掘;
(2)去除文本文档得噪声(与最终输出无关得文本信息),如url、链接、语气词、标点符号等。
通过正则我们可以抽取出我们需要得文本信息。
正则表达式
在python中,我们可以用re模块来实现正则表达式。首先我们写一些代码来实现正则匹配:
(1)在文本中匹配到包含“自然语言处理”得句子:
import re
text_string='自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此,这一领域的研究将涉及自然语言,即人们日常使用的语言,所以它与语言学的研究有着密切的联系,但又有重要的区别。自然语言处理并不是一般地研究自然语言,而在于研制能有效地实现自然