用python实现入门级NLP

本文简要介绍Python自然语言处理(NLP)，使用Python的NLTK库。NLTK是Python的自然语言处理工具包，在NLP领域中，最常使用的一个Python库。

什么是NLP？

简单来说，自然语言处理(NLP)就是开发能够理解人类语言的应用程序或服务。

这里讨论一些自然语言处理(NLP)的实际应用例子，如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词，以及生成语法正确完整句子和段落。

这并不是NLP能做的所有事情。

NLP实现

搜索引擎: 比如谷歌，Yahoo等。谷歌搜索引擎知道你是一个技术人员，所以它显示与技术相关的结果；

社交网站推送:比如Facebook News Feed。如果News Feed算法知道你的兴趣是自然语言处理，就会显示相关的广告和帖子。

语音引擎:比如Apple的Siri。

垃圾邮件过滤:如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不同，它通过了解邮件内容里面的的深层意义，来判断是不是垃圾邮件。

NLP库

下面是一些开源的自然语言处理库(NLP)：

• Natural language toolkit (NLTK);
• Apache OpenNLP;
• Stanford NLP suite;
• Gate NLP library

其中自然语言工具包(NLTK)是最受欢迎的自然语言处理库(NLP)，它是用Python编写的，而且背后有非常强大的社区支持。

NLTK也很容易上手，实际上，它是最简单的自然语言处理(NLP)库。

在这个NLP教程中，我们将使用Python NLTK库。

安装 NLTK

如果您使用的是Windows/Linux/Mac，您可以使用pip安装NLTK:

1	pip install nltk

　　

打开python终端导入NLTK检查NLTK是否正确安装：

1	import nltk

如果一切顺利，这意味着您已经成功地安装了NLTK库。首次安装了NLTK，需要通过运行以下代码来安装NLTK扩展包:

1 2 3

import nltk    nltk.download()

这将弹出NLTK 下载窗口来选择需要安装哪些包:

您可以安装所有的包，因为它们的大小都很小，所以没有什么问题。

使用Python Tokenize文本

首先，我们将抓取一个web页面内容，然后分析文本了解页面的内容。

我们将使用urllib模块来抓取web页面:

1 2 3 4 5

import urllib.request    response = urllib.request.urlopen('http://php.net/') html = response.read() print (html)

从打印结果中可以看到，结果包含许多需要清理的HTML标签。
然后BeautifulSoup模块来清洗这样的文字:

1 2 3 4 5 6 7 8 9

from bs4 import BeautifulSoup    import urllib.request response = urllib.request.urlopen('http://php.net/') html = response.read() soup = BeautifulSoup(html,"html5lib") # 这需要安装html5lib模块 text = soup.get_text(strip=True) print (text)

　　

现在我们从抓取的网页中得到了一个干净的文本。
下一步，将文本转换为tokens,像这样:

1 2 3 4 5 6 7 8 9

from bs4 import BeautifulSoup import urllib.request    response = urllib.request.urlopen('http://php.net/') html = response.read() soup = BeautifulSoup(html,"html5lib") text = soup.get_text(strip=True) tokens = text.split() print (tokens)

统计词频

text已经处理完毕了，现在使用Python NLTK统计token的频率分布。

可以通过调用NLTK中的FreqDist()方法实现:

1 2 3 4 5 6 7 8 9 10 11 12

from bs4 import BeautifulSoup import urllib.request import nltk    response = urllib.request.urlopen('http://php.net/') html = response.read() soup = BeautifulSoup(html,"html5lib") text = soup.get_text(strip=True) tokens = text.split() freq = nltk.FreqDist(tokens) for key,val in freq.items():     print (str(key) + ':' + str(val))

如果搜索输出结果，可以发现最常见的token是PHP。
您可以调用plot</