文章目录
动手安装NLTK(Anaconda)
windows系统
首先冲新创建一个虚拟环境,用于后续应用
激活虚拟空间
下载numpy
安装nltk
安装成功
查看是否安装成功
python
import nltk
没反应则安装成功
下载nltk中自带的语料
但是在安装过程出现错误 。
这里只需将Server Index路径改成NLTK官网http://www.nltk.org/nltk_data/即可。
下面是改完后的
然后选择我们所需要的进行下载就可以了。
下面是安装成功后的
代码小练
from sklearn.feature_extraction.text import TfidfVectorizer
tfidf = TfidfVectorizer()
corpus=["我 来到 北京 清华大学",#第一类文本切词后的结果,词之间以空格隔开
"他 来到 了 网易 杭研 大厦",#第二类文本的切词结果
"小明 硕士 毕业 与 中国 科学院",#第三类文本的切词结果
"我 爱 北京 天安门"]#第四类文本的切词结果
result = tfidf.fit_transform(corpus).toarray()
print(result)
# 统计关键词
word = tfidf.get_feature_names()
print(word)
# 统计关键词出现次数,几句话对比几次
for k,v in tfidf.vocabulary_.items():
print(k,v)
# 对比第i类文本的词语tf-idf权重
for i in range(len(result)):
print('----------------------',i,'--------------------')
for j in range(len(word)):
print(word[j],result[i][j])
fit_transform方法将语料转化成TF-IDF权重矩阵,get_feature_names方法可得到词汇表。
get_feature_names(): 获取通过 TfidfVectorizer 学习到的所有特征词(术语),即文本数据中的所有可能词汇。
for k, v in tfidf.vocabulary_.items():vocabulary_是一个字典,将每个特征词(术语)映射到其在 TF-IDF 矩阵中的列索引(或位置)。这里循环打印每个特征词及其对应的索引值
运行结果: