使用Python制作中文词云
0 素材 & 库 准备
0.1 文本和图片
制作词云之前, 我们需要事先准备以下素材:
- 一篇文章, 以文本文件 (.txt) 格式保存.
- 停用词表 (英文非必要, 中文需要自己准备, 可以从这里 (GitHub)下载).
- 避免中文乱码的字体文件 (英文非必要)
- 一张你喜欢的图片. (为词云上色, 或者制作剪影, 非必要)
完整素材见GitHub, 也可以从我准备的网盘链接打包下载:
链接:https://pan.baidu.com/s/19hrcWzChUz7CWZ0Osvh5mw
提取码:vz0i
从素材准备可以看出来, 相比英文, 制作中文词云会稍微麻烦一点, 因为需要解决额外的两个问题:
- (使用 jieba) 分词, 将连续的中文句子切割成单个词语.
- 设置字体, 避免中文乱码.
注: 这次例子用的是浙大教授王立铭的文章: “《巡山报告》第二十四期:有了疫苗,世界会好吗?”
0.2 库准备
主要涉及以下Python库:
wordcloud
(词云制作)jieba
(中文分词)numpy
(数组处理)matplotlib
(基础画图)PIL
(读取图片)
如果没有安装, 需要使用pip或conda进行安装. 如果是在Windows下使用 pip
安装, 首先打开命令行 (cmd
), 进入安装 Python 的文件夹地址, 输入以下代码 (也可以直接使用 Anaconda Powershell Prompt):
制作词云的库:
pip install wordcloud
用于中文分词的库:
pip install jieba
步骤
- 准备工作
1.1. 安装并引入必要的函数库
1.2. 设置文件路径 - 文本处理: 分词, 过滤, 词频计算
- 词云生成, 画图
1. 准备工作
1.1. 引入库
import numpy as np
from wordcloud import WordCloud, ImageColorGenerator#, STOPWORDS
import matplotlib.pyplot as plt
from PIL import Image
import jieba # cutting Chinese sentences into words
1.2.设置文件路径
完整教程涉及四个文件, 见前面的 “素材准备”:
# setting paths
fname_text = 'texts/article.txt'
fname_stop = 'stopwords/hit_stopwords.txt'
fname_mask = 'pictures/owl.jpeg'
fname_font = 'SourceHanSerifK-Light.otf'
2. 文本处理
这一步的主要目的是将一篇文章转化为一个"词频"表 (字典 dict
).
2.1 读取文本
首先, 我们得读取一篇文章, 以及停用词表:
# read in texts (an article)
text = open(fname_text, encoding='utf8').read()
# Chinese stop words
STOPWORDS_CH = open(fname_stop, encoding='utf8').read().split()
初学者需要注意以下几点:
open(filename, encoding='utf8')
命令打开一个文件, 且encoding='utf8'
告诉计算机该文件的编码方式是 ‘utf-8’, 如果没有这个设定, 会导致中文字符乱码.- 对打开的文件,
.read()
操作会返回一个字符串. 因此代码中的text
是字符串类型. - 最后一行中的
.split()
操作将字符串 (按照空格, tab\t
, 换行符\n
) 分割成了一系列字符串, 因此STOPWORDS_CH
是一个由字符串组成的列表list
.
2.2 分词和过滤
首先用 jieba.cut(text)
函数将字符串 text
分割成一个个词或词组 (该函数返回的是一个’生成器 generator
), 然后对里面的每一个词, 过滤掉没有意义的 ‘停用词’ (w not in STOPWORDS_CH
), 最后只保留长度大于1的词组 (len(w) > 1
).
# processing texts: cutting words, removing stop-words and single-charactors
word_list = [
w for w