使用Python制作中文词云

来自得到某篇文章


0 素材 & 库 准备

0.1 文本和图片

制作词云之前, 我们需要事先准备以下素材:

  1. 一篇文章, 以文本文件 (.txt) 格式保存.
  2. 停用词表 (英文非必要, 中文需要自己准备, 可以从这里 (GitHub)下载).
  3. 避免中文乱码的字体文件 (英文非必要)
  4. 一张你喜欢的图片. (为词云上色, 或者制作剪影, 非必要)

完整素材见GitHub, 也可以从我准备的网盘链接打包下载:

链接:https://pan.baidu.com/s/19hrcWzChUz7CWZ0Osvh5mw
提取码:vz0i

从素材准备可以看出来, 相比英文, 制作中文词云会稍微麻烦一点, 因为需要解决额外的两个问题:

  1. (使用 jieba) 分词, 将连续的中文句子切割成单个词语.
  2. 设置字体, 避免中文乱码.

注: 这次例子用的是浙大教授王立铭的文章: “《巡山报告》第二十四期:有了疫苗,世界会好吗?”

0.2 库准备

主要涉及以下Python库:

  • wordcloud (词云制作)
  • jieba (中文分词)
  • numpy (数组处理)
  • matplotlib (基础画图)
  • PIL (读取图片)

如果没有安装, 需要使用pip或conda进行安装. 如果是在Windows下使用 pip 安装, 首先打开命令行 (cmd), 进入安装 Python 的文件夹地址, 输入以下代码 (也可以直接使用 Anaconda Powershell Prompt):

制作词云的库:

pip install wordcloud

用于中文分词的库:

pip install jieba 

步骤

  1. 准备工作
    1.1. 安装并引入必要的函数库
    1.2. 设置文件路径
  2. 文本处理: 分词, 过滤, 词频计算
  3. 词云生成, 画图

1. 准备工作

1.1. 引入库

import numpy as np
from wordcloud import WordCloud, ImageColorGenerator#, STOPWORDS
import matplotlib.pyplot as plt
from PIL import Image
import jieba # cutting Chinese sentences into words

1.2.设置文件路径

完整教程涉及四个文件, 见前面的 “素材准备”:

# setting paths
fname_text = 'texts/article.txt'
fname_stop = 'stopwords/hit_stopwords.txt'
fname_mask = 'pictures/owl.jpeg'
fname_font = 'SourceHanSerifK-Light.otf'

2. 文本处理

这一步的主要目的是将一篇文章转化为一个"词频"表 (字典 dict).

2.1 读取文本

首先, 我们得读取一篇文章, 以及停用词表:

# read in texts (an article)
text = open(fname_text, encoding='utf8').read()
# Chinese stop words
STOPWORDS_CH = open(fname_stop, encoding='utf8').read().split()

初学者需要注意以下几点:

  • open(filename, encoding='utf8') 命令打开一个文件, 且 encoding='utf8' 告诉计算机该文件的编码方式是 ‘utf-8’, 如果没有这个设定, 会导致中文字符乱码.
  • 对打开的文件, .read() 操作会返回一个字符串. 因此代码中的 text 是字符串类型.
  • 最后一行中的 .split() 操作将字符串 (按照空格, tab\t, 换行符 \n) 分割成了一系列字符串, 因此STOPWORDS_CH 是一个由字符串组成的列表 list.

2.2 分词和过滤

首先用 jieba.cut(text) 函数将字符串 text 分割成一个个词或词组 (该函数返回的是一个’生成器 generator), 然后对里面的每一个词, 过滤掉没有意义的 ‘停用词’ (w not in STOPWORDS_CH), 最后只保留长度大于1的词组 (len(w) > 1).

# processing texts: cutting words, removing stop-words and single-charactors
word_list = [
        w for w 
  • 55
    点赞
  • 230
    收藏
    觉得还不错? 一键收藏
  • 10
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值