python3 爬虫&数据处理 爬取华为应用市场 APP应用评论(二)根据评论生成词云——小猿搜题

python3 爬虫&数据处理 爬取华为应用市场 APP应用评论(二)根据评论生成词云——小猿搜题

# 导入扩展库
import re # 正则表达式库
import collections # 词频统计库
import numpy as np # numpy数据处理库
import jieba # 结巴分词
import wordcloud # 词云展示库
from PIL import Image # 图像处理库
import matplotlib.pyplot as plt # 图像展示库

# 读取文件
fn = open('xiaoyuanComment.txt') # 打开文件
#string_data= open(fn,'r', encoding='UTF-8')
#string_data = fn.read() # 读出整个文件
with open('xiaoyuanComment.txt','rb') as f:  # 打开新的文本
    string_data = f.read().decode("utf-8")  # 读取文本数据
fn.close() # 关闭文件

print(string_data)

# 文本预处理
pattern = re.compile(u'\t|\n|\.|-|:|;|\)|\(|\?|"') # 定义正则表达式匹配模式
string_data = re.sub(pattern, '', string_data) # 将符合模式的字符去除

# 文本分词
seg_list_exact = jieba.cut(string_data, cut_all = False) # 精确模式分词
object_list = []
remove_words = [u'的', u',',u'和', u'是', u'随着', u'对于', u'对',u'等',u'能',u'都',u'。',u' ',u'、',u',',u'!',u'中',u'在',u'了',
                u'通常',u'如果',u'我们',u'需要',u'',u'很',u'用',u'我',u'可以',u'有',u'小猿',u'搜题',u'搜',u'非常',u'就',u'这个',u'也',
               u'觉得',u'作业',u'要',u'题',u'到',u'有些',u'软件',u'不',u'就是',u'还是',u'但是',u'比',u'吧',u'跟'] # 自定义去除词库

for word in seg_list_exact: # 循环读出每个分词
    if word not in remove_words: # 如果不在去除词库中
        object_list.append(word) # 分词追加到列表

# 词频统计
word_counts = collections.Counter(object_list) # 对分词做词频统计
word_counts_top10 = word_counts.most_common(10) # 获取前10最高频的词
print (word_counts_top10) # 输出检查

# 词频展示
mask = np.array(Image.open('man.jpg')) # 定义词频背景
wc = wordcloud.WordCloud(
    font_path='C:/Windows/Fonts/simhei.ttf', # 设置字体格式

    #mask=mask, # 设置背景图
    max_words=200, # 最多显示词数
    max_font_size=100 # 字体最大值
)

wc.generate_from_frequencies(word_counts) # 从字典生成词云
#image_colors = wordcloud.ImageColorGenerator(mask) # 从背景图建立颜色方案
#wc.recolor(color_func=image_colors) # 将词云颜色设置为背景图方案
plt.imshow(wc, interpolation="bilinear") # 显示词云
plt.axis('off') # 关闭坐标轴
plt.show() # 显示图像
wc.to_file("小猿搜题.jpg") 

代码说明:
xiaoyuanComment.txt是我的上一篇文章中从华为应用市场网页中爬取的用户评论
我的上一篇文章——>https://blog.csdn.net/weixin_45615730/article/details/108859366

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值