如何使用Python爬取关键字,并生成图片展示?
比如一则新闻如下图所示:
解决思路
1、先爬取新闻中的所有文字;
2、再把所有的文字分割,使之成为一个个的字;
3、将出现的字进行统计,统计出次数靠前的10位;
4、再生成词云图或饼图。
请看以下代码:
import jieba as jieba
import requests
from bs4 import BeautifulSoup
from pyecharts.charts import WordCloud, Pie
if __name__ == "__main__":
headers = {
"user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36"
}
url="https://new.qq.com/rain/a/20230315A08LAK00"
res_html = requests.get(url, headers=headers).text
# print(res_html)
# 创建一个BeautifulSoup对象。对获取的网页进行过滤,获取其内容
soup = BeautifulSoup(res_html, "lxml")
# 获取文章的文字
txt = soup.select(".content-article")[0].text
# print(txt)
# 对文章进行分割
words = jieba.lcut(txt)
# 统计每个词语出现的次数
counts = {}
for word in words:
if len(word) == 1:
continue
else:
counts[word] = counts.get(word, 0) + 1
# 获取出现次数最多的前10个词语
# counts.items -----> counts里面的所有项
# a ------> counts里面的每一项
sort_data = sorted(counts.items(), key=lambda a: a[1], reverse=True)[:10]
# 词云图
wc = WordCloud()
wc.add("", sort_data, word_size_range=[20, 100])
wc.render("1.html")
# 饼图
pip = Pie()
pip.add(
series_name="次数",
data_pair=sort_data
)
pip.render("2.html")
结果
一起看一下运行效果:
饼图:
感兴趣的小伙伴,赠送全套Python学习资料,包含面试题、简历资料等具体看下方。
一、Python所有方向的学习路线
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。
二、Python必备开发工具
工具都帮大家整理好了,安装就可直接上手!
三、最新Python学习笔记
当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
四、Python视频合集
观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
五、实战案例
纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
六、面试宝典