python 热词图_Python 爬取 热词并进行分类数据分析-[简单准备] (2020年寒假小目标05)...

这篇博客介绍了如何使用Python爬取IT领域的热词,如'智能'、'技术'、'区块链',并展示了爬取过程和数据处理方法,包括网页爬虫的实现、数据清洗以及词频统计,最后解决了词频统计中重复词的处理问题。
摘要由CSDN通过智能技术生成

日期:2020.01.27

博客期:135

星期一

【本博客的代码如若要使用,请在下方评论区留言,之后再用(就是跟我说一声)】

所有相关跳转:

a.【简单准备】(本期博客)

c.【拓扑数据】

d.【数据修复】

i . 【App制作】

j . 【安全性改造】

今天问了一下老师,信息领域热词从哪里爬,老师说是IT方面的新闻,嗯~有点儿意思了!

我找到了好多IT网站,但是大多数广告又多,名词也不专一针对信息领域,所以啊我就暂且用例一个相对还好的例子:

数据来源网址:https://news.51cto.com/(最终不一定使用此网站的爬取数据)

网站的相关热词来源截图:

e94e86e2eb3db187b2776b8682a43848.png

如图,“智能”、“技术”、“区块链”为爬取目标

进行爬取(因为每一次执行js都会加重爬取任务的负担),当你执行到第100次的时候,你现在要执行第101次的JS,它所消耗的时间大概是27s!所以,这种方法我就爬100次,得到5607条数据:

f926f5e8c3fabe84ab03e663579ba9e6.png

爬取代码:

d3fbb97f7f6e42f67056bab648bfe872d1c.jpg

48831c3307c44ae71d53aa377610279acfd.jpg

1 importparsel2 from urllib importrequest3 importcodecs4 from selenium importwebdriver5 importtime6

7 #[ 对字符串的特殊处理方法-集合 ]

8 classStrSpecialDealer:9 @staticmethod10 defgetReaction(stri):11 strs = str(stri).replace(" ","")12 strs = strs[strs.find('>')+1:strs.rfind('

18 classStringWriter:19 filePath = ""

20 def __init__(self,str):21 self.filePath =str22 pass

23

24 defmakeFileNull(self):25 f = codecs.open(self.filePath, "w+", 'utf-8')26 f.write(

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值