python3爬取微博评论并存为xlsx

这篇博客介绍了如何使用Python3爬取手机端微博的热门评论,并将其存储为xlsx文件。首先,通过分析网页结构发现微博热门文章是通过Ajax动态加载的,找到请求URL。接着,使用requests库获取JSON数据,解析并提取文章信息。然后,访问文章详情页获取评论区用户信息和评论内容,将这些信息存储为字典。最后,将这些数据写入Excel表格。
摘要由CSDN通过智能技术生成

**

python3爬取微博评论并存为xlsx

**
由于微博电脑端的网页版页面比较复杂,我们可以访问手机端的微博网站,网址为:https://m.weibo.cn/
一、访问微博网站,找到热门推荐链接
我们打开微博网站后看见热门页,按F12查看网页结构后只能看见如下图短短的几个文章。
在这里插入图片描述
然后我们将滚动条向下滚动,发现新的文章会在底部加载,原来微博的热门文章加载方式是Ajax加载的,那我们就不能在网页源码中找标签了,我们点击如下图所示的network标签,找找请求地址。
在这里插入图片描述
我们查看请求返回值后发现下图的请求返回的是一个json格式的数据。
在这里插入图片描述
其实这就是热门文章存放的地址。在headers中找到gRequest请求的链接,是:https://m.weibo.cn/api/container/getIndex?containerid=102803&openApp=0
二、requests请求获取json数据
我们利用requests获取目标地址返回的json数据,并对其进行打印:

response = requests.get(self.con_url, headers=self.headers)
        data = json.loads(response.text)
        pprint.pprint(data)
</
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值