Python 微博奔驰事件爬虫

本文介绍如何使用Python进行微博奔驰事件的评论爬取。通过Pycharm和Python3.6.4,作者抓取了移动端微博的评论数据,分析了动态加载的评论页面,发现了评论链接的构建规则,并提出了解析评论内容和处理超链接的方法。着重讨论了一级评论的获取策略,指出评论翻页并非简单地增加页码,而是依赖于上一页评论的特定id来构造新页面。
摘要由CSDN通过智能技术生成

Python微博奔驰事件爬虫

工具:Pycharm,Win10,Python3.6.4

最近奔驰漏油事件成为大家讨论的热点,也频上热搜。我就来做了一下微博评论爬虫,看看大家对这件事情的看法。

微博移动端相对好爬一些,且评论数据差不多,所以我们主要是针对微博移动端进行信息采集。

我们打开网址看到如下信息

评论量还是挺多的,所以我们要先获取该微博的链接,然后通过该微博去获取评论页。可以看到微博是动态加载的,你不断往下翻就会有新的微博内容出现,此时我们应该考虑是动态加载

可以看到每次会产生10条微博数据,我们要获取这10条数据中的idstr去构造每条微博的详情链接。

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值