爬虫:爬取腾讯疫情数据
网络爬虫(又称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
今天这篇文章将通过短短的14行代码让你体验爬虫的神奇。**
网页结构
首先打开腾讯疫情网址:https://news.qq.com/zt2020/page/feiyan.htm?from=timeline&isappinstalled=0#/
右键检查,分析网页
找到我们需要的数据所在的网址:https://api.inews.qq.com/newsqa/v1/automation/foreign/country/ranklist
代码实现
找到网址,下面就是相关代码实现了。
首先导入Python相关库:
requests :网页请求,获取原始数据
json:网页解析,去除多余字符
pandas:数据处理