Python Web scraping: 用requests轻松爬取IEA能源数据

本文介绍如何使用Python的requests库爬取IEA网站上的互动地图数据,避免手动摘取。通过解析网页找到JSON文件,实现自动化获取,节省时间和精力。之前的工作涉及到使用selenium爬取中国经济社会数据。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

点赞发Nature
关注中Science

IEA国际能源署有很多能源消费、碳强度等数据(IEA数据链接

遗憾的是,这些数据都是要收费的。免费的数据也可以获取,不过是5年间隔的。
IEA数据示例
但是,幸运的是,IEA在web端展示的是interactive map. 自己一个个从上面摘也行,就是费眼睛。所以我就写了一个小程序爬取获得了。

首先,ctrl+shift+I(如果你是chrome的话)进入inspection模式,
在这里插入图片描述
然后 ctrl+R刷新
在这里插入图片描述
找到这个json文件,然后右键copy link address


                
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值