大家好,这里是滑稽研究所,干活了干活了。本期我需要爬取集思录网站的可转债等权指数里成交额的数据。
我们浏览整个网页之后发现曲线中的数据会以表格的形式出现在网页下方,如下。
对比数据之后发现表格数据与曲线数据相等。那我们直接爬取表格里的数据。通过检查网页源代码之后发现,可以直接知道数据,也就是说不需要抓取json数据了。
进一步观察数据发现,这些数据并不是像往常一样放在一个个规范的HTML标签中的,和在开发者模式中呈现的形式不同。
但爬取下来的网页是源代码的形式,因此判断使用xpath是无法正确的匹配到我们需要的数据的。因此这次选择采用正则表达式的方式来匹配数据。到这里思路整理完毕,剩下的就是对数据的筛选以及一些格式上的转换,我们都放在代码中处理。
源代码:
from bs4 import