目录
前言
emmmmmm, 大家好我叫善念。基本是每天更新一篇Python爬虫实战的文章,不过反响好像也不怎么好,都是几百阅读吧,我自认为我每篇文章都讲解的非常仔细,大家感兴趣可以去考评一下:
【Python】纯干货,5000字的博文教你采集整站小说(附源码)
【Python】绕过X音_signature签名,完美采集整站视频、个人视频
好与坏都能接受,精进是咱一直在做的事情
开始
搜下Python相关的工作
好了,这个页面就是咱们想要采集的一些数据。
分析(x0)
这次直接点,查看网页源代码,搜一下我们需要采集的内容,看下源代码中是否有咱们需要的数据:
显示的结果为0,也就是说数据不在咱们的网页源代码中。
但是它是在咱们的element网页元素中的,这就是我反复强调的:网页源代码才是服务器传给浏览器的原始数据,而网页元素是网页源代码通过浏览器渲染后的数据(可能浏览器会执行某些源代码中的JavaScript脚本而实现的效果)
分析(x1)
既然网页源代码中没有,元素中有,那么我们可以用selenium去进行一个数据采集,因为selenium采集的数据就是元素中的数据,但是缺点就是采集的速度慢。
不想速度慢,就继续去分析,咱们抓一下包看看是不是浏览器执行了网页源码中的JavaScript脚本从而调用了某个接口api生成了咱们需要的数据。刷新当前页面抓包:
嘿嘿,可以看到出现了禁止调试阿,开发人员写了个JavaScript语句防止咱们调