学习Python的人绝大部分都是在用Python做爬虫,毕竟对于爬虫而言Python是不二选。
但是一般简单的静态页面网站还是很好爬取的,对于很多动态加载的网站就不知道怎么办了,今天小编就给大家介绍两种爬取js加载的动态数据,希望对爬虫方面有所帮助!
今天咱们就以高考查询网站为例!
如何知道这个网站是动态加载的数据?
用浏览器,这里小编建议使用火狐或者谷歌这个想必大家都知道的
打开你网页,右键查看页面源代码,ctrl +F 查询输入293,源代码里面并没有这个值,说明是动态加载数据。
它的网址是: 数字代表的第几页。它一共是165页
所以想要获取全部的url地址就非常简单了
对于动态加载数据,我们常用的两个方法:使用selenium
分析网页元素,找出该数据的原始网页,提交表单,获取不同的数据,用来达到爬取的目的。
方法一selenium:
为什么要这么写,代码里面表明了注释!
小结:通过对数据的分析,写出上面的查找方法,即可获取所有数据。
通过这种方法获取数据,简单,也比较直观,缺点是太慢了。
方法二分