直接学习:https://edu.csdn.net/course/play/24756/284642
动态网页爬虫:
#什么是动态网页爬虫和AJAX技术:
1、动态网页是指网页在不重新加载的情况下,通过AJAX技术动态更新网站的局部数据。比如拉钩网的职位页面,在换页的过程中,url是没有发生改变的,但是职位数据动态的改变了。
2、AJAX(Asynchronouse JavaScript And XML)异步JavaScript 和 XML。前端与服务器进行少量数据交换,AJAX可以使网页实现异步更新。这意味着在不重新加载整个页面的情况下,对网页的某部分进行更新。其实现在数据交互基本上都是使用JSON。
#动态网页爬虫的解决方案:
1、直接分析AJAX调用的接口,然后通过代码请求这个接口。
2、使用selenium+chromedriver模拟浏览器行为获取数据。