学习笔记(02):Python爬虫开发-爬虫初始深入

立即学习:https://edu.csdn.net/course/play/24454/296785?utm_source=blogtoedu

爬虫的分类:

--通用爬虫：

  抓取系统的重要组成部分.抓取的是一整页页面的数据.

--聚焦爬虫

  是建立在通用爬虫基础之上的。抓取的是页面中特定的局部内容。

--增量式爬虫

   监测网站中数据更新的情况.

 

----爬虫的矛与盾

反爬机制：门户网站，可以通过制定相应的策略或者技术手段，防止爬虫程序进行网站数据的爬取.

 

反反爬策略：爬虫程序可以通过制定相关的策略或者技术手段，破解门户网站中具备的反爬机制，从而可以获得门户网站的数据.

robots.txt协议：君子协议.规定了网站中哪些数据可以被爬虫爬取，哪些不可以.