Python 爬虫 概念基础

1.什么爬虫 ：

通过编写的程序，模拟浏览器，然后通过互联网抓取数据分过程

爬虫在使用中的分类：

- 通用爬虫：

  抓取系统的重要主城部分，抓取的是整张页面的数据。

 - 聚焦爬虫：

建立在通用爬虫的基础上，抓取的是页面中特定的内容。

- 增量式爬虫：

检测网站中数据更新的情况，只会抓取网站中最新更新的数据。

反爬机制：

各个网站，通过制定相应的策略或技术手段，限制爬虫程序对网站数据的爬取。

反反爬策略：

爬虫程序可以通过制定相关的策略或者技术手段，破解门户网站中具备的反爬机制,破解门户网站中具备的反爬机制，从而可以获取门户网站中相关的数据。

robots.txt协议:

robots.txt协议:
君子协议。规定了网站中哪些数据可以被爬虫爬取哪些数据不可以被爬取。

http协议：

一概念:就是服务器和客户端进行数据交互的一种形式。

常用请求头信息

  -User-Agent:请求载体的身份标识

- Connection:请求完毕后，是断开连接还是保持连接

常用响应头信息

- Content-Type:服务器响应回客户端的数据类型

https协议:

一 安全的超文本传输协议

加密方式

一对称秘钥加密

一非对称秘钥加密

-证书秘钥加密