2020-12-09

什么是爬虫？
请求网站并提取数据的自动化程序

爬虫的基本流程
1：向服务器发起请求

通过HTTP库向目标站点发起请求，即发送一个Request，请求可以包含额外的headers等信息，等待服务器的响应。

2：获取响应内容
如果服务器正常响应，会得到一个Response，Response的内容便是所要获取的页面内容，类型可能有HTML、JSON、二进制文件（如图片、视频等类型）。
3：解析内容
得到的内容可能是HTML，可以用正则表达式、网页解析库进行解析。可能是JSON，可以直接转成JOSN对象进行解析，可能是二进制数据，可以保存或者进一步处理
4：保存内容
保存形式多样，可以保存成文本，也可以保存至数据库，或者保存成特定格式的文件。

什么是Response和Request ？
这里写图片描述

Request中包含哪些内容？
1：请求方式
主要是GET、POST两种类型，另外还有HEAD、PUT、DELETE、OPTIONS等。
2：请求URL
URL全称是统一资源定位符，如一个网页文档、一张图片、一个视频等都可以用URL来唯一来确定
3：请求头
包含请求时的头部信息，如User-Agent、Host、Cookies等信息
4：请求体
请求时额外携带的数据，如表单提交时的表单数据