Python Flask定时调度疫情大数据爬取全栈项目实战-3.爬虫概述

爬虫概述

给网站发起请求，并从响应中提取需要的数据的自动化程序

1.发起请求，获取响应

通过http库，对目标网站请求，相当于自己用浏览器打开网站。

常用库：urllib，requests

服务器会返回请求的内容，一般为：html，二进制文件（视频，音频），文档，json字符串

2.解析内容

寻找自己需要的信息，就是利用正则表达式或者其他python库提取自己想要的内容。

常用库：re、beautifulsoup4

3.保存数据

将解析得到的数据持久化到文件或者数据库中