爬虫demo_十分钟带你从入门到进阶python爬虫

十分钟带你从入门到进阶python爬虫 0 1 一、基础入门 1.1 什么是爬虫

爬虫(spider，又网络爬虫)，是指向网站/网络发起请求，获取资源后分析并提取有用数据的程序。

从技术层面来说就是 通过程序模拟浏览器请求站点的行为，把站点返回的HTML代码/JSON数据/二进制数据(图片、视频) 爬到本地，进而提取自己需要的数据，存放起来使用。

1.2 爬虫基本流程

用户获取网络数据的方式：

方式1：浏览器提交请求--->下载网页代码--->解析成页面

方式2：模拟浏览器发送请求(获取网页代码)->提取有用的数据->存放于数据库或文件中

爬虫要做的就是方式2。

1发起请求

使用http库向目标站点发起请求，即发送一个Request

Request包含：请求头、请求体等  

Request模块缺陷：不能执行JS 和CSS 代码

2获取响应内容

如果服务器能正常响应，则会得到一个Response

Response包含：html，json，图片，视频等 

3解析内容

解析html数据：正则表达式(RE模块)、xpath(主要使用)、beautiful soup、css

解析json数据：json模块

解析二进制数据:以wb的方式写入文件 

4保存数据

数据库(MySQL，Mongdb、Redis)或 文件的形式。

1.3 http协议 请求与响应 http协议

Request：用户将自己的信息通过浏览器(socket client)发送给服务器(socket server)

Response：服务器接收请求，分析用户发来的请求信息，然后返回数据(返回的数据中可能包含其他链接，如：图片，js，css等)

ps：浏览器在接收Response后，会解析其内容来显示给用户，而爬虫程序在模拟浏览器发送请求然后接收Response后，是要提取其中的有用数据。

1.3.1  request

 (1) 请求方式

常见的请求方式：GET / POST