爬虫第一课

最新推荐文章于 2023-06-09 15:15:00 发布
最新推荐文章于 2023-06-09 15:15:00 发布
阅读量1k 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xujiaqi1998/article/details/102858784
版权

一、概要

课程背景

我们生活在一个充满数据的时代。

每天，来自商业、社会以及我们的日常生活所产生「图像、音频、视频、文本、定位信息」等各种各样的海量数据，注入到我们的万维网（WWW)、计算机和各种数据存储设备，其中万维网则是最大的信息载体。

数据的爆炸式增长、规模庞大和广泛可用的数据，使得我们真正进入到了“大数据（Big Data）时代”。我们急需功能强大的数据处理技术（Data Technology），从这些海量数据中发现有价值的信息。

网络爬虫（Web Crawler）技术，则成为了当下万维网数据（Web Data）收集中，最为高效灵活的解决方案。

什么是网络爬虫？

[百度百科：网络爬虫]
https://baike.baidu.com/item/%E7%BD%91%E7%BB%9C%E7%88%AC%E8%99%AB

获取数据方式主要有哪些？

  • 企业产生的数据：

    [百度搜索指数](http://index.baidu.com)
[腾讯公司业绩数据](https://www.tencent.com/zh-cn/company.html)
[阿里巴巴集团财务及运营数据](http://www.alibabagroup.com/cn/ir/financial)
[新浪微博微指数](http://data.weibo.com/index)等...
大型互联网公司拥有海量用户，有天然的数据积累优势，还有一些有数据意识的中小型企业，也开始积累自己的数据。

  • 数据平台购买数据：

    [数据堂](http://www.datatang.com/about/about-us.html)
[国云数据市场](http://www.moojnn.com/data-market/)
[贵阳大数据交易所](http://trade.gbdex.com/trade.web/index.jsp) 等...
在各个数据交易平台上购买各行各业各种类型的数据，根据数据信息、获取难易程度的不同，价格也会有所不同。

  • 政府/机构公开的数据：

    [中华人民共和国国家统计局数据](http://data.stats.gov.cn/index.htm)
[中国人民银行调查统计](http://www.pbc.gov.cn/diaochatongjisi/)
[世界银行公开数据](http://data.worldbank.org.cn)
[联合国数据](http://data.un.org)
[纳斯达克](http://www.nasdaq.com/zh)
[新浪财经美股实时行情(http://finance.sina.com.cn/stock/usstock/sector.shtml) 等...

通常都是各地征服统计上报，或者是行业内专业的网站、机构等提供。

  • 数据管理咨询公司：

    [麦肯锡](http://www.mckinsey.com.cn)、
[埃森哲](https://www.accenture.com/cn-zh/)、
[尼尔森](http://www.nielsen.com/cn/zh.html)、
[中国互联网络信息中心](http://www.cnnic.net.cn)、
[艾瑞咨询](http://www.iresearch.com.cn) 等...

通常这样的公司有很庞大的数据团队，一般通过市场调研、问卷调查、固定的样本检测、与各行各业的其他公司合作、专家对话来获取数据，并根据客户需求制定商业解决方案。

  • 爬虫爬取网络数据：

    如果数据市场上没有需要的数据，或者价格太高不愿意购买，那么可以利用爬虫技术，抓取网站上的数据

Python版本问题

课程中爬虫工具的使用将基于Python2最新版本（同时说明Python3的用法区别），原因：

  1. Python3是大势所趋，但是已经非常稳定的Python2还将会一直流行很多年；

  2. Python社区有很多成熟的模块和库目前还不支持 Python3，需要一些时间做移植工作；

  3. 在实际生产环境中，用 Python2 更多一些。根据Semaphore 2017年11月数据统计，目前仍有约65%的商业项目在使用Python2.7；

  4. 事实上从爬虫的角度来看，Python2/3的使用差异很小，主要是字符串编码的处理区别，我们会在课程中详细描述。

可选择的IDE和编辑器

工欲善其事，必先利其器：

  1. IDE：PyCharm、Spyder、Eclipse+PyDev、Visual Studio等
  2. 编辑器：Vim、Sublime Text、VSCode、Atom等

二、通用爬虫和聚焦爬虫

根据使用场景，网络爬虫可分为 通用爬虫 和 聚焦爬虫 两种.

通用爬虫

通用网络爬虫 就是 捜索引擎抓取系统，目的是将互联网上的所有的网页下载到本地，形成一个互联网内容的镜像备份。

它决定着整个搜索引擎内容的丰富性和时效性，因此它的性能优劣直接影响着搜索引擎的效果。

通用搜索引擎（Search Engine）工作原理

第一步：抓取网页

搜索引擎网络爬虫的基本工作流程如下：

  1. 首先选取一部分的初始URL，将这些URL放入 待抓取URL队列 ；

  2. 取出待抓取URL，解析DNS得到主机的IP，并将URL对应的网页下载下来，存储进已下载网页库中，并且将这些URL放进 已抓取URL队列 。

  3. 分析网页中包含的其他URL，并且将URL放入 待抓取URL队列，从而进入下一个循环…

    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-2j5MUwmJ-1572593709347)(assets/01-general-1559531491886.png)]

PS : 搜索引擎如何获取一个新网站的URL：
1. 新网站向搜索引擎主动提交网址：（如百度http://zhanzhang.baidu.com/linksubmit/url）
2. 在其他网站上设置新网站外链（尽可能处于搜索引擎爬虫爬取范围）
3. 搜索引擎和DNS解析服务商(如DNSPod等）合作，新网站域名将被迅速抓取。

网站的Robots协议

搜索引擎蜘蛛跟进URL抓取时，它需要遵从一些命令或文件的内容，如标注为nofollow的链接，或者是网站的Robots协议。

Robots协议（也叫爬虫协议、机器人协议等），全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取，例如：

淘宝网：https://www.taobao.com/robots.txt

腾讯网： http://www.qq.com/robots.txt

第二步：数据存储

搜索引擎爬虫爬取到的网页，将存入原始页面数据库，页面和用户浏览器得到的HTML是完全一样的。

搜索引擎爬虫在抓取页面时，也做一定的重复内容检测，一旦遇到访问权重很低的网站上有大量抄袭、采集或者复制的内容，很可能就不再爬行。

第三步：预处理

搜索引擎将爬虫抓取回来的页面，进行各种步骤的预处理。

  • 提取文字
  • 中文分词
  • 消除噪音（比如版权声明文字、导航条、广告等……）
  • 索引处理
  • 特殊文件处理
  • …

除了HTML文件外，搜索引擎通常还能抓取和索引以文字为基础的多种文件类型，如 PDF、Word、WPS、XLS、PPT、TXT 文件等。我们在搜索结果中也经常会看到这些文件类型。

但搜索引擎还不能处理图片、视频、Flash 这类非文字内容，也不能执行脚本和程序。

第四步：提供检索服务，网站排名

搜索引擎在对信息进行组织和处理后，为用户提供关键字检索服务，将用户检索相关的信息展示给用户。

同时会根据页面的PageRank值（链接的访问量排名）来进行网站排名，这样Rank值高的网站在搜索结果中会排名较前，当然也可以直接使用 Money 购买搜索引擎网站排名，简单粗暴。

完整流程图：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-XMR3FIND-1572593709348)(assets/01-engine.png)]

但是，这些通用性搜索引擎也存在着一定的局限性：

  1. 通用搜索引擎所返回的结果都是网页，而大多情况下，网页里90%的内容对用户来说都是无用的。
  2. 不同领域、不同背景的用户往往具有不同的检索目的和需求，搜索引擎无法提供针对具体某个用户的搜索结果。
  3. 万维网数据形式的丰富和网络技术的不断发展，图片、数据库、音频、视频多媒体等不同数据大量出现，通用搜索引擎对这些文件无能为力，不能很好地发现和获取。
  4. 通用搜索引擎大多提供基于关键字的检索，难以支持根据语义信息提出的查询，无法准确理解用户的具体需求。

针对这些情况，聚焦爬虫技术得以广泛使用。

聚焦爬虫

聚焦爬虫，是"面向特定主题需求"的一种网络爬虫程序，它与通用搜索引擎爬虫的区别在于： 聚焦爬虫在实施网页抓取时会对内容进行处理筛选，尽量保证只抓取与需求相关的网页信息。而我们今后要学习的网络爬虫，就是聚焦爬虫。

——————————————————————————————————————————————————

网络爬虫工作过程可以理解为模拟浏览器操作的过程，浏览器的主要功能是向服务器发出请求，在浏览器窗口中展示服务器返回的网络资源。

（一）浏览器处理网页的过程：

我们先来看一下浏览网页的基本过程，比如我们在浏览器地址栏输入：http://www.baidu.com，回车后会浏览器会显示百度的首页。

这段网络通信过程中到底发生了什么？简单来说这段过程发生了以下四个步骤：

  1. 当我们在浏览器输入URL http://www.baidu.com 的时候，浏览器先通过 DNS服务器 查找URL的域名对应的 IP地址。
  2. 浏览器会向向 IP地址 对应的 Web服务器 发送HTTP请求，去获取 http://www.baidu.com 的html文件，Web服务器响应请求，将html文件发送回给浏览器。
  3. 浏览器分析服务器返回的HTML文件，发现其中引用了很多其他文件，比如图片文件，CSS文件，JS文件。 浏览器会自动再次发送每个文件的HTTP请求，去获取这些文件。
  4. 当所有的文件都获取成功后，浏览器会根据HTML语法结构，将所有内容完整的显示出来。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-WViZSixQ-1572593709348)(assets/01-webdns.jpg)]

名词注解：

1. URL

URL（Uniform / Universal Resource Locator的缩写）：统一资源定位符，是用于完整地描述Internet上网页和其他资源的地址的一种标识方法。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-E25XjlgB-1572593709349)(assets/01-httpstruct.jpg)]

基本格式： scheme://host[:port]/path/[?query-string][#anchor]

  • scheme：协议(例如：http, https, ftp等)
  • host：服务器的域名 或 IP地址
  • port：服务器的端口（如果是走协议默认端口，HTTP缺省端口80）
  • path：访问资源的路径
  • query-string：查询字符串参数，发送给http服务器的数据
  • anchor：锚点（跳转到网页的指定锚点位置）

例如：

2. DNS

DNS 是计算机域名系统 (Domain Name System 或Domain Name Service) 的缩写，由解析器和域名服务器组成的。

解析器用来解析URL地址对应的域名，而域名服务器是指保存有该网络中所有主机的域名和对应IP地址，并具有将域名转换为IP地址功能的服务器。

一般一个域名的 DNS解析时间 在10~60毫秒之间。

一个域名必须对应一个IP地址，而一个IP地址不一定会有域名。

3. HTTP和HTTPS

HTTP协议（HyperText Transfer Protocol，超文本传输协议）：是一种发布和接收 HTML页面的方法。

HTTPS（Hypertext Transfer Protocol over Secure Socket Layer）简单讲是HTTP的安全版，在HTTP下加入SSL层。

SSL（Secure Sockets Layer 安全套接层）主要用于Web的安全传输协议，在传输层对网络连接进行加密，保障在Internet上数据传输的安全。

  • HTTP的端口号为80，
  • HTTPS的端口号为443

（二）HTTP的请求与响应

HTTP通信由两部分组成： 客户端请求消息 与 服务器响应消息

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-LRJecLLq-1572593709349)(assets/02_http_pro.jpg)]

客户端HTTP请求

URL只是标识资源的位置，而HTTP是用来提交和获取资源。客户端发送一个HTTP请求到服务器的请求消息，包括以下格式：

请求行`、`请求头部`、`空行`、`请求数据

四个部分组成，下图给出了请求报文的一般格式。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Q8CJmVmG-1572593709349)(assets/01_request-1559532502366.png)]

一个典型的HTTP请求示例
GET https://www.baidu.com/ HTTP/1.1
Host: www.baidu.com
Connection: keep-alive
Upgrade-Insecure-Requests: 1
User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8
Referer: http://www.baidu.com/
Accept-Encoding: gzip, deflate, sdch, br
Accept-Language: zh-CN,zh;q=0.8,en;q=0.6
Cookie: BAIDUID=04E4001F34EA74AD4601512DD3C41A7B:FG=1; BIDUPSID=04E4001F34EA74AD4601512DD3C41A7B; PSTM=1470329258; MCITY=-343%3A340%3A; H_PS_PSSID=1447_18240_21105_21386_21454_21409_21554; BD_UPN=12314753; sug=3; sugstore=0; ORIGIN=0; bdime=0; H_PS_645EC=7e2ad3QHl181NSPbFbd7PRUCE1LlufzxrcFmwYin0E6b%2BW8bbTMKHZbDP0g; BDSVRTM=0

请求方法

GET https://www.baidu.com/ HTTP/1.1

根据HTTP标准，HTTP请求可以使用多种请求方法。

HTTP 0.9：只有基本的文本 GET 功能。

HTTP 1.0：完善的请求/响应模型，并将协议补充完整，定义了三种请求方法： GET, POST 和 HEAD方法。

HTTP 1.1：在 1.0 基础上进行更新，新增了五种请求方法：OPTIONS, PUT, DELETE, TRACE 和 CONNECT 方法。

HTTP 2.0（未普及）：请求/响应首部的定义基本没有改变，只是所有首部键必须全部小写，而且请求行要独立为 :method、:scheme、:host、:path这些键值对。

序号方法描述
1GET请求指定的页面信息，并返回实体主体。
2POST向指定资源提交数据进行处理请求（例如提交表单或者上传文件），数据被包含在请求体中。POST请求可能会导致新的资源的建立和/或已有资源的修改。
3HEAD类似于get请求，只不过返回的响应中没有具体的内容，用于获取报头
4PUT从客户端向服务器传送的数据取代指定的文档的内容。
5DELETE请求服务器删除指定的页面。
6CONNECTHTTP/1.1协议中预留给能够将连接改为管道方式的代理服务器。
7OPTIONS允许客户端查看服务器的性能。
8TRACE回显服务器收到的请求，主要用于测试或诊断。

HTTP请求主要分为Get和Post两类：

  • GET是从服务器上获取指定页面信息，POST是向服务器提交数据并获取页面信息。
  • GET请求参数都显示在URL上，服务器根据该请求所包含URL中的QueryString参数来产生响应内容。 “Get” 请求的参数 是URL的一部分。
  • POST请求参数在请求体Formdata中，消息长度没有限制而且以隐式的方式进行发送，通常用来向HTTP服务器提交量比较大的数据（比如请求中包含许多参数或者文件上传操作等）。 "POST"请求的参数 不在URL中，而在请求体中。

（三）常用的请求报头

1. Host (主机和端口号)

Host：对应网址URL中的Web名称和端口号，用于指定被请求资源的Internet主机和端口号，通常属于URL的Host部分。

2. Connection (连接类型)

Connection：表示客户端与服务连接类型，通常情况下：

  1. Client 发起一个包含 Connection:keep-alive 的请求（HTTP/1.1使用 keep-alive 为默认值）
  2. Server收到请求后：
    • 如果 Server 支持 keep-alive，回复一个包含 Connection:keep-alive 的响应，不关闭连接；
    • 如果 Server 不支持 keep-alive，回复一个包含 Connection:close 的响应，关闭连接。
  3. 如果client收到包含 Connection:keep-alive 的响应，向同一个连接发送下一个请求，直到一方主动关闭连接。

Connection : keep-alive 在很多情况下能够重用连接，减少资源消耗，缩短响应时间。比如当浏览器需要多个文件时(比如一个HTML文件和多个Image文件)，不需要每次都去请求建立连接。

3. Upgrade-Insecure-Requests (升级为HTTPS请求)

Upgrade-Insecure-Requests：升级不安全的请求，意思是会在加载 http 资源时自动替换成 https 请求，让浏览器不再显示https页面中的http请求警报。

HTTPS 是以安全为目标的 HTTP 通道，所以在 HTTPS 承载的页面上不允许出现 HTTP 请求，一旦出现就是提示或报错。

4. User-Agent (浏览器名称)

User-Agent：标识客户端身份的名称，通常页面会根据不同的User-Agent信息自动做出适配，甚至返回不同的响应内容。

5. Accept (传输文件类型)

Accept：指浏览器或其他客户端可以接受的MIME（Multipurpose Internet Mail Extensions（多用途互联网邮件扩展））文件类型，服务器可以根据它判断并返回适当的文件格式。

举例：

Accept: */*：表示什么都可以接收。

Accept：image/gif：表明客户端希望接受GIF图像格式的资源；

Accept：text/html：表明客户端希望接受html文本。

Accept: text/html, application/xhtml+xml;q=0.9, image/*;q=0.8：表示浏览器支持的 MIME 类型分别是 html文本、xhtml和xml文档、所有的图像格式资源。

q是权重系数，范围 0 =< q <= 1，q 值越大，请求越倾向于获得其“;”之前的类型表示的内容。若没有指定q值，则默认为1，按从左到右排序顺序；若被赋值为0，则用于表示浏览器不接受此内容类型。

Text：用于标准化地表示的文本信息，文本消息可以是多种字符集和或者多种格式的；Application用于传输应用程序数据或者二进制数据。详细请点击

6. Referer (页面跳转来源)

Referer：表明产生请求的网页来自于哪个URL，用户是从该 Referer页面访问到当前请求的页面。这个属性可以用来跟踪Web请求来自哪个页面，是从什么网站来的等。

防盗链：有时候遇到下载某网站图片，需要对应的referer，否则无法下载图片，那是因为人家做了防盗链，原理就是根据referer去判断是否是本网站的地址，如果不是，则拒绝，如果是，就可以下载。

7. Accept-Encoding（文件编解码格式）

Accept-Encoding：指出浏览器可以接受的编码方式。编码方式不同于文件格式，它是为了压缩文件并加速文件传递速度。浏览器在接收到Web响应之后先解码，然后再检查文件格式，许多情形下这可以减少大量的下载时间。

*举例：Accept-Encoding:gzip;q=1.0, identity; q=0.5, ;q=0

如果有多个Encoding同时匹配, 按照q值顺序排列，本例中按顺序支持 gzip, identity压缩编码，支持gzip的浏览器会返回经过gzip编码的HTML页面。

如果请求消息中没有设置这个报头，通常服务器假定客户端不支持压缩，直接返回文本。

8. Accept-Language（语言种类）

Accept-Langeuage：指出浏览器可以接受的语言种类，如en或en-us指英语，zh或者zh-cn指中文，当服务器能够提供一种以上的语言版本时要用到。

如果目标网站支持多个语种的话，可以使用这个信息来决定返回什么语言的网页。

9. Accept-Charset（字符编码）

Accept-Charset：指出浏览器可以接受的字符编码。

举例：Accept-Charset:iso-8859-1,gb2312,utf-8

  • ISO8859-1：通常叫做Latin-1。Latin-1包括了书写所有西方欧洲语言不可缺少的附加字符，英文浏览器的默认值是ISO-8859-1.
  • gb2312：标准简体中文字符集;
  • utf-8：UNICODE 的一种变长字符编码，可以解决多种语言文本显示问题，从而实现应用国际化和本地化。

如果在请求消息中没有设置这个域，默认客户端是任何字符集都可以接受，则返回网页charset指定的编码。

10. Cookie （Cookie）

Cookie：浏览器用这个属性向服务器发送Cookie。Cookie是在浏览器中寄存的小型数据体，它可以记载和服务器相关的用户信息，也可以用来实现模拟登陆，之后会详细讲。

11. Content-Type (POST数据类型)

Content-Type：POST请求里用来表示的内容类型。

举例：Content-Type = Text/XML; charset=gb2312：

指明该请求的消息体中包含的是纯文本的XML类型的数据，字符编码采用“gb2312”。

（四）服务端HTTP响应

HTTP响应也由四个部分组成，分别是： 状态行、消息报头、空行、响应正文

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-R9laHYeV-1572593709350)(assets/01_response.jpg)]

HTTP/1.1 200 OK
Server: Tengine
Connection: keep-alive
Date: Wed, 30 Nov 2016 07:58:21 GMT
Cache-Control: no-cache
Content-Type: text/html;charset=UTF-8
Keep-Alive: timeout=20
Vary: Accept-Encoding
Pragma: no-cache
X-NWS-LOG-UUID: bd27210a-24e5-4740-8f6c-25dbafa9c395
Content-Length: 180945

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" ....

常用的响应报头(了解)

理论上所有的响应头信息都应该是回应请求头的。但是服务端为了效率，安全，还有其他方面的考虑，会添加相对应的响应头信息，从上图可以看到：

1. Cache-Control：must-revalidate, no-cache, private。

这个值告诉客户端，服务端不希望客户端缓存资源，在下次请求资源时，必须要从新请求服务器，不能从缓存副本中获取资源。

  • Cache-Control是响应头中很重要的信息，当客户端请求头中包含Cache-Control:max-age=0请求，明确表示不会缓存服务器资源时,Cache-Control作为作为回应信息，通常会返回no-cache，意思就是说，“那就不缓存呗”。
  • 当客户端在请求头中没有包含Cache-Control时，服务端往往会定,不同的资源不同的缓存策略，比如说oschina在缓存图片资源的策略就是Cache-Control：max-age=86400,这个意思是，从当前时间开始，在86400秒的时间内，客户端可以直接从缓存副本中读取资源，而不需要向服务器请求。

2. Connection：keep-alive

这个字段作为回应客户端的Connection：keep-alive，告诉客户端服务器的tcp连接也是一个长连接，客户端可以继续使用这个tcp连接发送http请求。

3. Content-Encoding:gzip

告诉客户端，服务端发送的资源是采用gzip编码的，客户端看到这个信息后，应该采用gzip对资源进行解码。

4. Content-Type：text/html;charset=UTF-8

告诉客户端，资源文件的类型，还有字符编码，客户端通过utf-8对资源进行解码，然后对资源进行html解析。通常我们会看到有些网站是乱码的，往往就是服务器端没有返回正确的编码。

5. Date：Sun, 21 Sep 2016 06:18:21 GMT

这个是服务端发送资源时的服务器时间，GMT是格林尼治所在地的标准时间。http协议中发送的时间都是GMT的，这主要是解决在互联网上，不同时区在相互请求资源的时候，时间混乱问题。

6. Expires:Sun, 1 Jan 2000 01:00:00 GMT

这个响应头也是跟缓存有关的，告诉客户端在这个时间前，可以直接访问缓存副本，很显然这个值会存在问题，因为客户端和服务器的时间不一定会都是相同的，如果时间不同就会导致问题。所以这个响应头是没有Cache-Control：max-age=*这个响应头准确的，因为max-age=date中的date是个相对时间，不仅更好理解，也更准确。

7. Pragma:no-cache

这个含义与Cache-Control等同。

8.Server：Tengine/1.4.6

这个是服务器和相对应的版本，只是告诉客户端服务器的信息。

9. Transfer-Encoding：chunked

这个响应头告诉客户端，服务器发送的资源的方式是分块发送的。一般分块发送的资源都是服务器动态生成的，在发送时还不知道发送资源的大小，所以采用分块发送，每一块都是独立的，独立的块都能标示自己的长度，最后一块是0长度的，当客户端读到这个0长度的块时，就可以确定资源已经传输完了。

10. Vary: Accept-Encoding

告诉缓存服务器，缓存压缩文件和非压缩文件两个版本，现在这个字段用处并不大，因为现在的浏览器都是支持压缩的。

（五）响应状态码

响应状态代码有三位数字组成，第一个数字定义了响应的类别，且有五种可能取值（后面会详细列出）。

常见状态码：

  • 100~199：表示服务器成功接收部分请求，要求客户端继续提交其余请求才能完成整个处理过程。
  • 200~299：表示服务器成功接收请求并已完成整个处理过程。常用200（OK 请求成功）。
  • 300~399：为完成请求，客户需进一步细化请求。例如：请求的资源已经移动一个新地址、常用302（所请求的页面已经临时转移至新的url）、307和304（使用缓存资源）。
  • 400~499：客户端的请求有错误，常用404（服务器无法找到被请求的页面）、403（服务器拒绝访问，权限不够）。
    分块发送，每一块都是独立的，独立的块都能标示自己的长度，最后一块是0长度的，当客户端读到这个0长度的块时，就可以确定资源已经传输完了。

10. Vary: Accept-Encoding

告诉缓存服务器，缓存压缩文件和非压缩文件两个版本，现在这个字段用处并不大，因为现在的浏览器都是支持压缩的。

（五）响应状态码

响应状态代码有三位数字组成，第一个数字定义了响应的类别，且有五种可能取值（后面会详细列出）。

常见状态码：

  • 100~199：表示服务器成功接收部分请求，要求客户端继续提交其余请求才能完成整个处理过程。
  • 200~299：表示服务器成功接收请求并已完成整个处理过程。常用200（OK 请求成功）。
  • 300~399：为完成请求，客户需进一步细化请求。例如：请求的资源已经移动一个新地址、常用302（所请求的页面已经临时转移至新的url）、307和304（使用缓存资源）。
  • 400~499：客户端的请求有错误，常用404（服务器无法找到被请求的页面）、403（服务器拒绝访问，权限不够）。
  • 500~599：服务器端出现错误，常用500（请求未完成。服务器遇到不可预知的情况）。
徐加七
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
网络编程基础二：深入理解HTTP与HTTPS
Mr_lisj的博客
04-01 630
前言 在面试过程中，HTTP 被提问的概率还是比较高的。我搜集了 5 大类 HTTP 面试常问的题目，同时这 5 大类题跟 HTTP 的发展和演变关联性是比较大的。 URL（Uniform / Universal Resource Locator的缩写）：统一资源定位符，是用于完整地描述Internet上网页和其他资源的地址的一种标识方法。 URL 基本格式：scheme://h...
第一个爬虫
Albert_ycl的博客
05-13 283
Admin Name : adminCluster Name : HDP_YclTotal Hosts : 2 (2 new)Repositories:    redhat6 (HDP-2.5):    http://192.168.90.121/HDP/    redhat6 (HDP-UTILS-1.1.0.21):    http://192.168.90.121/HDP-UTILS-1.1...
20行python代码入门网络爬虫全流程：使用BeautifulSoup抓取当日人民银行外汇数据
weixin_41855010的博客
02-25 1998
网路爬虫是python最重要的应用之一，甚至有很多地方认为python就是用来做网抓的。这里将用大约20行代码展示一个从人民银行官网抓取当日人民币美元汇率的示例来入门这项技术。 和我们平时手动上网寻找信息一样，使用python爬虫主要由以下几个步骤。 一、打开网页。 我们需要使用python自带的urlopen的方法得到网页的反馈信息对象response，然后通过response对象的read方法...
如何使用PQ获取央行某日的外币牌价
weixin_38775843的博客
11-23 280
使用PQ获取某日的外汇牌价，每次精准只取一日的数据，并包装为一个函数
python网络爬虫（第三章 网页请求原理）
qq_38633279的博客
07-25 593
1.浏览网页过程 域名系统(Domain Name System,DNS) 步骤1.浏览器通过DNS服务器查找域名对应的IP地址。 步骤2.向IP地址对应的Web服务器发送请求。 步骤3.Web服务器响应请求，发回HTML页面。 步骤4.浏览器解析HTML内容，并显示出来。 2.统一资源定位符 统一资源定位符（Uniform Resource Locator，URL）是互联网上标准资源的地址。URL包括：协议头、服务器地址和文件路径 2.1协议头 协议头（Protocol Head）指：指定使用的传输协
Python实战 | 只需“4步”入门网络爬虫（小白也会）
最新发布
xiangxue888的博客
06-09 869
Python实战 | 只需“4步”入门网络爬虫（小白也会）
Python爬虫第一课.md
04-15
Python爬虫第一课.md
Python爬虫第一课，选取标签内容
12-22
在这个例子中，我们用`.body.h1`选取页面的主标题，即`<body>`标签内的第一个`<h1>`标签。如果找不到合适的`<h1>`标签，`AttributeError`会被捕获，并返回`None`。 获取更复杂的标签内容，可以使用`BeautifulSoup`...
python爬虫第一课-python基础.docx
12-16
python爬虫第一课-python基础.docx
python爬虫项目班 第一课.mp4
02-28
python爬虫项目班 第一课.mp4
python入门第一课视频
07-17
"Python入门第一课视频"显然是一系列旨在帮助新手了解和安装Python环境的教学资源。 在学习Python之前，首先需要安装Python解释器。Python有两种主要版本：Python 2和Python 3。尽管Python 2仍然有一些用户，但...
互联网金融爬虫怎么写－第一课 p2p网贷爬虫（XPath入门）
05-21
系列教程《互联网金融爬虫怎么写》第一课，详细讲解了如何开发爬虫爬取一些有名的电商网站数据。对于学习爬虫的开发者有很大帮助，内含大量可直接运行的源码。 第五课主要以爬取p2p网贷的理财产品信息为例。
手把手教你写电商爬虫-第一课 找个软柿子捏捏
05-13
系列教程《手把手教你写电商爬虫》第一课，详细讲解了如何开发爬虫爬取一些有名的电商网站数据。对于学习爬虫的开发者有很大帮助，内含大量可直接运行的源码。
VUE POST请求 参数出现在URL上
偷得浮生半日闲
08-11 1608
后端发送POST请求 参数在URL上
关于爬虫技术的探讨
mobing678的博客
03-13 4325
写这篇文章，主要用于交流目的，将自己最近学到的技术进行一个大致的总结。仅此而已，欢迎评论交流。 好久没有写博客啦，先立个flag，每周至少三篇，再忙也要继续写下去，本人写博客纯粹是喜欢python，仅此而已。 好啦，废话就这么多，接下来是正文。 本人其实留意爬虫很多时候啦，写的爬虫脚本也是有点数量，至于质量和代码的可阅读性可能需要下功夫改进，鉴于本人自学原因，所以代码追求的更多的是可行性，并没有严格的进行代码的函数包装以及类的使用。 说到爬虫，我看过崔才庆的相关书籍，确实真的不错，书中谈论很多实现数
一些SQL点
weixin_40687147的博客
10-14 710
1、union 与union all的区别 union 会自动压缩多个结果集合中的重复结果，即删除重复记录；而union all则将所有的结果全部显示出来。Union因为要进行重复值扫描，所以效率低。如果合并没有刻意要删除重复行，那么就使用Union All 两个要联合的SQL语句 字段个数必须一样，而且字段类型要“相容”（一致）； Union：对两个结果集进行并集操作，不包括重复行，同时进行默认规则的排序； Union All：对两个结果集进行并集操作，包括重复行，不进行排序；
网络爬虫技术交流——爬虫第一课
吃苦胆的野狼
03-26 2579
爬虫的基本概念 •按照一定的规则，自动地抓取万维网信息的程序或者脚本 常见的爬虫分类 •通用网络爬虫 •爬取对象从一些种子URL 扩充到整个Web，主要为门户站点搜索引擎和大型Web 服务提供商采集数据) •聚焦网络爬虫 •又称主题网络爬虫（TopicalCrawler），是指选择性地爬取那些与预先定义好的主题相关页面的网络信息 •增量式网
网络爬虫入门：概念、技术概述与法律法规解析
第一讲：认识爬虫和Python爬虫的技术概况，由谭翔纬老师主讲，深入浅出地介绍了网络爬虫的基本概念和发展现状。课程首先明确了什么是网络爬虫，它是一种通过编程实现的自动化工具，旨在从互联网上抓取网页信息并提取...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值