初学使用Python编写网络爬虫-Day2（自留用）

本系列内容均参考于教程：网络爬虫是什么 (biancheng.net)

为自留用，用于在将来的学习中温故而知新

今日内容：什么是用户代理和重构爬虫UA信息

1.用户代理是什么

User-Agent 即用户代理，简称“UA”，它是一个特殊字符串头。网站服务器通过识别 “UA”来确定用户所使用的操作系统版本、CPU 类型、浏览器版本等信息。而网站服务器则通过判断 UA 来给客户端发送不同的页面。

我们知道，网络爬虫使用程序代码来访问网站，而非人类亲自点击访问，因此爬虫程序也被称为“网络机器人”。绝大多数网站都具备一定的反爬能力，禁止网爬虫大量地访问网站，以免给网站服务器带来压力。本节即将要讲解的 User-Agent 就是反爬策略的第一步。

网站通过识别请求头中 User-Agent 信息来判断是否是爬虫访问网站。如果是，网站首先对该 IP 进行预警，对其进行重点监控，当发现该 IP 超过规定时间内的访问次数， 将在一段时间内禁止其再次访问网站。
2.编写一个获取爬虫UA的程序

代码部分：

 输出部分：

 从输出结果可以看出，User-Agent 竟然是 Python-urllib/3.7，这显然是爬虫程序访问网站。因此就需要重构 User-Agent，将其伪装成“浏览器”访问网站。

注意：httpbin.org 这个网站能测试 HTTP 请求和响应的各种信息，比如 cookie、IP、headers 和登录验证等，且支持 GET、POST 等多种方法，对 Web 开发和测试很有帮助。

3.重构爬虫UA信息

代码部分：

（这里使用的UA是我的本机UA，但因为太长了所以无法显示完整） 

输出部分：

 上述代码重构了 User-Agent 字符串信息，将其伪装成了Windows火狐浏览器，这样就解决了网站通过识别 User-Agent 来封杀爬虫程序的问题。

附录：

1.常见UA汇总表

 2.在线UA检测网站：UserAgent查看/UA检测 - 在线工具 (buyaocha.com)