2024年Python最新Python 爬虫：Header 的设置_爬虫headers怎么写，Python经典面试题详解

最后

Python崛起并且风靡，因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低，但它的晋级路线很多，通过它你能进入机器学习、数据挖掘、大数据，CS等更加高级的领域。Python可以做网络应用，可以做科学计算，数据分析，可以做网络爬虫，可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多，你需要学好基础，再选择明确的方向。这里给大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

👉Python所有方向的学习路线👈

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

👉Python必备开发工具👈

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

👉Python全套学习视频👈

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

👉实战案例👈

学python就与学数学一样，是不能只看书不做题的，直接看步骤和答案会让人误以为自己全都掌握了，但是碰到生题的时候还是会一筹莫展。

因此在学习python的过程中一定要记得多动手写代码，教程只需要看一两遍即可。

👉大厂面试真题👈

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

User-Agent: 用户代理（英语：User Agent）指的是代表用户行为的软件代理程序所提供的对自己的一个标识符。用于标识浏览器类型及版本、操作系统及版本、浏览器内核、等信息的标识。详情见维基百科词条：[User agent]

如上图所示，如果我们直接用 request 包，上来就调用 get 或者 post 方法就是干，对方的服务器会根据我们发送的**““User-Agent”: “python-requests/2.25.1””**了解到，你是用 python 调用的 request 包来访问他们的服务器的。

由于这种行为仅仅是消耗服务器资源带来成本，但是不会给对方带来任何好处（搜索引擎的爬虫除外），所以有一些网站会加入反爬机制，通过识别 headers 来拒绝对你的请求进行响应。

因此，我们需要在发送的请求中加入自定义的 headers，将我们的请求伪装成利用浏览器进行的请求。

那么，浏览器在访问网站时的 headers 是什么样的呢？我们以 IE 浏览器为例，用 IE浏览器打开 [https://httpbin.org/headers]网站，将会收到网站返回的下面 json 文件，这就是 IE浏览器的 headers。

将上面的请求头复制下来，传给 requests.get() 函数，即可将请求伪装成浏览器。

requests.get() 的语法是：requests.get(url,kwargs)。

其中，url 是我们想要访问的链接，kwargs 是可选参数，包括params、data、json、headers、cookies、auth、files、timeout、proxies、stream、verify、cert等。常用的参数有data、headers。

import requests

url = 'https://httpbin.org/headers'

headers= {
    "Accept": "image/gif, image/jpeg, image/pjpeg, application/x-ms-application, application/xaml+xml, application/x-ms-xbap, \*/\*", 
    "Accept-Encoding": "gzip, deflate", 
    "Accept-Language": "zh-Hans-CN,zh-Hans;q=0.8,en-US;q=0.5,en;q=0.3", 
    "Host": "httpbin.org", 
    "User-Agent": "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 10.0; WOW64; Trident/7.0; .NET4.0C; .NET4.0E; Tablet PC 2.0; wbx 1.0.0; wbxapp 1.0.0; Zoom 3.6.0)", 
    "X-Amzn-Trace-Id": "Root=1-628b672d-4d6de7f34d15a77960784504"}

response = requests.get(url,headers=headers)


if response.status_code == 200:
    print(response.text) 

返回的结果变成：

上图所示，虽然我们用 Python 发送的 get 请求，但是对方服务器已经认为我们是用浏览器进行访问，这一点依旧是通过上图中的 User-Agent 这个参数进行判断。

此外，我们在应用爬虫的时候，可以随机更换其他 User-Agent 避免触发反爬。

二、查看浏览器 headers 的常用方法

上面说到的查看 headers 的方法不很常用，仅仅是用于教学作用。下面介绍两种更加常用的方法。

方法一：这种方法最为常用

在Chrome浏览器的网页上：右键 ——> 检查 ——> Network ——> Doc ——> 在 Name 里找到对应的请求文件 ——> 在右边选择 Headers 标签页，找到“Request Headers”，就可以看到我们发送给服务器的 headers。

同理，服务器在发给我们信息的时候，也会发送 Headers。我们同样在上面的选择路径，可以看到“Response Headers”。

例如上图中，我们可以查看到服务器响应返回的头信息知道响应结果的编码是utf-8，有的还可以看到服务器所用是apache或是其他web服务器。

方法二：这种方法最方便，我最喜欢

当我们需要的 headers 不止 user-agent，甚至还需要 cookies 的时候，需要手动生成的东西就比较多了。那么，有没有快速一键生成 Python 爬虫请求头的方法呢？答案是借助[https://curlconverter.com/]这个网站。具体过程如下：

1，在Chrome浏览器的网页上：右键 ——> 检查 ——> Network ——> Doc ——> 在 Name 里找到对应的请求文件

2，右键该文件，copy ——> copy as cURL (bash)，注意不是【copy as cURL (cmd)】

3，打开网站，[https://curl.trillworks.com/]，粘贴 cURL (bash) 到左边 curl command，右边会自动出 Python 代码

方法三：对于 Chrome 浏览器

也可以在地址栏输入

about:version

此时我们会看到自己的 user agent。

headers中有很多内容，主要常用的就是user-agent 和 host，他们是以键对的形式展现出来，如果user-agent 以字典键对形式作为headers的内容，就可以反爬成功，就不需要其他键对；否则，需要加入headers下的更多键对形式。

三、Headers 的解读

（一）User-Agent 的格式解读

User-Agent通常格式：

第一部分：Mozilla/5.0
历史原因，User-Agent里默认带有Mozilla字样。

第二部分：平台信息
Windows NT 6.1是指我使用的操作系统的版本，win7对应的就是Windows NT 6.1。
Win64; x64是指操作系统是64位的

Windows系统下：

Windows NT 5.0 //  Windows 2000 
Windows NT 5.1 //  Windows XP
Windows NT 6.0 //  Windows Vista 
Windows NT 6.1 //  Windows 7
Windows NT 6.2 //  Windows 8
Windows NT 6.3 //  Windows 8.1
Windows NT 10.0 //  Windows 10
Win64; x64 // Win64 on x64
WOW64 // Win32 on x64

一、Python所有方向的学习路线

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。

二、Python必备开发工具

工具都帮大家整理好了，安装就可直接上手！

三、最新Python学习笔记

当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。

四、Python视频合集

观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

五、实战案例

纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试宝典

简历模板

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！