Python 爬虫：requests 和 selenium 伪装 headers 和代理应对反爬机制

最新推荐文章于 2024-05-05 10:01:23 发布

XnCSD

最新推荐文章于 2024-05-05 10:01:23 发布

阅读量2.1w

点赞数 14

分类专栏： python 爬虫文章标签： python 爬虫代理

本文链接：https://blog.csdn.net/XnCSD/article/details/88615791

版权

本文介绍了Python爬虫如何通过requests和selenium伪装headers及使用代理来应对网站反爬机制。包括requests设置浏览器User-Agent，selenium模拟浏览器访问并设置headers，以及requests和selenium结合代理IP进行请求的方法。

摘要由CSDN通过智能技术生成

Python 爬虫：requests 和 selenium 伪装 headers 和代理应对反爬机制

在编写爬虫的过程中，有些网站会设置反爬机制，对于非浏览器的访问拒绝响应；或短时间频繁爬取会触发网站的反爬机制，导致 ip 被封无法爬取网页。这就需要在爬虫程序中修改请求的 headers 伪装浏览器访问，或者使用代理发起请求。从而绕开网站的反爬机制获取正确的页面。

本文使用 python3.6，常用的请求库 requests 以及自动化测试库 selenium 使用浏览器。
关于这两个库的使用请参考官方文档或本人另一篇博客: python 爬虫获取网页 html 内容以及下载附件的方法。

1、requests 伪装 headers 发送请求

requests 发送的请求所带的请求头中 User-Agent 会标识为 python 程序发送的请求，如下所示：

import requests

url = 'https://httpbin.org/headers'

response = requests.get(url)

if response.status_code == 200:
    print(response.text)

返回结果：

{
  "headers": {
    "Accept": "*/*", 
    "Accept-Encoding": "gzip, deflate", 
    "Host": "httpbin.org", 
    "User-Agent": "python-requests/2.20.1"
  }
}

注：https://httpbin.org 是一个开源的，用于测试网页请求的网站，比如上面的/headers的链接，将会返回所发送请求的请求头。详情请参考其官网。

User-Agent: 用户代理（英语：User Agent）指的是代表用户行为的软件代理程序所提供的对自己的一个标识符。用于标识浏览器类型及版本、操作系统及版本、浏览器内核、等信息的标识。详情见维基百科词条：User agent

对于有反爬的网站会识别其 headers 从而拒绝返回正确的网页。此时需要对发送的请求伪装成浏览器的 headers。

用浏览器打开 https://httpbin.org/headers 网站，将会看的下面的页面，这就是该浏览器的 headers。

将上面的请求头复制下来，传给 requests.get() 函数，即可将请求伪装成浏览器。

import requests

url = 'https://httpbin.org/headers'

myheaders = {
   
    "Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8",
    "Accept-Encoding": "br, gzip, deflate",
    "Accept-Language": "zh-cn",
    "Host": "httpbin.org",