爬虫伪装请求头-fake-useragent

python机器学习建模

已于 2022-02-22 11:53:32 修改

阅读量1k

点赞数 2

分类专栏：爬虫文章标签：爬虫 chrome firefox

于 2022-02-22 11:53:30 首次发布

原文链接：https://zhuanlan.zhihu.com/p/27436023

版权

爬虫专栏收录该内容

12 篇文章 2 订阅

订阅专栏

本文介绍了如何利用fake-useragent库在Python爬虫中实现UserAgent的随机变换，以提高抓取的隐蔽性和灵活性。通过实例展示了如何安装库并生成不同浏览器的代理头，以及如何在实际请求中灵活应用。

摘要由CSDN通过智能技术生成

前几天意外找到一个简单实用的库- fake-useragent,可以伪装生成headers请求头中的User Agent值。
fake-useragent官网主页https://github.com/hellysmile/fake-useragent

安装

pip3 install fake-useragent

各浏览器的user-agent值

from fake_useragent import UserAgent
ua = UserAgent()
#ie浏览器的user agent
print(ua.ie)

Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US)

#opera浏览器
print(ua.opera)

Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11

#chrome浏览器
print(ua.chrome)

Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.2 (KHTML, like Gecko) Chrome/22.0.1216.0 Safari/537.2

#firefox浏览器
print(ua.firefox)

Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1

#safri浏览器
print(ua.safari)

Mozilla/5.0 (iPad; CPU OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5355d Safari/8536.25

最实用的

但我认为写爬虫最实用的是可以随意变换headers，一定要有随机性。在这里我写了三个随机生成user agent，三次打印都不一样，随机性很强，十分方便。

from fake_useragent import UserAgent
ua = UserAgent()
print(ua.random)
print(ua.random)
print(ua.random)

Mozilla/5.0 (X11; Ubuntu; Linux i686; rv:15.0) Gecko/20100101 Firefox/15.0.1
Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1
Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11

爬虫中具体使用方法

import requests
from fake_useragent import UserAgent
ua = UserAgent()
headers = {'User-Agent': ua.random}
url = '待爬网页的url'
resp = requests.get(url, headers=headers)
#省略具体爬虫的解析代码，大家可以回去试试
...

在这里插入图片描述