关于初学爬虫的一个小助力
许多人在刚开始接触爬虫时,对于请求的头部,也就是User-Agent需要每次都去复制抓包中的或者搜索一个。其实python中有一个第三方标准库,可以省去不少事,有人知道,也有人不知道,简单的介绍一下用法。这个就是fake_useragent
from fake_useragent import UserAgent,FakeUserAgentError
ua = UserAgent()
headers = {"User-Agent": ua.random}
print(headers)
#输出如下:
"""
PS C:\Users\Administrator> & python c:/Users/Administrator/Desktop/demo2.py
{'User-Agent': 'Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/34.0.1866.237 Safari/537.36'}
"""
这样的第三方库是不是省去复制粘贴的麻烦了呢,这里只是简单的用法,其实还有,就可以去看官方文档了。