下面给大家分享python爬虫后获取重定向url的两种方法,具体内容如下所示;
方法(一)
# 获得重定向url
from urllib import request
# https://zhidao.baidu.com/question/681501874175782812.html
url = "https://www.baidu.com/link?url=iscbx0u8h9q4uq3ihts_pqnonwe7slvwad2dowqkrnqjedvthb3zrh9jqcmju3zqfrbw_dkvutntypdbmkzx_hwcqigfprvwgyxrxa-65jk&wd=&eqid=f7aeecba00092ed7000000065ec62596"
print(request.urlopen(url).geturl())
方法(二)
# 请求头,这里我设置了浏览器代理
headers = headers = {'user-agent': 'xx'}
# 这里chrome的user-agent获取方式:在浏览器地址栏输入 about://version 即可得到结果
url = "https://www.baidu.com/link?url=iscbx0u8h9q4uq3ihts_pqnonwe7slvwad2dowqkrnqjedvthb3zrh9jqcmju3zqfrbw_dkvutntypdbmkzx_hwcqigfprvwgyxrxa-65jk&wd=&eqid=f7aeecba00092ed7000000065ec62596"
# 请求网页
response = requests.get(url, headers=headers)
# print(response.status_code) # 打印响应的状态码
print(response.url) # 打印重定向后的网址
# 两个结果都是:https://zhidao.baidu.com/question/681501874175782812.html
到此这篇关于python爬虫后获取重定向url的两种方法的文章就介绍到这了,更多相关python爬虫获取url内容请搜索萬仟网以前的文章或继续浏览下面的相关文章希望大家以后多多支持萬仟网!
如您对本文有疑问或者有任何想说的,请点击进行留言回复,万千网友为您解惑!