解决Exceeded 30 redirects问题的3种方法

Exceeded 30 redirects

网上有许多解决的办法,但是本人试了很多种办法解决,但是都没成功(不是说他们的方法不行,只是不适合我),在这里我把我知道方法说一下

1.添加请求头
#requests带上自己浏览器信息的请求头,默认允许重定向
import requests
headers = {"User-Agent" : "User-Agent:Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"}
h=requests.get('https://baike.baidu.com',headers=headers)
print(h.request.headers)

不加请求头,requests无法保证与服务器之间的会话,每次连接服务器都被当作一条新请求直接让他跳转,不存在重定向环路的问题。
参考资料: requests关于Exceeded 30 redirects问题得出的结论.

2.禁止重定向
requestData = requests.get(url,headers=header,allow_redirects=False)  # allow_redirects禁止重定向

在这里不建议这么做,重定向的问题根本不在于页面跳转了,而是页面为什么会多次跳转。
参考资料: requests关于Exceeded 30 redirects问题得出的结论.

3.分析url

看一下你是否在使用自己组合的链接进行访问,这是一种零碎页面,此网页有重定向循环
https://www.thenewboston.com/forum/recent_activity.php?page= “ + str(page))
如果有的话加上allow_redirects=False,你需要自己确定要如何处理搜寻器中此类损坏的页面。
参考资料: Web Crawler - TooManyRedirects: Exceeded 30 redirects. (python).

  • 14
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值