爬虫 解决302 问题

一: 问题描述:

  爬虫微博 信息,出现302跳转,

  比如访问的URL是:https://weibo.com/2113535642?refer_flag=1001030103_   (图片中标记为1)

  然后跳转的URL是:https://weibo.com/sgccjsdl?refer_flag=1001030103_&is_hot=1  (图片中标记为2)

    截图如下所示:

      

   访问 图中标记1 的URL的时候,没有返回任何内容,但是response headers 返回了  图中标记2 的URL。如下图所示:

下面是具体实现的代码过程:

       result1 = session.get(url=str(user_url),headers=headers,verify=False,allow_redirects=False)
            result = result1.content
            new_requests_url = result1.headers['location']
            new_requests_url = "https://weibo.com" + new_requests_url

            if '<h1 class="username">' not in result:
                result = session.get(url=str(new_requests_url), headers=headers, verify=False, allow_redirects=False).content

   核心代码是获得需要跳转的URL,代码是        new_requests_url = result1.headers['location']

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值