爬虫代理使用状态码

198 篇文章 0 订阅
189 篇文章 0 订阅
本文介绍了在网络爬虫工作中代理IP的重要性和亿牛云隧道转发爬虫代理加强版可能遇到的问题及解决方案。针对代理使用失败、没法确认代理是否使用、以及请求失败率较高的情况,分别提供了排查和优化策略,包括检查代理配置、理解不同HTTP状态码的含义,并给出了相应的优化爬虫策略。
摘要由CSDN通过智能技术生成

大数据时代,网络爬虫的工作和代理IP是息息相关的。尤其是互联网行业,网络爬虫工作是项目必须使用到代理ip,没有代理ip,爬虫工作将会非常的艰难。那如果网络爬虫用户使用了亿牛云隧道转发的爬虫代理加强版,报错状态码如何解决呢?
隧道转发爬虫代理加强版:
(1) 代理使用失败
让对方截图看看代理代码,代理信息是否提取配置正确。重点注意必须使用代理域名,不能是代理服务器IP。
要求对方复制demo,然后加上ua随机优化,按照所开代理的请求数,按照300毫秒为单位进行管理,运行程序后统计错误信息和http的状态码。
代理链接失败
原因:对方是否有防火墙,导致无法链接我们服务器;对方开的代理是否过期。
http状态码407
原因:代理认证信息失败,让对方严格按照demo配置代理信息
http状态码429
原因:请求超过代理限制,严格按照所开代理的请求数,按照300毫秒为单位进行管理。如果限制之后,既然大量429,需要优化爬虫策略,应该是目标网站返回的错误提示。
http状态码302
原因:访问的是https网站,会自动跳转一次,正常现象;访问的http网站,网站拒绝服务,大量302需要优化爬虫策略
http状态码403 503 或504
原因:少量不影响,大量403 503或504需要优化爬虫策略
http请求超时
原因:http请求的超时设置为10秒,尤其是对方访问国外网站的时候。
(2) 没法确认代理是否使用
要求对方直接复制demo,访问http://current.ip.16yun.cn:802,看看返回的IP,如果是我们的代理IP,就表示代理链接成功
(3) 爬虫代理使用成功,请求失败率较高
统计错误信息和http的状态码,将200和各自错误信息进行统计,看看比例分布,参考第(1)项里面的http状态码进行解答。
隧道转发爬虫代理加强版使用demo:

# 要访问的目标页面
    targetUrl = "http://httpbin.org/ip"
    # 要访问的目标HTTPS页面
    # targetUrl = "https://httpbin.org/ip"
    # 代理服务器(产品官网 www.16yun.cn)
    proxyHost = "t.16yun.cn"
    proxyPort = "31111"
    # 代理验证信息
    proxyUser = "username"
    proxyPass = "password"
    proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
        "host" : proxyHost,
        "port" : proxyPort,
        "user" : proxyUser,
        "pass" : proxyPass,
    }
    # 设置 http和https访问都是用HTTP代理
    proxies = {
        "http"  : proxyMeta,
        "https" : proxyMeta,
    }
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值