【爬虫】用了代理后爬虫还报错?教你验证你的代理质量

最近爬某yin,使用了代理仍然疯狂报这个错,成功率很低,错误为:

HTTPSConnectionPool(host='v.douyin.com', port=443): Max retries exceeded with url: /GomJPf/ (Caused by ConnectTimeoutError(<urllib3.connection.VerifiedHTTPSConnection object at 0x7fa23abfbc88>, 'Connection to 113.85.22.211 timed out. (connect timeout=15)'))

查询了可能出错的情况:

1、http连接太多没有关闭导致的

2、访问次数频繁,被禁止访问

3、代理的问题

最后经过验证发现代理属于透明代理,验证网站为:

http://web.chacuo.net/netproxycheck

透明代理,普通匿名代理和高匿代理:

透明代理:可以说是最没用的IP代理,在你访问的时候,对方服务器知道你使用了代理服务器,也知道你的真实IP地址。

普通匿名代理:比透明代理稍微好一点,访问的时候对方知道你使用了代理,但是一般不清楚你真实IP地址(有一定几率能追查到)。

高匿代理:这个就比较高级了,不仅能隐藏自身IP地址,还能以假乱真,让服务器以为代理IP地址就是你的真实IP地址。

参考:https://blog.csdn.net/qq_19294857/article/details/99653889

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值