SSL报错 代理IP池

1.如果爬虫运行时报SSLError

        requests.get(url,verify=False)

        避开SSL安全认证即可

        http协议

        https协议:http+SSL

2.代理IP

构造代理IP字典

proxies_user = {

                "https":"http://1.1.1.1:8888"

                }

proxies字典中的键名(协议头)-->需要跟请求的url协议头类型保持一致

proxies字典中的键值-->协议://IP地址:端口号 冒号必须是英文状态下的冒号

response_user= requests.get(url,  proxies=proxies_user)

3.如何测试代理IP是否有效

通过代理IP地址去发送get请求

http://myip.ipip.net/

如果正常连接,response.text会返回代理IP地址信息 (不要用content返回)

如果连接失败,则报错

4.timeout参数

在get或者post请求括号参数内添加字段timeout=XXX(XXX以秒为单位)

可以剔除响应太慢的IP

5.retry的使用

retry是一个第三方包,需要导入

retry是一个带参数的装饰器

from retrying import retry

@retry(stop_max_attempt_number=3)         #  表示最大连接次数为3次

 
 


                
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值