02 网络请求(02 ProxyHandler实现代理IP)

ProxyHandler处理器(代理设置)

很多网站会检查某一段时间某个IP的访问次数(通过流量统计,系统日志等),如果访问次数多得不像正常人,它会禁止这个IP的访问。所以我们可以设置一下代理服务器,没隔一段时间换一个代理,就算IP被禁止,依然可以换个IP继续爬取。

常用的代理有:

此处用“快代理”试验:

httpbin:专门测试HTTP,可以返回ip地址等,如需要返回IP地址,输入网址:httpbin.org/ip

快代理上的免费代理:

# -*- coding: utf-8 -*-

from urllib import request

url = 'http://httpbin.org/ip'

# 没用代理
resp1 = request.urlopen(url)
print(resp1.read().decode('utf-8'))

# 使用代理后
# 1 使用ProxyHandler,传入代理构建一个Handler
handler = request.ProxyHandler({"https":"223.241.78.43:8010"})
# 2 使用上面创建的handler构建一个opener
opener = request.build_opener(handler)
# 3 用opener发送一个请求
resp2 = opener.open(url)
print(resp2.read().decode('utf-8'))

 总结:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值