企业公司在大量的处理爬虫的时候,频繁访问目标网站很容易被封掉IP地址,这个时候我们就需要爬虫ip来辅助我们完成接下来的任务了,这次我采用的是Requests模块来完成请求的,注意事项在代码中有展示。
上代码:
import urllib.request
import requests
# 查询IP http://ip.chinaz.com/getip.aspx
url = "http://ip.chinaz.com/getip.aspx"
print("原有IP: "+requests.get(url).text)
# 构建一个爬虫ip的格式
#IP
ip_data = "47.94.230.42"
#端口
port_data = "9999"
#固定IP格式
new_data = {
"http": ip_data + ":" + port_data
}
# proxies=IP resquests模块构建请求
print("代理后的IP: "+requests.get(url, proxies=new_data).text)
#切换回自己的IP是 当前爬虫ip失效后向爬虫ip提供商获取新IP的时候需要使用自己的ip
print("改回自己的IP: "+requests.get(url, proxies={"http": ""}).text)