爬虫学习第二天proxy的使用
用proxy代理
材料
测试访问网站:http://httpbin.org/get
提供免费的代理ip网站:https://www.xicidaili.com
先说遇到的问题吧:
网上找了一些免费的代理ip,但是每次运行的时候都是反馈的自己的ip,刚开始以为是代理的ip不可用就默认用自己的ip,尝试了无数个,但是还是自己的ip,都想去买ip了,最后有查阅了资料,网上有位大佬回答是http类型的问题,http要和访问的网站的类型一致,试了一下结果还真是这个问题,文末附一张成功图。
代码如下:
from urllib.request import Request,build_opener
from fake_useragent import UserAgent
from urllib.request import ProxyHandler
url = "http://httpbin.org/get"
headers = {
"User-Agent":UserAgent().chrome
}
request = Request(url,headers=headers)
handler = ProxyHandler({"http":"182.35.80.245:9999"})
opener = build_opener(handler)
response = opener.open(request)
info = response.read().decode()
print(info)