爬虫代理设置笔记(学自拉勾崔大神)

import  requests

proxy = ‘127.0.0.1:端口号’          在本地的某个端口号创建代理服务

proxies = {

‘http’:'http://' + proxy,                              

'https':'https://' + proxy

}

response = requests.get(url, proxies = proxies)

如果代理需要认证,在代理前面加上用户名密码即可。

proxy = ‘username:password@127.0.0.1:端口号’

若为socks5代理,需要安装   pip install requests[socks],只单纯传递数据包,不关心具体协议和用法。所以速度很快。

proxies = {

‘http’:'socks5://' + proxy,

'https':'socks5//' + proxy

}

在selenium中设置代理

from selenium import webdriver

proxy = '127.0.0.1:端口号'

options = webdriver.ChormeOptions()

options.add_argument('--proxy--server=http://' + proxy)

browser = webdriver.Chorme(options=options)

browser.get(url)

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值