ProxyPool 使用简介

ProxyPool是一个基于Python3.6+的高性能IP代理池,它依赖Redis并提供API来获取和检查代理。运行环境需要Python3.6以上和Redis。通过pip安装依赖后,可以使用提供的命令启动代理池和API。访问特定URL可以获取代理或查看代理数量。源代码可在GitHub上找到。
摘要由CSDN通过智能技术生成

ProxyPool


跨语言高性能IP代理池,Python实现。

注意:请运行程序前先更新一下抓取代理的爬虫。

运行环境

  • Python 3.6

    (请务必保证Python的版本在3.6以上,否则异步检验无法使用。)

  • Redis

    Redis官网并没有提供Windows的安装版,Windows用户可以点击此处下载一个我自己编译的二进制版本(3.2版本2.7MB,VS 2015编译)。

安装

① 直接使用

安装依赖

$ pip install -r requirements.txt

Windows用户如果无法安装lxml库请点击这里

打开代理池和API

$ cd proxypool

$ python3 run.py

② 安装使用

安装

$ cd proxypool

$ python setup.py install

打开代理池和API

$ proxypool_run

使用API获取代理

访问http://127.0.0.1:5000/进入主页,如果显示'Welcome',证明成功启动。

 

访问http://127.0.0.1:5000/get可以获取一个可用代理。

 

访问http://127.0.0.1:5000/count可以获取代理池中可用代理的数量。

pic

也可以在程序代码中用相应的语言获取,例如:

import requests
from bs4 import BeautifulSoup
import lxml

def get_proxy():
    r = requests.get('http://127.0.0.1:5000/get')
    proxy = BeautifulSoup(r.text, "lxml").get_text()
    return proxy

https://github.com/WiseDoge/ProxyPool 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值