建立自己的小型代理池

本文介绍如何使用Python建立一个简单代理池。通过爬取免费代理并存储,然后使用检测模块验证代理的有效性,最终形成一个可供使用的代理资源库。代码中包括获取代理、存储代理、检测代理有效性的方法,并利用多线程加速检测过程。
摘要由CSDN通过智能技术生成

建立自己的小型代理池

拥有一个代理池会很大程度上的帮助我们进行工作,经过一番研究,自己写了一个代理池的小程序,删去了很多的功能,留下了最主要得。
下边为自己的逻辑。
在这里插入图片描述

因为储存和获取模块相对简单,所以合成为一个模块。

粘贴出整个模块代码。
获取的代理的网站有很多,这里只写了一个,对于我自己来说是够用了。

import requests
from lxml import etree
import time
import pymongo

class CAT_IP():
    def __init__(self):
        self.client = pymongo.MongoClient(host='localhost',port=27017)
        self.db = self.client['proxy']
        self.session = requests.Session()
        self.url = 'http://qhd.esf.fang.com/chushou/3_237041602.htm'
        self.headers={
            'Cookie':'_free_proxy_session=BAh7B0kiD3Nlc3Npb25faWQGOgZFVEkiJWYwNzA1YmIzM2QzNTU0NGNjNmMyNWI3NDk1M2FlNmE5BjsAVEkiEF9jc3JmX3Rva2VuBjsARkkiMTQ5K3ZlRkx2dGs3ZmZMZTBjd1VLR
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值