使用Python自动获取可用代理列表

         今天闲来无事,随便写的一个从代理发布网站上提取可用代理列表的脚本。

        运行后,可以获取http://cn-proxy.com/发布的可用代理ip和端口的列表。

        运行效果如下:


        源代码如下,请指教:


# -*- coding: utf-8 -*-
# Python:      2.7.8
# Platform:    Windows
# Author:      wucl
# Program:     从代理网站获取可用代理
# History:     2015.6.11


import urllib2, re
from bs4 import BeautifulSoup

def get_proxies(url):
    """
    从代理网站获取可用代理ip地址列表并返回
    """
    resp = urllib2.urlopen(url)
    html = resp.read()
    soup = BeautifulSoup(html)
    contents = soup.find_all('tr')
    regex = re.compile('\d+')
    proxies = []
    for each in contents:
        sock = each.find_all('td')
        if sock:
            ip = sock[0].text
            port = sock[1].text
            if re.findall(regex, ip):
                proxy = '%s:%s' %(ip, port)
                proxies.append(proxy)
    return proxies



if __name__ == '__main__':
    url = 'http://cn-proxy.com/'
    proxies = get_proxies(url)
    print proxies

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值