python获取代理IP

平时当我们需要爬取一些我们需要的数据时,总是有些网站禁止同一IP重复访问,这时候我们就应该使用代理IP,每次访问前伪装自己,让“敌人”无法察觉。
oooooooooooooooOK,让我们愉快的开始吧!
这个是获取代理ip的文件,我将它们模块化,分为三个函数
注:文中会有些英文注释,是为了写代码方便,毕竟英文一两个单词就ok了
#!/usr/bin/python
#-*- coding:utf-8 -*-

"""
author:dasuda
date:2017.08.24
转载请注明出处,谢谢

"""
import urllib2
import re
import socket
import threading

findIP = [] #获取的原始IP数据
IP_data = []  #拼接端口后的IP数据
IP_data_checked = [] #检查可用性后的IP数据
findPORT = [] #IP对应的端口
available_table = [] #可用IP的索引

def getIP(url_target):
    patternIP = re.compile(r'(?<=<td>)[\d]{1,3}\.[\d]{1,3}\.[\d]{1,3}\.[\d]{1,3}')
    patternPORT = re.compile(r'(?<=<td>)[\d]{2,5}(?=</td>)')
    print "now,start to refresh proxy IP..."
    for page in range(1,4):
        url = 'http://www.xicidaili.
  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值