用正则爬去某代理IP网站的IP

在这里我们用Python来实现,话不多说直接上代码吧:

一开始我是使用的urllib模块来进行爬取,但问题还是有的,只能爬第一页,之后我了解到了requests库,真的好用啊

import requests
import re
def getWebText(url):
    try:
      r = requests.get(url)
      r.status_code #通过网页响应码来判断连接是否正常
      #print(r.status_code)
      r.encoding = r.status_code # 匹配网页编码格式
      return r.text
    except:
      print("响应失败")
      return 'Error'
def getIpList(url):
    ip = []
    html = getWebText(url)
    """
    250-255 200-249 100-199 1-99
    """
    ip = re.findall("(25[0-5]|2[0-4]\d|[0-1]\d{2}|[1-9]?\d)\.(25[0-5]|2[0-4]\d|[0-1]\d{2}|[1-9]?\d)\.(25[0-5]|2[0-4]\d|[0-1]\d{2}|[1-9]?\d)\.(25[0-5]|2[0-4]\d|[0-1]\d{2}|[1-9]?\d)",html)
    return ip
def display(ipList):
    #print(type(ipList))
    for ip in ipList:
        str = ip[0]+'.'+ip[1]+'.'+ip[2]+'.'+ip[3]
        List1.append(str)
def ipTxt(List1):
    with open("C:\\Users\\HP\\Desktop\\xiciip.txt", 'r+') as f:
        for i in List1:
            f.write(i+'\n')

if __name__ == '__main__':
    page = 1
    url = "https://www.kuaidaili.com/free/inha/"
    List1 = []
    for i in range(30):
        Url = url+str(i+1)+"/"
        #print(Url)
        ipList = []
        ipList = getIpList(Url)
        display(ipList)
    ipTxt(List1)


爬去过程中出现的问题:

1.用re库的findall方法返回的数据是一个列表,但列表中的元素不是直接的字符串,而是一个元组:

('115', '150', '249', '216')这样很不方便使用和查看,所以我转换了一下(硬核转换,大牛勿喷)

等到代码跑完之后,就可以去自己的桌面的xici.txt里没有内容了

 

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值