爬虫-爬取代理ip网页里的ip

最新推荐文章于 2024-08-06 11:55:39 发布

xh614

最新推荐文章于 2024-08-06 11:55:39 发布

阅读量1.1k

点赞数

分类专栏： Python 文章标签：爬虫

本文链接：https://blog.csdn.net/suanzhaogao/article/details/72817419

版权

Python 专栏收录该内容

11 篇文章 0 订阅

订阅专栏

思想：先打开url，获取其html然后下载出网页中符合正则表达式的ip

import urllib.request
import re

def open_url(url):
     req=urllib.request.Request(url)
     req.add_header('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36')
     page=urllib.request.urlopen(req)
     html=page.read().decode('utf-8')
     return html


def get_ip(html):
     p=r'(?:(?:[0,1]?\d?\d|2[0-4]\d|25[0-5])\.){3}(?:[0,1]?\d?\d|2[0-4]\d|25[0-5])'
     #p=r'<img class="BDE_Image" pic_type="0" width="500" height="375" src="[^"]+\.jpg"'
     iplist=re.findall(p,html)
     for each in iplist:
          print(each)
     
          
if __name__=='__main__':
     url="http://www.proxy360.cn/default.aspx"
     html=open_url(url)
     get_ip(html)