python爬虫抓取,免费高匿快代理 IP

直接上代码了,没什么解释的 每步都有注释的 复制粘贴就可以用了.不能运行直接回复"代码" 给你源码

import requests
from lxml import etree
import json


class XiciProxiesSpider(object):

    def __init__(self):
        self.num = 1
        self.start_url = 'https://www.kuaidaili.com/free/inha/{}'.format(self.num)
        self.headers = {
            'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.62 Safari/537.36'
        }

    def get_page_from_url(self, url):
        response = requests.get(url, headers=self.headers)
        return response.content.decode()

    def get_data_from_page(self, page):
        # 把page转换为Element对象
        html = etree.HTML(page)
        # 获取包含代理信息的tr列表
        trs = html.xpath('//tbody//tr')
        # 遍历trs, 获取数据信息
        data = {
            'http': [],
            # 'https': []
        }
        for tr in trs:
            try:
                ip = tr.xpath('./td[1]/text()')[0]  # IP地址
                port = tr.xpath('./td[2]/text()')[0]  # 端口
                ip_type = tr.xpath('./td[4]/text()')[0].lower()  # 类型 以及大小写转换
                # 如果ip不是http或https直接返回
                if ip_type not in data.keys():
                    return
                # 构建代理数据
                item = {ip_type: '{}:{}'.format(ip, port)}
                # 检查代理IP是否可用, 如果可用添加到列表中
                if self.validate_ip(item, ip_type):
                    data[ip_type].append(item)
            except Exception as ex:
                print(ex)
                print(etree.tostring(tr))
        print("222",data)
        return data

    def validate_ip(self, item, ip_type):
        try:
            test_url = "{}://blog.csdn.net/weixin_43407092/article/details/89743502".format(ip_type)
            response = requests.get(test_url, proxies=item, timeout=2)
            if response.status_code == 200:
                return True
            return False
        except Exception as ex:
            return False

    def save_data(self, data):
        with open('快代理.txt', 'a') as f:
            json.dump(data, f, indent=2)
        self.num += 1

    def run(self):
        while True:
            # 获取页面内宽容
            page = self.get_page_from_url(self.start_url)
            # 获取可用代理IP
            data = self.get_data_from_page(page)
            # 保存数据
            self.save_data(data)



if __name__ == '__main__':
    fps = XiciProxiesSpider()
    fps.run()

 执行结果如下,有用的代理不多.

 

  • 1
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 6
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值