提取存在mysql数据库的ip,并验证ip的可用性

这里用到的数据库是用scrapy框架深度爬取(翻页)代理ip,并存入mysql数据库,打造万量级ip池

当然你有弄好的ip池也是可以的,但要改动一下代码

import pymysql
import requests


def start():
    print('=======================开始啦======================')
    #打开mysql
    ql = pymysql.connect('localhost', 'root', 'asdfg', 'python001', charset='utf8')
    cursor = ql.cursor()
    mys = """select * from xicidaili where Types='HTTPS' """
    addres = []
    dele = []
    try:
        cursor.execute(mys)
        results = cursor.fetchall()
        for res in results:
            id = res[0]
            ip = res[1]
            port = res[2]
            ips = ip + ':' + port
            iptest = {'ipaddr': 'https://' + ips}
            if requests.get('http://www.baidu.com', proxies=iptest, timeout=2).status_code == 200:
                addres.append(iptest)
                print(str(iptest) + '\t============可用ip============')
            else:
                delete = """delete from xicidaili where id = %s"""
                cursor.execute(delete,id)
                dele.append(id)
    except Exception as e:
        print('出错啦:'+ str(e))
    finally:
        cursor.close()
        ql.close()
    print('++++++++++++可用ip++++++++++++++')
    print(addres)
    with open('proxies.txt', 'w') as op:

        for proxy in addres:
            op.write(str(proxy)+',\n')
    print("############删除ip的id号############")
    print(dele)
    print('======================结束啦===========================')

start()

运行结果:
在这里插入图片描述
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值