Python采集网站ip代理, 检测IP代理是否可用,构建自己的ip代理池

本文介绍了使用Python 3.8和相关库如requests、parsel来从网站kuaidaili.com抓取免费代理IP,并通过正则表达式、CSS选择器、XPath进行数据提取。在抓取的150个IP中,经过质量检测,仅发现1个可用。
摘要由CSDN通过智能技术生成

开发环境

  • Python 3.8
  • Pycharm

模块使用

  • requests >>> pip install requests
  • parsel >>> pip install parsel

代理ip结构

proxies_dict = {
   
    "http": "http://" + ip:端口,
    "https": "http://" + ip:端口,
}

代码实现步骤:

1. 导入模块

# 导入数据请求模块
import requests  # 数据请求模块 第三方模块 pip install requests
# 导入 正则表达式模块
import re  # 内置模块
# 导入数据解析模块
import parsel  # 数据解析模块 第三方模块 pip install parsel  >>> 这个是scrapy框架核心组件

2. 发送请求, 对于目标网址发送请求 https://www.kuaidaili.com/free/

url = f'https://www.kuaidaili.com/free/inha/{
     page}/'  # 确定请求url地址
# 用requests模块里面get 方法 对于url地址发送请求, 最后用response变量接收返回数据
response = requests
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值