爬取IP(快代理)

本文介绍了如何使用Python分析快代理网站的网页结构,通过分析URL规律来爬取多页IP地址,并将获取到的IP存储为txt文件。主要涉及网络协议、TCP/IP和网页解析技巧。
摘要由CSDN通过智能技术生成

分析网页

这次分析的是快代理,就是这个
在这里插入图片描述
想要获取这上面的IP需要分析网页结构
打开开发者工具进行分析
在这里插入图片描述
发现所有IP组数据在tr节点中,每个具体数据在td节点中
代码实现时,从这个节点中获取信息,有很多方法

如果需要多页爬取,需要分析网址规律
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
从以上图片可得知,每页 网址前部分相同,都是这个https://www.kuaidaili.com/free/inha/
后面是页数

获取IP

所以可以这样进行获取

import requests
from bs4 import BeautifulSoup
# 目标网址
url = 'https://www.kuaidaili.com/free/inha/' + '1'
# 伪造头信息
header = {
   
    'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.182 Safari/537.36'
}
# 发送请求
r = requests.get(url,headers=header)
# 创建BeautifulSoup对象
soup = BeautifulSoup(r
  • 3
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值