这里做了拼接,{'HTTP': '36.111.187.154:8888'}
这种形式存入列表,方便我们使用!
检测IP的可用性,因为是免费的IP所以有一些可能用不了,有一些访问速度较慢,这里我们让拼接好的ip去访问某度
0.1
秒能访问成功的保存在另一个列表中!
def check_ip(self,proxies_list):
headers = {‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/95.0.4638.69 Safari/537.36’}
can_use = []
for proxies in proxies_list:
try:
response = requests.get(‘https://www.baidu.com/’,headers=headers,proxies=proxies,timeout=0.1)
if response.status_code == 200:
can_use.append(proxies)
except Exception as e:
print(e)
return can_use
将访问速度不错的ip保存在文件中,方便我们调用
def save(self,can_use):
file = open(‘IP.txt’, ‘w’)
for i in range(len(can_use)):
s = str(can_use[i])+ ‘\n’
file.write(s)
file.close()
import requests
from lxml import etree
import time
class daili:
1.发送请求,获取响应
def send_request(self,page):
print(“===正在抓取第{}页=”.format(page))
目标网页,添加headers参数
base_url = ‘https://www.kuaidaili.com/free/inha/{}/’.format(page)
headers = {‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/95.0.4638.69 Safari/537.36’}
发送请求:模拟浏览器发送请求,获取响应数据
response = requests.get(base_url,headers=headers)
data = response.content.decode()
time.sleep(1)
return data
2.解析数据
def parse_data(self,data):
数据转换
html_data = etree.HTML(data)
分组数据
parse_list = html_data.xpath(‘//table[@class=“table table-bordered table-striped”]/tbody/tr’)
return parse_list
4.检测代理IP
def check_ip(self,proxies_list):
headers = {‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/95.0.4638.69 Safari/537.36’}
can_use = []
for proxies in proxies_list:
try:
response = requests.get(‘https://www.baidu.com/’,headers=headers,proxies=proxies,timeout=0.1)
if response.status_code == 200:
can_use.append(proxies)
except Exception as e:
print(e)
return can_use
5.保存到文件
def save(self,can_use):
file = open(‘IP.txt’, ‘w’)
for i in range(len(can_use)):
s = str(can_use[i])+ ‘\n’
file.write(s)
file.close()
实现主要逻辑
def run(self):
proxies_list = []
实现翻页,我这里只爬取了四页(可以修改5所在的数字)
for page in range(1,5):
data = self.send_request(page)
parse_list = self.parse_data(data)
3.获取数据
for tr in parse_list:
proxies_dict = {}
http_type = tr.xpath(‘./td[4]/text()’)
ip_num = tr.xpath(‘./td[1]/text()’)
port_num = tr.xpath(‘./td[2]/text()’)
http_type = ’ '.join(http_type)
ip_num = ’ '.join(ip_num)
port_num = ’ '.join(port_num)
proxies_dict[http_type] = ip_num + “:” + port_num
proxies_list.append(proxies_dict)
print(“获取到的代理IP数量:”,len(proxies_list))
can_use = self.check_ip(proxies_list)
print(“能用的代理IP数量:”,len(can_use))
print(“能用的代理IP:”,can_use)
self.save(can_use)
if name == “main”:
dl = daili()
dl.run()
启动后的效果如下:
并生成文件:
O了O了!!!
IP保存在文件中了,可有一些小伙伴还不知道怎么去使用?
这里我们需要实现,从文件中随机取出一个IP去访问网址,用到了random
库
import random
import requests
打开文件,换行读取
f=open(“IP.txt”,“r”)
file = f.readlines()
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Python开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加V获取:vip1024c (备注Python)
文末有福利领取哦~
👉一、Python所有方向的学习路线
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
👉二、Python必备开发工具
👉三、Python视频合集
观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
👉 四、实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(文末领读者福利)
👉五、Python练习题
检查学习结果。
👉六、面试资料
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
👉因篇幅有限,仅展示部分资料,这份完整版的Python全套学习资料已经上传
一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
👉因篇幅有限,仅展示部分资料,这份完整版的Python全套学习资料已经上传
一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
[外链图片转存中…(img-xnuiPwF7-1712710155762)]