8 self.queue = deque()
9 # 定义已经爬取的集合,使用 set 集合保证去重
10 self.set = set()
2、将页面上获取到的 url 添加到没有爬取的队列
1def add_nocrawl_url(self,url):
2 ‘’’
3 :return: 将爬取的新的 url 添加到未爬取队列
4 ‘’’
5 # 校验 url 是否为 None
6 if url is None:
7 # 返回 False
8 return False
9 # 校验 url 是否已经存在在已经爬取或未被爬取的集合
10 elif url not in self.queue and url not in self.set:
11 # 若不存在时,则将该条新的 url 添加到未被爬取的队列中
12 self.queue.append(url)
13 # 返回 True
14 return True
3、获取一条 url 进行下一次爬虫
1def get_nocrawl_url(self):
2 ‘’’
3 :return: 获取一个未爬取的 url
4 ‘’’
5 # 取出一个没有爬取的 url
6 nocrawl_url = self.queue.popleft()
7 # 将未爬取的 url 添加到已经爬取的 url 集合中
8 self.set.add(nocrawl_url)
9 return nocrawl_url
4、获取未爬取或已经爬取的 url 长度
1def get_nocrawl_size(self):
2 ‘’’
3 :return: 获取待爬取的队列长度
4 ‘’’
5 nocrawl_size = len(self.queue)
6 return nocrawl_size
文末有福利领取哦~
👉一、Python所有方向的学习路线
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
👉二、Python必备开发工具
👉三、Python视频合集
观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
👉 四、实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(文末领读者福利)
👉五、Python练习题
检查学习结果。
👉六、面试资料
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
👉因篇幅有限,仅展示部分资料,这份完整版的Python全套学习资料已经上传
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!