认识爬虫：怎样管理爬虫过程中已使用和未使用的 URL 地址(1)

4 ‘’’

5 # 取出一个没有爬取的 url

6 nocrawl_url = self.queue.popleft()

7 # 将未爬取的 url 添加到已经爬取的 url 集合中

8 self.set.add(nocrawl_url)

9 return nocrawl_url

4、获取未爬取或已经爬取的 url 长度

1def get_nocrawl_size(self):

2 ‘’’

3 :return: 获取待爬取的队列长度

4 ‘’’

5 nocrawl_size = len(self.queue)

6 return nocrawl_size

7

8def get_crawl_size(self):

9 ‘’’

10 :return: 获取已爬取的集合长度

11 ‘’’

12 crawl_size = len(self.set)

13 return crawl_size

14

15def is_nocrawl(self):

16 ‘’’

17 :return: 是否存在未爬取的 url

18 ‘’’

19 if self.get_nocrawl_size() <= 0:

20 return False

21 else:

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

最后

🍅 硬核资料：关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助：技术群大佬指点迷津，你的问题可能不是问题，求资源在群里喊一声。
🍅 面试题库：由技术群里的小伙伴们共同投稿，热乎的大厂面试真题，持续更新中。
🍅 知识体系：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**
[外链图片转存中…(img-JyCpZBQA-1712576493454)]