点击上方“编程派”,选择设为“设为星标”
优质文章,第一时间送达!
一、前言
![6dad6e51176a2e68a843cf6516a3c649.png](https://i-blog.csdnimg.cn/blog_migrate/22478ce8be770aa4a10ad0ba4bced260.png)
二、同步
![6dad6e51176a2e68a843cf6516a3c649.png](https://i-blog.csdnimg.cn/blog_migrate/22478ce8be770aa4a10ad0ba4bced260.png)
parse_1
函数可以设定循环次数,每次循环将当前循环数(从0开始)和url传入
parse_2
函数。
import requests
性能的消耗主要在IO请求中,当单进程单线程模式下请求URL时必然会引起等待
示例代码就是典型的串行逻辑,
parse_1
将url和循环数传递给
parse_2
,
parse_2
请求并返回状态码后
parse_1
继续迭代一次,重复之前步骤
三、多线程
![6dad6e51176a2e68a843cf6516a3c649.png](https://i-blog.csdnimg.cn/blog_migrate/22478ce8be770aa4a10ad0ba4bced260.png)
concurrent.futures
中的
ThreadPoolExecutor
来演示。介绍
ThreadPoolExecutor
库是因为它相比其他库代码更简洁
为了方便说明问题,下面代码中如果是新增加的部分,代码行前会加上 > 符号便于观察说明问题,实际运行需要去掉
import requests
跟同步相对的就是异步。异步就是彼此独立,在等待某事件的过程中继续做自己的事,不需要等待这一事件完成后再工作。线程就是实现异步的一个方式,也就是说多线程是异步处理异步就意味着不知道处理结果,有时候我们需要了解处理结果,就可以采用回调
import requests
Python实现多线程有一个无数人诟病的GIL(全局解释器锁),但多线程对于爬取网页这种多数属于IO密集型的任务依旧很合适。
四、多进程
![6dad6e51176a2e68a843cf6516a3c649.png](https://i-blog.csdnimg.cn/blog_migrate/22478ce8be770aa4a10ad0ba4bced260.png)
ProcessPoolExecutor
和
multiprocessing
1. ProcessPoolExecutor
和实现多线程的ThreadPoolExecutor
类似
import requests
可以看到改动了两次类名,代码依旧很简洁,同理也可以添加回调函数
import requests
2. multiprocessing
直接看代码,一切都在注释中。import requests
可以看到
multiprocessing
库的代码稍繁琐,但支持更多的拓展。多进程和多线程确实能够达到加速的目的,但如果遇到IO阻塞会出现线程或者进程的浪费,因此有一个更好的方法……
五、异步非阻塞
![6dad6e51176a2e68a843cf6516a3c649.png](https://i-blog.csdnimg.cn/blog_migrate/22478ce8be770aa4a10ad0ba4bced260.png)
asyncio
库+
yield
,为了方便利用逐渐出现了更上层的封装
aiohttp
,要想更好的理解异步非阻塞最好还是深入了解
asyncio
库。而
gevent
是一个非常方便实现协程的库
import requests
gevent能很大提速,也引入了新的问题:如果我们不想速度太快给服务器造成太大负担怎么办?如果是多进程多线程的建池方法,可以控制池内数量。如果用gevent想要控制速度也有一个不错的方法:建立队列。gevent中也提供了Quene类,下面代码改动较大
import requests
结束语
![6dad6e51176a2e68a843cf6516a3c649.png](https://i-blog.csdnimg.cn/blog_migrate/22478ce8be770aa4a10ad0ba4bced260.png)
以上就是几种常用的加速方法。如果对代码测试感兴趣可以利用time模块判断运行时间。爬虫的加速是重要技能,但适当控制速度也是爬虫工作者的良好习惯,不要给服务器太大压力,拜拜~
早起Python原创作者:陈熹
简介:一只有着码农梦想的眼科狗。更多内容欢迎关注简书:半为花间酒,会不定期更新一些python、R语言、SQL相关及生物信息学、网络爬虫、数据分析、可视化相关的文章。
回复下方「关键词」,获取优质资源
回复关键词「 pybook03」,立即获取主页君与小伙伴一起翻译的《Think Python 2e》电子版
回复关键词「入门资料」,立即获取主页君整理的 10 本 Python 入门书的电子版
回复关键词「m」,立即获取Python精选优质文章合集
回复关键词「book 数字」,将数字替换成 0 及以上数字,有惊喜好礼哦~
题图:pexels,CC0 授权。
好文章,我在看❤️