推荐使用多进程来实现并行处理.
- 并行与并发:
你吃饭吃到一半,电话来了,你一直到吃完了以后才去接,这就说明你不支持并发也不支持并行。
你吃饭吃到一半,电话来了,你停了下来接了电话,接完后继续吃饭,这说明你支持并发。
你吃饭吃到一半,电话来了,你一边打电话一边吃饭,这说明你支持并行。
并发的关键是你有处理多个任务的能力,不一定要同时。
并行的关键是你有同时处理多个任务的能力。
而python里面的多线程显然得拿到GIL,执行code,最后释放GIL。所以由于GIL,多线程的时候拿不到,实际上,它是并发实现,即多个事件,在同一时间间隔内发生。
但进程有独立GIL,所以可以并行实现。因此,针对多核CPU,理论上采用多进程更能有效利用资源。
在CPU密集型任务下,多进程更快,或者说效果更好;而IO密集型,多线程能有效提高效率。
CPU和IO密集型
- CPU密集型代码(各种循环处理、计数等等)
- IO密集型代码(文件处理、网络爬虫等)
判断方法:
- 直接看CPU占用率, 硬盘IO读写速度
- 计算较多->CPU;时间等待较多(如网络爬虫)->IO
![v2-c7d2d4d9c4bf802f7a9cc3b9c9bd38f8_180x120.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=19e2877d-de2f-eb11-8da9-e4434bdf6706&url=https://pic1.zhimg.com/v2-c7d2d4d9c4bf802f7a9cc3b9c9bd38f8_180x120.jpg)
综合上述
综上python 多进程和多线程总结如下:
- 多线程的缺点:CPU密集型计算速度变慢。
- 多线程的优点:I/O密集型计算加速效果明显,不是特别消耗CPU和内存资源。
- 多进程的缺点:特别消耗耗CPU和内存资源
- 多进程的优点:I/O密集型和CPU密集型计算加速效果明显。
在资源充裕情况下,建议使用多进程,对于I/O密集型和多线程差不多,对于CPU密集型计算更是占据优势。建议使用多进程来并行加快速度。