python 学习之路 ---多进程精讲

本文详细探讨了Python的多进程编程,包括进程间同步、Linux的特殊进程、concurrent包的使用,特别是ProcessPoolExecutor对象及其上下文管理。强调了在CPU密集型任务中,多进程优于多线程,而在I/O密集型任务中,多线程更有优势。介绍了如何避免僵尸和孤儿进程,以及守护进程的概念。concurrent.futures提供了线程池和进程池的方便接口,简化了异步任务编程。
摘要由CSDN通过智能技术生成

多进程

由于Python的GIL全局解释器锁存在,多线程未必是CPU密集型程序的好的选择。

多进程可以完全独立的进程环境中运行程序,可以较充分地利用多处理器。

但是进程本身的隔离带来的数据不共享也是一个问题。而且线程比进程轻量级。

multiprocessing

Process类

Process 类遵循了hread 类的API, 减少了学习难度

先看一个例子,前面介绍了单线程,多线程比较的例子的多进程版本

版本一:使用最开始的函数执行四次

import  datetime
import time
import logging
fmstr = "%(asctime)s%(process)8s %(processName)s %(threadName)s %(thread)s %(message)s"
logging.basicConfig(level=logging.INFO,format=fmstr)
def calc(i = 0):
    sum = 0
    for i in range(100000000):
        sum+=1
    logging.info(sum)
    return i , sum
start = datetime.datetime.now()
calc()
calc()
calc()
calc()
delta = (datetime.datetime.now()-start).total_seconds()
print(delta)  # 44.172526

版本二:多线程的假并行,一刻时刻只有一个线程在执行,相当于几个线程串行执行

import  datetime
import time
import multiprocessing # 导入多进程
from  multiprocessing import  Event,Lock,Semaphore
import threading
import logging
fmstr = "%(asctime)s%(process)8s %(processName)s %(threadName)s %(thread)s %(message)s"
logging.basicConfig(level=logging.INFO,format=fmstr)
def calc(i = 0):
    sum = 0
    for i in range(100000000):
        sum+=1
    logging.info(sum)
    return i , sum
waits = []
start = datetime.datetime.now()
for i in range(4):
    t = threading.Thread(target=calc,name='calc-{}'.format(i))
    waits.append(t)
    t.start()
for wait in waits:
    wait.join()
delta = (datetime.datetime.now()-start).total_seconds()
print(delta) # 45.035576

版本三: 多进程,多个进程同时运行,但这种方法得不到计算返回值

import  datetime
import time
import multiprocessing # 导入多进程
from  multiprocessing import  Event,Lock,Semaphore
import threading
import logging
fmstr = "%(asctime)s%(process)8s %(processName)s %(threadName)s %(thread)s %(message)s"
logging.basicConfig(level=logging.INFO,format=fmst
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值