Python 多进程

本文介绍了Python的多进程概念,由于GIL限制,多线程可能不适合CPU密集型任务,而多进程能充分利用多处理器资源。文章讨论了进程间同步、进程池类以及同步与异步调用,并提供了示例。在选择多线程或多进程时,取决于任务类型,对于CPU密集型任务,多进程更优;对于I/O密集型任务,多线程则更为合适。
摘要由CSDN通过智能技术生成

1、概念

由于Python的GIL,多线程未必是CPU密集型程序的好的选择。

多进程可以完全独立的进程环境中运行程序,可以较充分地利用多处理器。

但是进程本身的隔离带来的数据不共享也是一个问题,而且线程比进程轻量级。

2、multiprocessing.Process

在这里插入图片描述

2.1 进程间同步

Python在进程间同步提供了和线程同步一样的类,使用的方法一样,使用的效果也类似。

不过,进程间代价要高于线程间,而且系统底层实践是不同的,只不过是Python屏蔽了这些不同之处,让用户简单使用多进程。

multiprocessing.Process还提供共享内存、服务器进程来共享数据,还提供了用于进程间通讯的Queue队列/Pipe管道。

进程间的通信方式:
1、多进程就是启动多个解释器进程,进程间通信必须序列化、反序列化
2、数据的线程安全性问题,如果每个进程中没有实现多线程,GIL也就没什么用了。

2.2 示例

# 多进程
# 无法获取函数返回值
# 多进程代码需要放在 __name__ == '__main__' 下面执行

import multiprocessing
import datetime
import logging
import threading
import time

FORMAT = "%(process)8s %(processName)12s %(thread)6d %(message)s"
logging.basicConfig(level=logging.INFO, format=FORMAT)


def clac(i):
    sum = 0
    for _ in range(1000000000):
        sum += 1
        ret = (i, sum)
    logging.info(ret)  # 当前新开进程的主线程
    return ret


if __name__ == '__main__':
    start = datetime.datetime.now()
    ps = []
    for i in range(4):
        p = multiprocessing.Process(target=clac, args=(i,), name='clac-{}'.format(i))
        ps.append(p)
        p.start()

    for p in ps:
        p.join()
        logging.info("{} {} {}".format(p.name, p.exitcode, p.pid))  # 当前运行命令进程的主线程

    delta = (datetime.datetime.now() - start).total_seconds()
    time.sleep(1)
    print(delta)
    print('ps ===>', ps)
    print('end =========================')
    print(threadi
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值