进程锁和进程池(附线程池)

进程锁和线程锁的写法看起来差不多,进程锁是用来防止使用多进程的时候打印出现混乱。

# coding=utf-8
from multiprocessing import Process, Lock

def f(l, i):
    l.acquire()
    print u'进程', i
    l.release()

if __name__ == '__main__':
    lock = Lock()
    for i in range(10):
        Process(target=f, args=(lock, i)).start()

 

进程池可以控制同一时间有多少个进程可以在cup上运行

# coding=utf-8
from multiprocessing import Pool
import os, time


def f(i):
    print i, os.getpid()
    time.sleep(2)


def c(arg):
    print u'回调'


if __name__ == '__main__':  # 在Windows上运行必须要写这个判断,否则报错,还有其它解决方法,可参考报错提示
    pool = Pool(processes=3)  # 进程池允许同时放10个进程

    for i in range(10):
        p = pool.apply_async(func=f, args=(i,), callback=c)  # apply_async并行,apply串行, callback是进程运行结束的回调(在父进程上运行)

    pool.close()
    pool.join()  # 等所有的进程运行结束(一定要在colse之后join)

执行结果:

0 7700
1 7780
2 4636
3 7700
回调
回调
4 7780
5 4636
回调
6 7700
回调
回调7
 7780
8回调
4636
9 7700
回调
回调
回调
回调

 

 

multiprocessing.dummy模块下的Pool可以实现线程池,写法类似进程池

转载于:https://www.cnblogs.com/allenzhang-920/p/10416007.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Python 提供了 multiprocessing 和 threading 模块,分别支持进程线程池的实现。 进程(multiprocessing.Pool)是一个由多个进程组成的可重用的进程,可以通过 apply、map 等方法很方便地实现并行化计算和任务分配。进程的优点是可以有效地利用多核 CPU 的性能,缺点是由于进程间的切换和通信开销较大,所以适用于计算密集型任务,不适合 IO 密集型任务。 以下是一个简单的进程示例: ```python from multiprocessing import Pool def worker(num): print("Worker %d start" % num) return num * 2 if __name__ == '__main__': pool = Pool(processes=4) result = pool.map(worker, range(10)) print(result) ``` 线程池(concurrent.futures.ThreadPoolExecutor)是一个由多个线程组成的可重用的线程池,可以通过 submit、map 等方法很方便地实现并行化计算和任务分配。线程池的优点是创建和销毁线程的开销比较小,适用于 IO 密集型任务,缺点是 Python 的全局解释(GIL)的存在,所以无法利用多核 CPU 的性能。 以下是一个简单的线程池示例: ```python from concurrent.futures import ThreadPoolExecutor def worker(num): print("Worker %d start" % num) return num * 2 if __name__ == '__main__': with ThreadPoolExecutor(max_workers=4) as executor: result = executor.map(worker, range(10)) print(list(result)) ``` 以上示例仅供参考,具体实现还需要根据任务的特点和需求进行调整和优化。 ### 回答2: Python中的进程线程池是用于并行处理任务的工具,可以提高程序的执行效率。它们都是用来管理和调度多个子任务的工作流程。 进程线程池的最大区别在于它们使用的底层执行单元不同。进程使用进程作为执行单元,而线程池使用线程作为执行单元。 进程在Python中通过`multiprocessing.Pool`类进行实现,它可以创建多个子进程,并将任务分配给这些子进程进行并行处理。在创建进程时,可以指定最大进程数,以控制并行处理的程度。进程提供了简单易用的接口,如`apply`、`apply_async`等方法,用于提交任务并获取任务的结果。 线程池则是通过`concurrent.futures.ThreadPoolExecutor`类实现的。线程池使用线程作为执行单元,可以同时执行多个任务,并且提供了相似的接口方法用于任务的提交和结果的获取。线程池中的线程可以复用,减少线程创建和销毁的开销。 进程线程池在使用上有一些注意事项。首先,由于Python的全局解释(GIL)的存在,多线程在CPU密集型任务中并不能发挥真正的并行性能。但是对于IO密集型任务,使用线程池可以提高程序的执行效率。而进程则在CPU密集型任务中能够实现真正的并行处理。 其次,由于进程间通信的开销较大,进程在内存使用方面可能会比线程池更高。因此,在使用进程时需要注意控制进程的数量,以避免过多的内存消耗。 总结来说,进程适合CPU密集型任务,而线程池适合IO密集型任务。对于需要并行处理的任务,可以根据具体情况选择合适的并发处理方式来提高程序的执行效率。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值