python multiprocessing.Pool某个子进程异常,则结束整个进程池

import multiprocessing
import datetime
import time
import os
import subprocess
from subprocess import PIPE
import pdb

#子进程中某个进程发生异常,则结束整个进程池

def work_process(i):
    time.sleep(1)
    raise Exception(multiprocessing.current_process().name)
    return 'a' + str(i)


def throw_exception(name):
    print('子进程%s发生异常,进程号为%s'%(name,os.getpid()))
    cmd = 'taskkill /im '+ str(os.getpid())+' /F'
    res = subprocess.Popen(cmd,shell=True,stdin=PIPE,stdout=PIPE)
    print(res.stdout.read())
    print(res.stderr.read())
    time.sleep(2)



if __name__ == '__main__':
    res = []
    with multiprocessing.Pool(processes=10) as pool:
        for i in range(10):  # 遍历所有的文件
            start_time_fp = datetime.datetime.now()
            r = pool.apply_async(func=work_process,args= (i,),error_callback=throw_exception)
            over_time_fp = datetime.datetime.now()
            total_time = (over_time_fp - start_time_fp).total_seconds()
            print('启动单个程序%s完成共计%s秒' % (i,total_time))
        pool.close()  # 关闭进程池,不再接受请求
        pool.join()  # 等待进程池中的任务执行完毕
        print(res)#打印异步结果




 

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Pythonmultiprocessing.Pool模块和multiprocessing.dummy.Pool模块都是用于创建进程和线程的工具。 进程(multiprocessing.Pool)是一组维护在进程中的工作者,它们可以并行地执行任务。该模块是基于multiprocessing模块实现的,它通过创建多个进程来并行执行任务。 下面是一个创建进程的示例: ``` python import multiprocessing def worker(process_num): print("Process %d is working" % process_num) if __name__ == '__main__': pool = multiprocessing.Pool(processes=4) for i in range(5): pool.apply_async(worker, args=(i,)) pool.close() pool.join() ``` 上面的示例中,我们创建了一个包含4个进程进程,并向进程中提交了5个任务,每个任务调用worker函数并传递一个进程编号作为参数。我们使用apply_async方法向进程中提交任务,并使用close和join方法管理进程。 线程(multiprocessing.dummy.Pool)是一组维护在线程中的工作者,它们可以并行地执行任务。该模块是基于threading模块实现的,它通过创建多个线程来并行执行任务。 下面是一个创建线程的示例: ``` python from multiprocessing.dummy import Pool import time def worker(thread_num): print("Thread %d is working" % thread_num) time.sleep(1) if __name__ == '__main__': pool = Pool(4) for i in range(5): pool.apply_async(worker, args=(i,)) pool.close() pool.join() ``` 上面的示例中,我们创建了一个包含4个线程的线程,并向线程中提交了5个任务,每个任务调用worker函数并传递一个线程编号作为参数。我们使用apply_async方法向线程中提交任务,并使用close和join方法管理线程。 需要注意的是,线程进程的用法基本相同,但是由于线程在Python中不能真正地并行执行,因此线程的性能可能比进程差。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值