通过队列模拟一个线程池

import queue
import threading
import time
import pdb


class WorkManager(object):
    def __init__(self, work_num=1000,thread_num=2):
        self.work_queue = queue.Queue()
        self.threads = []
        self.__init_work_queue(work_num)
        self.__init_thread_pool(thread_num)


    """
        初始化线程
    """
    def __init_thread_pool(self,thread_num):
        for i in range(thread_num):
            self.threads.append(Work(self.work_queue))


    """
        初始化工作队列
    """
    def __init_work_queue(self, jobs_num):
        for i in range(jobs_num):
            self.add_job(do_job, i)


    """
        添加一项工作入队
    """
    def add_job(self, func, *args):
        self.work_queue.put((func, list(args)))#任务入队,Queue内部实现了同步机制


    """
        等待所有线程运行完毕
    """   
    def wait_allcomplete(self):
        for item in self.threads:
            if item.isAlive():
                item.join()


class Work(threading.Thread):
    def __init__(self, work_queue):
        threading.Thread.__init__(self)
        self.work_queue = work_queue
        self.start()


    def run(self):
        #死循环,从而让创建的线程在一定条件下关闭退出
        while True:
            try:
                #do, args = self.work_queue.get(block=False)#任务异步出队,Queue内部实现了同步机制
                func,args = self.work_queue.get(block=False)
                #pdb.set_trace()
                try:
                    func(args)
                except Exception as e:
                    print('b')
                    raise ('bad execution: %s'%str(e))
                #do(args)
                self.work_queue.task_done()#通知系统任务完成
            except Exception as l:
                #pdb.set_trace()
                print('a')
                print(str(l))
                break


#具体要做的任务
def do_job(args):
    pdb.set_trace()
    time.sleep(0.1)#模拟处理时间
    print ('\n111%s, %s'%(threading.current_thread(), list(args)))


if __name__ == '__main__':
    start = time.time()
    work_manager =  WorkManager(10, 1)#或者work_manager =  WorkManager(10000, 20)
    work_manager.wait_allcomplete()
    end = time.time()
    print ("cost all time: %s" % (end-start))

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值