python 多线程工具开发

最新推荐文章于 2024-07-04 00:14:12 发布

yib0y

最新推荐文章于 2024-07-04 00:14:12 发布

阅读量395

点赞数

分类专栏： python基础文章标签： python

本文链接：https://blog.csdn.net/qq_25834767/article/details/90320595

版权

python基础专栏收录该内容

13 篇文章 0 订阅

订阅专栏

第一个版本：
场景：
我有一个函数，传入一个参数，执行需要耗时5s,现在我有一个列表存着1000个参数,需要遍历让这个函数去执行。
实现方式：
多线程(必须保证线程安全)

# !/usr/bin/env python
# -*- coding:utf-8 -*-

import Queue
import threading
import time

class WorkManager(object):
    def __init__(self, work_list=None,thread_num=2):
        self.work_queue = Queue.Queue()
        self.threads = []
        self.__init_work_queue(work_list)
        self.__init_thread_pool(thread_num)

    """
        初始化线程
    """
    def __init_thread_pool(self,thread_num):
        for i in range(thread_num):
            self.threads.append(Work(self.work_queue))

    """
        初始化工作队列
    """
    def __init_work_queue(self, jobs_list):
        for i in (jobs_list):
            self.add_job(do_job, i)

    """
        添加一项工作入队
    """
    def add_job(self, func, *args):
        self.work_queue.put((func,list(args)))#任务入队，Queue内部实现了同步机制

    """
        等待所有线程运行完毕
    """
    def wait_allcomplete(self):
        for item in self.threads:
            if item.isAlive():item.join()

class Work(threading.Thread):
    def __init__(self, work_queue):
        threading.Thread.__init__(self)
        self.work_queue = work_queue
        self.start()

    def run(self):
        #死循环，从而让创建的线程在一定条件下关闭退出
        while True:
            try:
                do, args = self.work_queue.get(block=False)#任务异步出队，Queue内部实现了同步机制
                do(args)
                self.work_queue.task_done()#通知系统任务完成
            except:
                break

#具体要做的任务
def do_job(args):
    time.sleep(2)#模拟处理时间
    print args[0]
    #print threading.current_thread(), list(args)

if __name__ == '__main__':
    start = time.time()
    test_list = ["zhangsan","lisi","wangwu","zhaoliu","cc","ie"]
    work_manager =  WorkManager(work_list=test_list,thread_num=2)#或者work_manager =  WorkManager(10000, 20)
    work_manager.wait_allcomplete()
    end = time.time()
    print "cost all time: %s" % (end-start)

输出结果：

zhangsan
lisi
wangwuzhaoliu
cc
ie
cost all time: 6.00967502594

缺陷：如果这个函数有返回值。这个代码得改改。2个方案吧
方案一：使用全局Queue队列存储。然后遍历取值

# !/usr/bin/env python
# -*- coding:utf-8 -*-

import Queue
import threading
import time
res = Queue.Queue()
class WorkManager(object):
    def __init__(self, work_list=None,thread_num=2):
        self.work_queue = Queue.Queue()
        self.threads = []
        self.__init_work_queue(work_list)
        self.__init_thread_pool(thread_num)

    """
        初始化线程
    """
    def __init_thread_pool(self,thread_num):
        for i in range(thread_num):
            self.threads.append(Work(self.work_queue))

    """
        初始化工作队列
    """
    def __init_work_queue(self, jobs_list):
        for i in (jobs_list):
            self.add_job(do_job, i)

    """
        添加一项工作入队
    """
    def add_job(self, func, *args):
        self.work_queue.put((func,list(args)))#任务入队，Queue内部实现了同步机制

    """
        等待所有线程运行完毕
    """
    def wait_allcomplete(self):
        for item in self.threads:
            if item.isAlive():item.join()

class Work(threading.Thread):
    def __init__(self, work_queue):
        threading.Thread.__init__(self)
        self.work_queue = work_queue
        self.start()

    def run(self):
        #死循环，从而让创建的线程在一定条件下关闭退出
        while True:
            try:
                do, args = self.work_queue.get(block=False)#任务异步出队，Queue内部实现了同步机制
                do(args)
                self.work_queue.task_done()#通知系统任务完成
            except:
                break

#具体要做的任务
def do_job(args):
    time.sleep(2)#模拟处理时间
    #print args[0]
    #print threading.current_thread(), list(args)
    res.put({"name":args})
if __name__ == '__main__':
    start = time.time()
    test_list = ["zhangsan","lisi","wangwu","zhaoliu","cc","ie"]
    work_manager =  WorkManager(work_list=test_list,thread_num=2)#或者work_manager =  WorkManager(10000, 20)
    work_manager.wait_allcomplete()
    for i in range(len(test_list)):
        print res.get()
    end = time.time()
    print "cost all time: %s" % (end-start)

输出：

{'name': ['zhangsan']}
{'name': ['lisi']}
{'name': ['wangwu']}
{'name': ['zhaoliu']}
{'name': ['cc']}
{'name': ['ie']}
cost all time: 6.01245284081

算是一个方案吧,函数不定义return 而是把结果存储到公共的队列里
方案二：重新定义Thread 类方法。取返回值。然后传回所有的返回值。传回的实际上是一个list

from tools.domain_monitor import WorkManager
import time
test_list = ["zhangsan","lisi","wangwu","zhaoliu"]
def do_job(args):
    res = time.time()
    return res
if __name__ == '__main__':
    work_manager = WorkManager(func=do_job, work_list=test_list,
                               thread_num=2)  # 或者work_manager =  WorkManager(10000, 20)
    result = work_manager.wait_allcomplete()
	print result

这里假设test_list 非常大。需要do_job依次执行这些任务。调用事先写好的多线程工具类。传入函数，出入任务列，定义需要执行的线程数量
result 返回所有的结果值

[1558248017.412149, 1558248017.412158, 1558248017.412164, 1558248017.412169]

workManager 被我修改过后的内容如下：


import Queue
import threading
import time
class WorkManager(object):
    def __init__(self,func = None, work_list=None,thread_num=2):
        self.func = func
        self.work_queue = Queue.Queue()
        self.result_queue = Queue.Queue()
        self.result = []
        self.threads = []
        self.__init_work_queue(work_list)
        self.__init_thread_pool(thread_num)



    """
        初始化线程
    """
    def __init_thread_pool(self,thread_num):
        for i in range(thread_num):
            self.threads.append(Work(self.work_queue,self.result_queue))

    """
        初始化工作队列
    """
    def __init_work_queue(self, jobs_list):
        for i in (jobs_list):
            self.add_job(self.func, i)

    """
        添加一项工作入队
    """
    def add_job(self, func, *args):
        self.work_queue.put((func,list(args)))#任务入队，Queue内部实现了同步机制

    """
        等待所有线程运行完毕
    """
    def wait_allcomplete(self):
        for item in self.threads:
            if item.isAlive():item.join()
        while not self.result_queue.empty():
            self.result.append(self.result_queue.get())
        return self.result

class Work(threading.Thread):
    def __init__(self, work_queue,result_queue):
        threading.Thread.__init__(self)
        self.work_queue = work_queue
        self.result_queue = result_queue
        self.start()

    def run(self):
        #死循环，从而让创建的线程在一定条件下关闭退出
        while True:
            try:
                do, args = self.work_queue.get(block=False)#任务异步出队，Queue内部实现了同步机制

                res = do(args)
                self.result_queue.put(res)
                self.work_queue.task_done()#通知系统任务完成
            except:
                break

做个小工具以后方便使用，也可以在这个的基础上改良，目前还没有想到更好的应用场景