python线程池处理文件和Queue

#_*_encoding:utf-8_*_
import threading
import Queue
from DisposeXml import *

class ThreadPoolMgr():
    def __init__(self,work_queue,thread_num=2):
        self.threads=[]
        self.work_queue=work_queue
        self.init_threadpool(thread_num)
    
    def init_threadpool(self,thread_num):
        for i in range(thread_num):
            self.threads.append(Mythread(self.work_queue));
    
    def wait_allcomplete(self):
        for item in self.threads:
            if item.isAlive():
                item.join()
    
    
class Mythread(threading.Thread):
    def __init__(self,work_queue):
        threading.Thread.__init__(self)
        self.work_queue=work_queue
        self.start()
    
    def run(self):
        # 从任务队列中取任务，一直等到任务队列为空
        while not self.work_queue.empty():
            dir = self.work_queue.get()
            os.chdir(dir)
            self.disposeMetaXml=DisposeTableMetaXml(TableMetadataFileName)
            self.disposeMetaXml.Analysis_Metadata()
            if -1==self.disposeMetaXml.connect2Db():
                QMessageBox.about(self,u"失败",u"数据库连接失败")
            self.disposeMetaXml.QueryMysql()
            self.disposeMetaXml.remove_tmp_file()
        print self.getName(),' work queue is empty'
            
    
if __name__=='__main__':
    p=ThreadPoolMgr()
    p.wait_allcomplete()
    
    

python的Queue模块：  import Queue

默认构造的queue大小为0，当然也可以指定大小  myqueue = Queue.Queue(maxsize = 10)

入队  myqueue.put(T)  队列中可以放任何格式对象或者组合。 

调用队列对象的put()方法在队尾插入一个项目。put()有两个参数，第一个item为必需的，为插入项目的值；第二个block为可选参数，默认为1。如果队列当前为空且block为1，put()方法就使调用线程暂停,直到空出一个数据单元。如果block为0，put方法将引发Full异常。

出对 myqueue.get()

调用队列对象的get()方法从队头删除并返回一个项目。可选参数为block，默认为True。如果队列为空且block为True，get()就使调用线程暂停，直至有项目可用。如果队列为空且block为False，队列将引发Empty异常。

python queue模块有三种队列:
1、python queue模块的FIFO队列先进先出。
2、LIFO类似于堆。即先进后出。
3、还有一种是优先级队列级别越低越先出来。 


针对这三种队列分别有三个构造函数:
1、class Queue.Queue(maxsize) FIFO 
2、class Queue.LifoQueue(maxsize) LIFO 
3、class Queue.PriorityQueue(maxsize) 优先级队列 


介绍一下此包中的常用方法:


Queue.qsize() 返回队列的大小 
Queue.empty() 如果队列为空，返回True,反之False 
Queue.full() 如果队列满了，返回True,反之False
Queue.full 与 maxsize 大小对应 
Queue.get([block[, timeout]]) 获取队列，timeout等待时间 
Queue.get_nowait() 相当Queue.get(False)
非阻塞 Queue.put(item) 写入队列，timeout等待时间 
Queue.put_nowait(item) 相当Queue.put(item, False)
Queue.task_done() 在完成一项工作之后，Queue.task_done() 函数向任务已经完成的队列发送一个信号

Queue.join() 实际上意味着等到队列为空，再执行别的操作

明天详细介绍些python的线程。