转:基于ACE应用编程框架——线程池

一、基本的实现模型：
    线程池的实现模型主要有两种：
    1、半同步/半异步模型
    在这种模型中，一个侦听线程负责接受请求，并在某个队列中缓冲它们。另外一组工作者线程负责处理请求。因此接受请求的线程并不是处理请求的线程。
    2、领导者/跟随者模型
    在这种模型中，有一个线程是领导者，其余线程是线程中的跟随者。当请求到达时，领导者首先获取请求，并在跟随者中选取一个作为新的领导者，然后继续处理请求。因此接受请求的线程就是处理请求的线程。
   
二、半同步/半异步模型
    在这种模型中，线程池划分成三个不同的层次：
    异步层，负责接受异步请求
    排队层，对请求进行缓冲
    同步层，多个阻塞在排队层上的处理线程

    一般的半同步/半异步模型会有一个manager线程用于请求消息转发和调度，和一组worker线程构成线程池由manager来统一调度。

    下面是一个半同步/半异步模型的示例，代码摘自APG范例threadpool.cpp，在ACE的源代码发布包中可以找到。下面的代码增加了相关注释，调整了缩进以便于阅读。范例中主要使用ACE一下几个类：ACE_Task，ACE_Message_Block，ACE_Condition，ACE_Unbounded_Queue。

    在这个例子中，异步层被实现为ACE_Task类的子类Manager，它负责在它的底层消息队列上接受请求。
    工作者线程有Worker实现，它也是ACE_Task的子类。
#include "ace/OS.h" #include "ace/Task.h" #include "ace/Thread.h" #include "ace/Synch.h" class Worker; class IManager { public: virtual int return_to_work (Worker *worker) = 0; }; class Worker : public ACE_Task<ACE_MT_SYNCH> { public: Worker (IManager *manager) : manager_(manager) { } //线程启动之后进入本函数 virtual int svc (void) { thread_id_ = ACE_Thread::self(); //工作线程启动之后只有收到MB_HANGUP类型的消息它才会退出 while (1) { ACE_Message_Block *mb = 0; //如果队列中没有数据，本线程将被阻塞 if (this->getq(mb) == -1) ACE_ERROR_BREAK((LM_ERROR, ACE_TEXT ("%p "), ACE_TEXT ("getq"))); // 如果是MB_HANGUP消息，就结束线程 if (mb->msg_type() == ACE_Message_Block::MB_HANGUP) { ACE_DEBUG ((LM_INFO, ACE_TEXT ("(%t) Shutting down "))); mb->release(); break; } // Process the message. process_message (mb); // Return to work. // 这里会将自己放到线程池中，并通过workers_cond_来通知manager this->manager_->return_to_work (this); } return 0; } ACE_thread_t thread_id(void) { return thread_id_; } private: //处理消息 void process_message (ACE_Message_Block *mb) { ACE_TRACE (ACE_TEXT ("Worker::process_message")); int msgId; ACE_OS::memcpy (&msgId, mb->rd_ptr(), sizeof(int)); mb->release(); ACE_DEBUG ((LM_DEBUG, ACE_TEXT ("(%t) Started processing message %d "), msgId)); ACE_OS::sleep(3); ACE_DEBUG ((LM_DEBUG, ACE_TEXT ("(%t) Finished processing message %d "), msgId)); } //指向线程池管理器 IManager *manager_; //保存本线程id号 ACE_thread_t thread_id_; }; class Manager : public ACE_Task<ACE_MT_SYNCH>, public IManager { public: enum {POOL_SIZE = 5, MAX_TIMEOUT = 5}; Manager () : shutdown_(0), workers_lock_(), workers_cond_(workers_lock_) { ACE_TRACE (ACE_TEXT ("Manager::Manager")); } /* 线程处理函数 */ int svc (void) { ACE_TRACE (ACE_TEXT ("Manager::svc")); ACE_DEBUG ((LM_INFO, ACE_TEXT ("(%t) Manager started "))); // Create pool. create_worker_pool(); while (true) { ACE_Message_Block *mb = 0; ACE_Time_Value tv ((long)MAX_TIMEOUT); tv += ACE_OS::time (0); // Get a message request. if (this->getq (mb, &tv) < 0) { shut_down (); break; } // Choose a worker. Worker *worker = 0; /* 这对大括号中的代码从worker线程池中获取一个工作线程，线程池由 this->workers_lock_互斥体加以保护，如果没有worker可用，manager 会阻塞在workers_lock_条件变量上，等待某个线程回来工作 */ { ACE_GUARD_RETURN (ACE_Thread_Mutex, worker_mon, this->workers_lock_, -1); /* 阻塞在workers_lock_.wait()上直到有worker可用，当某个worker回来后 会把自己放到线程池队列上，同时通过触发workers_cond_来通知manager */ while (this->workers_.is_empty ()) workers_cond_.wait (); /* 将获取的worker从线程池队列中删除 */ this->workers_.dequeue_head (worker); } // Ask the worker to do the job. // 将请求消息放入到worker的消息队列中 worker->putq (mb); } return 0; } int shut_down (void) { ACE_TRACE (ACE_TEXT ("ACE_ThreadPool::DestroyPool")); ACE_Unbounded_Queue<Worker* >::ITERATOR iter = this->workers_.begin(); Worker** worker_ptr = NULL; do { iter.next (worker_ptr); Worker *worker = (*worker_ptr); // Send the hangup message. ACE_Message_Block *mb; ACE_NEW_RETURN( mb, ACE_Message_Block(0, ACE_Message_Block::MB_HANGUP), -1); worker->putq(mb); // Wait for the exit. worker->wait(); ACE_ASSERT (worker->msg_queue()->is_empty ()); delete worker; }while (iter.advance()); return 0; }; ACE_thread_t thread_id (Worker *worker); /* 提供给worker的接口，用于在worker完成处理后，将自己放入到线程池队列，并通知manager */ virtual int return_to_work (Worker *worker) { ACE_GUARD_RETURN (ACE_Thread_Mutex, worker_mon, this->workers_lock_, -1); ACE_DEBUG ((LM_DEBUG, ACE_TEXT ("(%t) Worker %u returning to work. "), worker->thr_mgr()->thr_self())); // 将worker放入到线程池队列 this->workers_.enqueue_tail (worker); // 触发条件变量，通知manager this->workers_cond_.signal (); return 0; } private: // 创建worker线程池 int create_worker_pool (void) { ACE_GUARD_RETURN (ACE_Thread_Mutex, worker_mon, this->workers_lock_, -1); for (int i = 0; i < POOL_SIZE; i++) { Worker *worker; // 创建worker ACE_NEW_RETURN (worker, Worker (this), -1); // 放入线程池队列 this->workers_.enqueue_tail (worker); // 激活线程，调用该函数后，worker线程被创建，由于worker // 是ACE_Task的子类，线程激活后，从svc函数开始执行 worker->activate (); } return 0; } private: int shutdown_; /* workers_lock_ 线程池队列的互斥体，在对线程池进行操作时，需要通过互斥锁来保护 所以在所有的线程池队列队列操作前都有这样的语句: ACE_GUARD_RETURN (ACE_Thread_Mutex, worker_mon, this->workers_lock_, -1); */ ACE_Thread_Mutex workers_lock_; ACE_Condition<ACE_Thread_Mutex> workers_cond_; /* 线程池队列 */ ACE_Unbounded_Queue<Worker* > workers_; }; int ACE_TMAIN (int, ACE_TCHAR *[]) { Manager tp; tp.activate (); // Wait for a moment every time you send a message. ACE_Time_Value tv; tv.msec (100); ACE_Message_Block *mb; for (int i = 0; i < 10; i++) { ACE_NEW_RETURN(mb, ACE_Message_Block(sizeof(int)), -1); ACE_OS::memcpy (mb->wr_ptr(), &i, sizeof(int)); ACE_OS::sleep(tv); // Add a new work item. // 这里将请求消息首先发到了manager线程，由manager线程负责分发 tp.putq (mb); } // 主线程等待子线程结束 ACE_Thread_Manager::instance()->wait(); return 0; }