C++11固定式线程池

一、概念

        固定式线程池是一个固定大小的线程池，在创建时会指定线程池中线程的数量。每当有任务提交到线程池时，线程池会启动一个线程来执行任务，直到达到线程池的最大线程数。

二、同步队列（缓冲区）

        同步队列为线程池中三层结构的中间层，主要作用是保证任务队列中，共享数据的线程安全，还为上一层同步服务层添加新任务的接口，以及为下一层异步服务层提供获取任务的接口。同时，还要限制任务数的上限，避免任务过多导致内存暴涨的问题。

        同步队列的实现，会用到C++11互斥锁、条件变量、右值引用、std::move以及完美转发。std::move是为了实现移动语义，std::forward是为了实现完美转发，关于右值引用、移动语义和完美转发。同步队列的锁是用来实现线程同步的，条件变量是用来实现线程间通信的，即线程池空了就要等待，不为空就通知一个线程去处理；线程池满了就等待，直到没有满的时候才通知上层添加任务。

        增加了Stop接口，以便让用户能终止任务，还做了进一步的改进，以提高性能。除了void Take(T& x)接口，每次获取到锁后，只能获取一个数据，其实这时队列中可能有多条数据，如果每条数据都加锁获取，效率是很低的，这里做出改进，做到一次加锁就能将队列中所有数据都取出来，从而大大减少加锁的次数。在获取互斥锁之后，我们不再只获取一条数据，而是通过std::move来将队列中所有数据move到外面去，这样既大大减少了获取数据加锁的次数，又直接通过移动避免了数据的复制，提高了性能。

const int MaxTaskCount=200;//最大任务数量
template<class T>
class SyncQueue
{
private:
    std::list<T> m_queue;//任务缓冲区
    mutable std::mutex m_mutex;//缓冲区互斥
    std::condition_variable m_notEmpty;//消费者的条件变量
    std::condition_variable m_notFull;//生产者的条件变量
    int m_maxSize;//缓冲区任务数上限值
    bool m_needStop;//同步队列的停止标志
    
    bool IsFull()const;
    bool IsEmpty()const;
    template<class F>
    void Add(F&& task);
public:
    SyncQueue(int maxsize);
    ~SyncQueue();//析构调用Stop
    void Put(const T& task);
    void Put(T&& task);
    void Take(std::list<T>& list);
    void Take(T& task);
    void Stop();
    bool Empty()const;
    bool Full()const;
    size_t Size()const;
    size_t Count()const;
};

三、线程池的设计

        一个完整的线程池包括三层：同步服务层、排队层和异步服务层，其实这也是一种生产者-消费者模型，同步层是生产者，不断地将任务添加到排队层中，因此，线程池需要提供一个添加新任务的接口供生产者使用；消费者是异步层，具体是由线程池中预先创建的线程去处理排队层中的任务。排队层是一个同步队列，它内部保证了上下两层对共享数据的安全访问，同时还要保证队列不会被无限制地添加任务导致内存暴涨。另外，线程池还要提供一个停止的接口，让用户能够在需要的时候停止线程池的运行。

        ThreadPool中有3个成员变量，一个是线程组，这个线程组中的线程是预先创建的，应该创建多少个线程由外面传入，一般建议创建CPU核数的线程以达到最优的效率，线程组循环从同步队列中取出任务并执行，如果线程池为空，线程组将处于等待状态，等待任务的到来。另一个成员变量是同步队列，它不仅用来做线程同步，还用来限制同步队列的上限，这个上限也是由使用者设置的。第三个成员变量是用来停止线程池的，为了保证线程安全，我们用到原子变量atomic_bool。