spserver剖析之HS/HA模式

《POSA2》上对所谓的half-sync/half-asyn模式的描述如下：
半同步/半异步体系结构模式将并发系统中的异步和同步服务处理分离，简化了编程，同时又没有降低性能(通常网络模型中异步模型性能明显高于同步模型，但编程难度要复杂得多并且难于调试)。该模式引入了两个通信层，一个用于异步服务处理，另一个用于同步服务处理。

    这个模式最早是由著名的ACE的作者的一篇文章文章提出，其主要思想就是用异步的方式来处理IO操作，而用同步的方式来处理业务逻辑，同步和异步之间使用一个队列作为缓冲。需要同步处理的简易性的应用程序开发者无需考虑异步的复杂性。同时，必须将性能最大化的系统开发者不需要考虑同步处理的低效性。让同步和异步处理服务能够相互通信，而不会使它们的编程模型复杂化或者过度地降低它们的性能。它们之间增加一个排队层协调异步和同步层中的服务之间的通信。在独立线程或进程中同步地处理高层服务（如耗时长的数据库查询或文件传输），从而简化并发编程。相反，异步地处理底层服务（如从网络连接上读取数据），以增强性能。

    很多网络框架都是基于这种模型（如ACE），这种模式在高性能服务端系统中非常普遍（除了epoll+multi-threads/multi-processes）。spserver是个某位仁兄开发的轻量级基于事件驱动的网络框架或者称嵌入式server。它实现了一种HS/HA模式，并且跨平台（在linux下依赖libevent，在windows下依赖iocp和重叠模型）。

（...linux下的实现还没去研究，所以先说说它在windows下的实现原理...）

    首先，IO/Socket通信层交给主线程完成，即通过完成端口IOCP和重叠IO模型进行异步事件驱动：server启动后，单独开了一个监听线程对端口进行监听；而在主线程中将一个IOCP和socket进行绑定，并通过GetQueuedCompletionStatus时刻注视IOCP的动静。当有client连入server后，iocp获得信号，根据完全键的值进入onAccept函数，执行SP_IocpEventHelper::doStart( session )，该操作即是向任务队列中push( new SP_SimpleTask( start, session, 1 ) )。
    其次，在同步层有一个线程池管理线程，当任务队列有任务后负责分配线程执行相应操作。SP_Executor::execute ## mQueue->push( task ) --> SP_IocpEventHelper::start。再执行start中时，PostQueuedCompletionStatus通过dwCompletionKey和lpOverlapped向主线程发出异步信号使得进入addRecv()投递一个WSARecv。使得当socket可读时执行 onRecv >> doDecodeForWork >> dowork ，当然同样需要线程池分配工作线程去work。对数据进行处理后，如响应http请求，在addSend中投递一个WSASend请求。
    最后，将数据发送后关闭session，iocp，扫尾。

 

代码级的剖析 参加《spserver地图 》