上一篇博客我们介绍了使用shared_ptr来提高群发聊天服务器的并发性能,然而群发服务器不仅面临并发性能瓶颈,由于用户对于实时性要求较高。群发服务器还需要具备低延时的能力,才可以处理存在大量连接时的转发。上一篇博客中展示的群发服务器,采用multip Reactor模式,消息的转发统一的在main reactor所属线程中执行,因为连接队列只有一份,所以转发的效率并不高,从第一个连接到最后一个连接存在较高的延时。画一个不太恰当的示意图:
为了降低服务器的延时,我们可以借助ThreadLocal,在每一个sub reactor所属的线程中创建一个用于存储连接对象的数据结构,有连接请求到来时,将其插入当前处理连接的线程本地连接队列中。这样再有转发业务需要处理的时候,所有线程可以并发的执行转发业务,并且不需要使用锁,大大降低了服务器的延迟时间。kimgbo网络库中直接采用了muduo对于ThreadLocal的封装,可以利用kimgbo网络库方便的实现此功能。经过改进后的程序,所有的sub reactor线程中都存储了一份连接队列,随时可以执行消息转发工作,而main reactor所在的主线程还需要负责调度、分发每个sub reactor