利用线程本地存储降低服务器处理延时

        上一篇博客我们介绍了使用shared_ptr来提高群发聊天服务器的并发性能,然而群发服务器不仅面临并发性能瓶颈,由于用户对于实时性要求较高。群发服务器还需要具备低延时的能力,才可以处理存在大量连接时的转发。上一篇博客中展示的群发服务器,采用multip Reactor模式,消息的转发统一的在main reactor所属线程中执行,因为连接队列只有一份,所以转发的效率并不高,从第一个连接到最后一个连接存在较高的延时。画一个不太恰当的示意图:


        为了降低服务器的延时,我们可以借助ThreadLocal,在每一个sub reactor所属的线程中创建一个用于存储连接对象的数据结构,有连接请求到来时,将其插入当前处理连接的线程本地连接队列中。这样再有转发业务需要处理的时候,所有线程可以并发的执行转发业务,并且不需要使用锁,大大降低了服务器的延迟时间。kimgbo网络库中直接采用了muduo对于ThreadLocal的封装,可以利用kimgbo网络库方便的实现此功能。经过改进后的程序,所有的sub reactor线程中都存储了一份连接队列,随时可以执行消息转发工作,而main reactor所在的主线程还需要负责调度、分发每个sub reactor

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值