很好的设计-服务端网络请求处理模型

几个月前学习了公司内部的网络编程框架,以为记住了,时间久了却忘了,所以在此记录下。

架构的主体是生产-消费模式,生产者负责接收请求建立连接,消费者(也即工作线程)负责处理请求做出响应。

POOL-1


连接队列-保存已建立连接还未有数据到来的sockfd;待处理队列-保存有数据到来的sockfd。

监听线程:

监听listen sockfd并accept新建立的连接,如连接队列已满,则关闭新连接并报错。正常则放入连接队列,并向epoll fd注册监听事件。

利用epoll监听所有已建立连接,有EPOLLIN事件(表示某sockfd有数据过来)时,将该sockfd挪到待处理队列,如果待处理队列満了,则关闭该sockfd;收到EPOLLHUP(sockfd被挂断)和EPOLLERR(sockfd发生错误)时,将sockfd关闭,并从epollfd、连接队列中剔除。

定期检查连接队列中的sockfd,空闲时间超过阈值,关闭sockfd,从epollfd、连接队列中剔除。

工作线程:

不停的从待处理队列中获取sockfd,处理成功后,设置是长连接则将此sockfd放入连接队列并注册到epoll fd;如果是短连接直接关闭sockfd。

POOL-2


监听线程:监听listen sockfd并accept新连接,将新连接注册到监控sockfd最少的网络IO线程中。

网络IO线程:将EPOLLIN的sockfd放入对应的待处理队列。

工作线程:获取sockfd,处理请求、响应请求。

POOL-2支持多个epoll fd,可以更好的利用多CPU;多个(epollfd,连接队列,待处理队列)组降低了锁的粒度,提高并发性。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值