【Redis】IO多路复用 epoll/select/kqueue/evport

Redis的网络IO实现:

c系列已经有libevent、libev等网络库,但是 redis 还是根据不同系统的网络IO函数封装成接口实现了 ae_c 模块、以很少的代码高效简洁实现了事件机制。

IO多路复用原理:

好处是单个process就可以同时处理多个网络连接的IO。它的基本原理就是select,poll,epoll,kqueue这些个function会不断的轮询所负责的所有socket,当某个socket就绪(一般是读就绪或者写就绪),就通知用户进程,调用用户函数。

epoll模式:

epoll_create(1024)     //创建epoll

epoll_ctl(state->epfd,op,fd,&ee) == -1)    //注册事件

epoll_wait(state->epfd,state->events,eventLoop->setsize,tvp ? (tvp->tv_sec*1000 + tvp->tv_usec/1000) : -1);    //等待事件

select模式:

select(eventLoop->maxfd+1,&state->_rfds,&state->_wfds,NULL,tvp);    //创建select,无限期阻塞等待文件描述符变动

for (j = 0; j <= eventLoop->maxfd; j++)    //获取监听的描述符,判断是accept、read等等

不同模式的实现和区别:

select低效是因为每次它都需要轮询。但低效也是相对的,视情况而定,也可通过良好的设计改善。

epoll, kqueue是Reacor模式,IOCP是Proactor模式。java nio(newio)包是select模型。

1.select:

当用户进程调用了select,那么整个进程会被block,而同时,kernel会“监视”所有select负责的socket,当任何一个socket中的数据准备好了,select就会返回。这个时候用户进程再调用read操作,将数据从kernel拷贝到用户进程。

会监听三种文件描述符 writefds、readfds、exceptfds。优点是实现简单基本各个操作系统平台都实现了。缺点是单个进程打开的文件描述有默认1024限制,另外内核用数组保存这1024个文件描述并顺序扫描是否变动,扫描效率低一点。

2.epoll

是selsect和早期poll升级版,epoll使用一个文件描述符管理多个描述符,将用户关系的文件描述符的事件存放到内核的一个事件表中,这样在用户空间和内核空间的copy只需一次。监视的描述符数量不受限制,它所支持的FD上限是最大可以打开文件的数目,这个数字一般远大于2048,举个例子,在1GB内存的机器上大约是10万左 右,具体数目可以cat /proc/sys/fs/file-max察看,一般来说这个数目和系统内存关系很大。IO的效率不会随着监视fd的数量的增长而下降。epoll不同于select和poll轮询的方式,而是通过每个fd定义的回调函数来实现的。只有就绪的fd才会执行回调函数。

int epoll_create(int size); 创建一个epoll的句柄,size用来告诉内核这个监听的数目一共有多大

int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event); 函数是对指定描述符fd执行op操作。

int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout); 等待epfd上的io事件,最多返回maxevents个事件。

3.kqueue

kqueue与epoll非常相似,最初是2000年Jonathan Lemon在FreeBSD系统上开发的一个高性能的事件通知接口。注册一批socket描述符到 kqueue 以后,当其中的描述符状态发生变化时,kqueue 将一次性通知应用程序哪些描述符可读、可写或出错了。

redis的不同的IO多路复用在 ae.c 根据环境来 inckude 进去不同的实现:

#ifdef HAVE_EVPORT
#include "ae_evport.c"
#else
    #ifdef HAVE_EPOLL
    #include "ae_epoll.c"
    #else
        #ifdef HAVE_KQUEUE
        #include "ae_kqueue.c"
        #else
        #include "ae_select.c"
        #endif
    #endif
#endif

全局搜索 aeApiCreate 可以看到默认的4中实现:

在主线程开启事件循环,监听通道事件时调用的事件轮询函数:

入口函数是 initServer(),Redis使用不同的函数来兼容各个平台,在Linux平台使用epoll,在BSD使用kqueue,都不是的话,最终会使用select。Redis轮询新的连接以及I/O事件,有新的事件到来时就会及时作出响应。

整个网络初始化流程:

【log】server.c initServerConfig() 服务配置初始化
【log】server.c initServer() 服务初始化
【log】ae.c aeCreateEventLoop()    创建 eventLoop
【log】ae_select.c aeApiCreate() 创建 eventLoop
【log】server.c server.el 成员,事件循环对象 aeEventLoop
【log】server.c listenToPort() 打开Tcp监听端口,等待客户端连接和请求
【log】ae.c aeCreateTimeEvent() 创建时间事件,每毫秒秒调用一次 serverCron 用于后台任务触发
【log】server.c 处理链接创建处理器:acceptTcpHandler
【log】ae.c aeCreateFileEvent() 设置 socket 事件的回调处理函数
【log】ae.c aeCreateFileEvent() 设置 socket 事件的回调处理函数
【log】server.c InitServerLast() 开始创建线程资源 后台worker线程/网络IO线程
【log】bio.c bioInit() 后台任务worker初始化,工作队列bio_jobs,work线程个数:3
【log】networking.c initThreadedIO() 网络io初始化,这里只需要一个线程就能监听所有网络IO事件
【log】server.c redisSetCpuAffinity() 绑定线程和cpu,当前线程:42949672976,配置的cpu:(null)
【log】ae.c 启动事件监听
【log】ae.c aeProcessEvents() 事件轮训
【log】ae_select.c aeApiPoll() 轮询
【log】ae.c aeProcessEvents() 事件轮训
【log】ae_select.c aeApiPoll() 轮询
【log】ae.c aeProcessEvents() 事件轮训
【log】ae_select.c aeApiPoll() 轮询

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

0x13

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值