目录
Redis服务器是事件驱动程序,服务器需要处理以下两类事件
- 文件事件(file event):Redis服务器通过套接字和客户端或其他Redis服务器之间通信,会产生相应的文件事件(文件事件就是套接字的抽象),服务器通过监听并处理文件事件完成一系列网络通信操作。
- 时间事件(time event):Redis服务器中一些操作(如serverCron函数)需要在给定时间点执行,时间事件就是这类定时操作的抽象。
文件事件
Redis基于Reactor模式开发了自己的网络事件处理器,称为文件事件处理器(file event handler),
- 文件事件处理器使用I/O多路复用程序同时监听多个套接字,并根据套接字执行的任务为套接字关联不同的事件处理器
- 当被监听的套接字准备好执行连接应答(accept)、读取(read)、写入(write)、关闭(close)等操作时,就会产生与操作相对应的文件事件,文件处理器会调用套接字之前关联好的事件处理器来处理这些事件
虽然文件事件处理器以单线程方式运行,但是通过I/O多路复用监听多个套接字,既实现了高性能的网络通信模型,又保持了Redis内部单线程设计的简单性。
文件事件处理器的结构
主要包括:套接字、I/O多路复用程序、文件事件分派器、事件处理器
- 文件事件:是对套接字操作的抽象,当套接字准备好执行连接应答、写入、读取、关闭等操作,就会产生一个文件事件,因为一个服务器通过会连接多个套接字,所以多个文件事件可能并发出现。
- I/O多路复用程序:负责监听多个套接字,并向文件事件分派器传送产生事件的套接字,在这个过程中,I/O多路复用程序会将所有产生事件的套接字都在一个队列中,然后通过这个队列以有序、同步、每次一个套接字的方式向文件事件分派器传送套接字。,当一个套接字产生的事件处理完毕后,I/O多路复用程序才会向文件事件分派器传送下一个套接字
- 文件事件分派器:接受I/O对路复用程序传来的套接字,根据套接字产生的事件类型,调用响应的事件处理器
服务器会为不同任务的套接字关联不同的事件处理器,事件处理器是一个函数,定义了某个事件发生,服务器应该执行的动作
文件事件的处理器:
Redis为文件事件编写了多个处理器,这些事件处理器分别用于实现不同的网络通信需求,比如:
- 服务器要为监听套接字关联连接应答处理器。对连接服务器的各个客户端进行应答
- 服务器要为客户端套接字关联命令请求处理器。为了接收客户端传来的命令请求
- 服务器要为客户端套接字关联命令回复处理器,为了向客户端返回命令的执行结果
- 当主服务器和从服务器进行复制操作时,主从服务器都需要关联特别为复制功能编写的复制处理器。
其中与客户端进行通信的连接应答处理器、命令请求处理器和命令回复处理器较常用
连接应答处理器
当Redis服务器进行初始化的时候,程序会将这个连接应答处理器和服务器监听套接字的AE_READABLE事件关联起来,当有客户端用sys/socket.h/connect函数连接服务器监听套接字的时候,套接字就会产生AE_READABLE事件,引发连接应答处理器执行,对应Redis的连接应答处理器函数为:networking.c/acceptTcpHandler函数
命令请求处理器
当客户端段通过连接应答处理器成功连接服务器后,服务器会将客户端套接字的AE_READABLE事件和命令请求处理器关联,当客户端向服务器发送命令请求时,套接字产生AE_READABLE事件并引发命令请求处理器执行套接字读入操作,对应Redis命令请求处理器的函数为networking.c/readQueryFromClient函数,在客户端连接服务器的整个过程,服务器都会一直为客户端套接字的AE_READABLE事件关联命令请求处理器。
命令回复处理器
当服务器有命令回复需要传送给客户端的时候,服务器会将客户端套接字的AE_WRITABLE 事件和命令回复处理器关联起来,当客户端准备好接收服务器传回的命令回复时,就会产生AE_WRITABLE事件,引发命令回复处理器执行,并执行相应的套接字写入操作。当命令回复发送完毕之后,服务器就会解除命令回复处理器与客户端套接字的AE_WRITABLE事件之间的关联。Redis的命令回复处理器函数:networking.c/sendReplyToClient 函数
Redis客户端服务端通信过程
- 假设一个Redis服务器正在运作,那么这个服务器的监听套接字的AE_READABLE事件应该正处于监听状态之下,此时该事件所对应的处理器为连接应答处理器。
- 如果这时有一个Redis客户端向服务器发起连接,则监听套接字将产生AE_READABLE事件,触发连接应答处理器执行。连接应答处理器会对客户端的连接请求进行应答,然后创建客户端套接字并将客户端套接字的AE_READABLE事件与命令请求处理器进行关联,使得客户端可以向主服务器发送命令请求。
- 之后如果客户端向主服务器发送一个命令请求,那么客户端套接字将产生AE_READABLE事件,引发命令请求处理器执行,命令请求处理器读取客户端的命令内容,然后传给相关程序去执行。
- 最后执行命令将产生相应的命令回复,为了将这些命令回复传送回客户端,服务器会将客户端套接字的AE_WRITABLE事件与命令回复处理器进行关联。当客户端尝试读取命令回复的时候,客户端套接字将产生AE_WRITABLE事件,触发命令回复处理器执行,当命令回复处理器将命令回复全部写入到套接字之后,服务器就会解除客户端套接字的AE_WRITABLE事件与命令回复处理器之间的关联。
Redis I/O多路复用
Redis的I/O多路复用程序的所有功能都是通过包装常见的select、epoll、evport和kqueue这些I/O多路复用函数实现,每个多路复用函数库在Redis源码都对应一个单独的文件,比如:ae_select.c、ae_epoll.c、ae_kqueue.c等,Redis为每个I/O多路复用函数库都实现了相同的PI,所以I/O多路复用程序的底层实现是可以互换的,如下:
事件的类型
I/O多路复用程序可以监听多个套接字的ae.h/AE_READABLE事件和ae.h/AE_WRUTABLE事件,这两类事件和套接字操作之间的对应关系如下:
- 当套接字变得可读时(客户端对套接字执行write操作或close操作),或者有新的可应答(acceptable)套接字出现时(客户端对服务器的监听套接字执行connect操作),套接字产生AE_READABLE事件。
- 当套接字变得可写时(客户端对套接字执行read操作),套接字产生AE_WRITABLE事件。
如果一个套接字同时产生了这两种事件,那么文件事件分派器会优先处理AE_READABLE事件,等到AE_READABLE事件处理完之后,才处理AE_WRITABLE事件。这也就是说,如果一个套接字又可读又可写的话,那么服务器将先读套接字,后写套接字。
时间事件
Redis的时间事件主要分为以下两类
- 定时事件:程序在执行时间之后执行一次
- 周期性时间:程序每隔指定时间就执行一次
时间事件主要由以下三个属性组成
- id:服务器为时间事件创建的全局唯一ID,从小到大递增
- when:毫秒进度的UNIX时间戳,记录时间事件的到达(arrive)时间
- timeProc:时间事件处理器,当时间事件到达时,服务器调用响应的处理器处理事件
一个事件是定时事件还是周期性事件,取决于时间事件处理器的返回值,如下不同返回值:
- 返回ae.h/AE_NOMORE,则这个事件为定时事件,事件到达一次后会被删除
- 返回非AE_NOMORE的整数值,则这个事件为周期性事件,当事件到达后根据时间处理器返回的值对时间事件的when属性进行更新
时间事件的实现
服务器将所有时间事件保存在一个无序链表(不按照when排序而是按照ID排序)中,每当时间事件执行器运行时,就会遍历整个链表,查找所有已到达的时间事件,并调用相应的事件处理器。
时间事件应用实例:serverCron函数
Redis服务器需要定期对自身的资源和状态进行检查和调整,Redis服务器以周期性事件的方式运行redis.c/serverCron函数,在服务器运行期间,每隔一段时间,serverCron就执行一次,主要工作包括:
- 更新服务器各类统计信息,比如事件、内存占用、数据库占用等
- 清理数据库中过期键值对
- 关闭和清理连接失效的客户端
- 尝试进行AOF和RDB持久化操作
- 如果服务器是主服务器,对从服务器进行定期同步
- 如果处理集群模式,对集群进行定期同步和测试连接
默认serverCron每秒运行10次,平均每间隔100毫秒运行一次,可以通过修改redis.conf的hz选项调整每秒执行次数。
事件的调度和执行
服务器中同事存在文件事件和时间事件,事件的调度ae.c/aeProcessEvents函数负责,aeProcessEvents函数置于一个循环中,加上初始化和清理函数,构成了Redis服务的主函数,伪代码如下:
def main():
#初始化服务器
init_server()
#一直处理事件,直到服务器关闭为止
while server_is_not_shutdown():
aeProcessEvents()
#服务器关闭,执行清理操作
clean_server()
因为文件事件是随机出现的,如果等待并处理完一次文件事件之后,仍未有任何时间事件到达,那么服务器将再次等待并处理文件事件。随着文件事件的不断执行,时间会逐渐向时间事件所设置的到达时间逼近,并最终来到到达时间,这时服务器就可以开始处理到达的时间事件了。
对文件事件和时间事件的处理都是同步、有序、原子地执行的,服务器不会中途中断事件处理,也不会对事件进行抢占,时间事件在文件事件之后执行,并且事件之间不会出现抢占,所以时间事件的实际处理时间,通常会比时间事件设定的到达时间稍晚一些。