Redis 笔记（12）— 单线程架构（非阻塞 IO、多路复用）和多个异步线程

最新推荐文章于 2024-08-09 18:10:29 发布

wohu007

最新推荐文章于 2024-08-09 18:10:29 发布

阅读量657

点赞数

分类专栏： Redis 文章标签： redis 非阻塞

本文链接：https://blog.csdn.net/wohu1104/article/details/122151798

版权

Redis 专栏收录该内容

28 篇文章 11 订阅

订阅专栏

Redis 使用了单线程架构、非阻塞 I/O 、多路复用模型来实现高性能的内存数据库服务。Redis 是单线程的。那么为什么说是单线程呢？

Redis 在 Reactor 模型内开发了事件处理器，这个事件处理器分为多个 Socket（套接字）、IO 多路复用程序、事件分派器、事件处理器（连接应答处理器、命令请求处理器、命令回复处理器），其中事件派发器的队列是由单线程的事件处理器消费的，也是因为这个，Redis 才叫单线程模型。

当多个事件并发出现时，I/O 多路复用程序将监听到的所有 Socket，关联不同的事件处理器，这个关联操作以有序（sequentially）、同步（synchronously）、每次一个套接字的方式向事件分派器传送 Socket，当上一个套接字产生的事件被处理完毕之后，I/O 多路复用程序才会继续向事件分派器传送下一个套接字。

1. 单线程模型

开启三个 redis-cli 客户端同时执行命令。客户端 1 设置一个字符串键值对：

127.0.0.1:6379> set hello world

客户端 2 对 counter 做自增操作：

127.0.0.1:6379> incr counter

客户端 3 对 counter 做自增操作：

127.0.0.1:6379> incr counter

Redis 客户端与服务端的模型可以简化成下图，每次客户端调用都经历了发送命令、执行命令、返回结果三个过程。
在这里插入图片描述

其中第 2 步是重点要讨论的，因为 Redis 是单线程来处理命令的，所以一条命令从客户端达到服务端不会立刻被执行，所有命令都会进入一个队列中，然后逐个被执行。
在这里插入图片描述
所以上面 3 个客户端命令的执行顺序是不确定的，如下图所示。但是可以确定不会有两条命令被同时执行

所以两条 incr 命令无论怎么执行最终结果都是 2，不会产生并发问题，这就是 Redis 单线程的基本模型。

2. 非阻塞 IO

当我们调用套接字的读写方法，默认它们是阻塞的，比如 read 方法要传递进去一个参数 n，表示最多读取这么多字节后再返回，如果一个字节都没有，那么线程就会卡在那里，直到新的数据到来或者连接关闭了，read 方法才可以返回，线程才能继续处理。而 write 方法一般来说不会阻塞，除非内核为套接字分配的写缓冲区已经满了，write 方法就会阻塞，直到缓存区中有空闲空间挪出来了。

非阻塞 IO 在套接字对象上提供了一个选项 Non_Blocking，当这个选项打开时，读写方法不会阻塞，而是能读多少读多少，能写多少写多少。能读多少取决于内核为套接字分配的读缓冲区内部的数据字节数，能写多少取决于内核为套接字分配的写缓冲区的空闲空间字节数。读方法和写方法都会通过返回值来告知程序实际读写了多少字节。

有了非阻塞 IO 意味着线程在读写 IO 时可以不必再阻塞了，读写可以瞬间完成然后线程可以继续干别的事了。

3. 多路复用（事件轮询）

非阻塞 IO 有个问题，那就是线程要读数据，结果读了一部分就返回了，线程如何知道何时才应该继续读。也就是当数据到来时，线程如何得到通知。写也是一样，如果缓冲区满了，写不完，剩下的数据何时才应该继续写，线程也应该得到通知。

事件轮询 API 就是用来解决这个问题的，最简单的事件轮询 API 是 select 函数，它是操作系统提供给用户程序的 API。输入是读写描述符列表 read_fds & write_fds，输出是与之对应的可读可写事件。同时还提供了一个 timeout 参数，如果没有任何事件到来，那么就最多等待 timeout 时间，线程处于阻塞状态。一旦期间有任何事件到来，就可以立即返回。时间过了之后还是没有任何事件到来，也会立即返回。拿到事件后，线程就可以继续挨个处理相应的事件。处理完了继续过来轮询。于是线程就进入了一个死循环，我们把这个死循环称为事件循环，一个循环为一个周期。

每个客户端套接字 socket 都有对应的读写文件描述符。

read_events, write_events = select(read_fds, write_fds, timeout)
for event in read_events:
    handle_read(event.fd)
for event in write_events:
    handle_write(event.fd)
handle_others()  # 处理其它事情，如定时任务等

因为我们通过 select 系统调用同时处理多个通道描述符的读写事件，因此我们将这类系统调用称为多路复用 API 。

现代操作系统的多路复用 API 已经不再使用 select 系统调用，而改用 epoll(linux) 和 kqueue(freebsd & macosx)，因为 select 系统调用的性能在描述符特别多时性能会非常差。它们使用起来可能在形式上略有差异，但是本质上都是差不多的，都可以使用上面的伪代码逻辑进行理解。

服务器套接字 serversocket 对象的读操作是指调用 accept 接受客户端新连接。何时有新连接到来，也是通过 select 系统调用的读事件来得到通知的。

4. 为什么单线程还能如此快

为什么 Redis 使用单线程模型会达到每秒万级别的处理能力呢？可以将其归结为三点：

纯内存访问，Redis 将所有数据放在内存中，内存的响应时长大约为 100 纳秒，这是 Redis 达到每秒万级别访问的重要基础。
非阻塞 I/O，Redis 使用 epoll 作为 I/O 多路复用技术的实现，再加上 Redis 自身的事件处理模型将 epoll 中的连接、读写、关闭都转换为件，不在网络 I/O 上浪费过多的时间。
单线程避免了线程切换和竞态产生的消耗。

单线程能带来几个好处：