asds 复制的目的:进行复制中的主从服务器双方的数据库将保存相同的数据,概念上将这种现象称作“ 数据库状态一致",或者简称“ 一致 ” 。
asdsadasdasdasdsadasdasdasdsadassdasdsasdsadsdasdasdsadasdasdsadasdsadassadasdas————《Redis设计与实现》
命令请求的执行过程
asa在 Redis 中,用户可以通过执行 SLAVEOF 命令,让一个服务器去 复制 另一个服务器。被复制的服务器为 主服务器, 而对主服务器进行复制的服务器为 从服务器。
asaeg:127.0.0.1 : 12345 > SLAVEOF 127.0.0.1 6379
旧版复制功能的实现
asa Redis 的复制功能分为 同步 和 命令传播 两个操作:
adssa ①、同步操作用于将从服务器的数据库状态更新至主服务器当前所处的数据库状态。
adssa ②、命令传播操作用于在主服务器的数据库状态被修改,导致主从服务器的数据库状态出现不一致时,让主从服务器的数据库重新回到一致状态。
dsa⒈同步
dsasa当客户端向从服务器 发送 SLAVEOF 命令,要求从服务器复制主服务器时,从服务器 首先需要执行同步操作,也即是,将从服务器的数据库状态更新至主服务器当前所处的数据库状态。
dsasa主从服务器在执行 SYNC 命令期间的通信过程:
addsssa ①、从服务器向主服务器发送 SYNC 命令。
addsssa ②、收到 SYNC 命令的主服务器执行 BGSAVE 命令,在后台生成一个 RDB 文件,并 使用一个缓冲区记录从现在开始执行的所有写命令。
addsssa ③、当主服务器的 BGSAVE 命令执行完毕时,主服务器会将 BGSAVE 命令生成的 RDB 文件发送给从服务器, 从服务器接收并载入这个 RDB 文件,将自己的数据库状态更新至主服务器执行 BGSAVE 命令时的数据库状态。
addsssa ④、主服务器将记录在缓冲区里面的所有写命令发送给从服务器,从服务器执行这些写命令,将自己的数据库状态更新至主服务器数据库当前所处的状态。
dsa⒉命令传播
dsasa在同步操作执行完毕之后,主从服务器两者的数据库将达到一致状态,但这种一致并不是一成不变的,每当主服务器执行客户端发送的写命令时,主服务器的数据库就有可能会被修改,并导致主从服务器状态不再一致。
dsasa为了让主从服务器再次回到一致状态,主服务器需要对从服务器执行命令传播操作:主服务器会将自己执行的写命令,也即是造成主从服务器不一致的那条写命令,发送给从服务器执行,当从服务器执行了相同的写命令之后,主从服务器将再次回到一致状态。
dsa⒊旧版复制功能的缺陷
dsasa在 Redis 中,从服务器对主服务器的复制可以分为 2 种情况:
addsssa ①、初次复制:从服务器以前没有复制过任何主服务器,或者从服务器当前要复制的主服务器和上一次复制的主服务器不同。
addsssa ②、断线后重复制: 处于命令传播阶段的主从服务器因为网络原因而中断了复制,但从服务器通过自动重连接重新连上了主服务器,并继续复制主服务器。
dsasa🐖:为什么断线后重复制的效率低呢?
dsasa🐖:因为在旧版复制功能中,断线后,从服务器会重新连接上主服务器并发送 SYNC 命令,然后将主服务器中数据库的所有状态发送给从服务器。在这种情况下,为了让从服务器补足一小部分缺失的数据,却要让主从服务器重新执行一次 SYNC 命令,这种做法无疑是非常低效的。
dsasa🐖:SYNC 命令是一个非常耗费资源的操作:因为每次执行 SYNC 命令,主从服务器需要执行以下动作:
dsasredsa①、主服务器需要执行 BGSAVE 命令来生成 RDB 文件,这个生成操作会耗费主服务器大量的 CPU 、内存和磁盘 I/O 资源。
dsasdresa②、主服务器需要将自己生成的 RDB 文件发送给从服务器,这个发送操作会耗费主从服务器大量的网络资源(带宽和流量),并对主服务器响应命令请求的时间产生影响。
dsasredsa③、接收到 RDB 文件的从服务器需要载入主服务器发来的 RDB 文件,并且在载入期间,从服务器会因为阻塞而没办法处理命令请求。
dsasredsa总之,因为 SYNC 命令是一个如此耗费资源的操作,所以 Redis 有必要保证在真正有需要时才执行SYNC 命令。
dsa⒋新版复制功能的实现
dsasa为了解决旧版复制功能在处理断线重复制情况时的低效问题, Redis 从 2.8 版本开始,使用 PSYNC 命令代替 SYNC 命令来执行复制时的同步操作。
dsasaPSYNC 命令具有 完整重同步 和 部分重同步 两种模式:
addsssa ①、完整重同步:用于处理初次复制情况,完整重同步的执行步骤和 SYNC 命令的执行步骤基本一样,它们都是通过让主服务器创建并发送 RDB 文件,以及向从服务器发送保存在缓冲区里面的写命令来进行同步。
addsssa ②、部分重同步: 处于命令传播阶段的主从服务器因为网络原因而中断了复制,但从服务器通过自动重连接重新连上了主服务器,并继续复制主服务器。(但不是复制主服务器数据库的所有状态,而是 复制断线后主服务器数据库多出的状态)
部分重同步的实现(细节处理)
dsa部分重同步功能由以下三个部分构成:
ddssa ①、主服务器的 复制偏移量 和 从服务器的复制偏移量。
ddssa ②、主服务器的 复制积压缓冲区 。
ddasa ③、服务器的 运行 ID。
dsa⒈复制偏移量
dsasa执行复制的双方,主服务器和从服务器会 分别维护一个复制偏移量:
dsasasa①、主服务器每次向从服务器传播 N 个字节的数据时,就将自己的复制偏移量的值吧加上 N 。
dsasasa②、从服务器每次收到主服务器传播来的 N 个字节的数据时,就将自己的复制偏移量的值 加上 N 。
dsasa通过对比主从服务器的复制偏移量,程序可以很容易地知道主从服务器 是否处于一致状态:
dsasasa①、如果主从服务器处于一致状态,那么主从服务器两者的偏移量总是相同的。
dsasasa②、如果主从服务器两者的偏移量并不相同,那么说明主从服务器并未处于一致状态。
dsa⒉ 复制积压缓冲区
dsasa复制积压缓冲区是由主服务器维护的一个固定长度、先进先出 ( FIFO ) 队列,默认大小为1MB 。 (固定长度先进先出队列的入队和出队规则跟普通的先进先出队列一样:新元素从一边进入队列,而旧元素从另一边弹出队列。)
dsasa当主服务器进行命令传播时,它不仅会将写命令发送给所有从服务器,还会将写命令入队到复制积压缓冲区里面。因此,主服务器的复制积压缓冲区里面会保存着一部分最近传播的写命令,并且复制积压缓冲区会为队列中的每个字节记录相应的复制偏移量,
dsasa当从服务器重新连上主服务器时,从服务器会通过 PSYNC 命令将自己的复制偏移量 offset 发送给主服务器, 主服务器会根据这个复制偏移量来决定对从服务器执行部分何种同步操作:
ddssa ①、如果 offset 偏移量之后的数据(也即是偏移量 offset+1 开始的数据) 仍然存在于复制积压缓冲区里面,那么主服务器将对从服务器执行部分重同步操作。
ddssa ②、如果 offset 偏移最之后的数据 巳经不存在于复制积压缓冲区,那么主服务器将对从服务器执行完整重同步操作。
dsasa🐖:Redis 为复制积压缓冲区设置的默认大小为 1 MB, 如果主服务器需要执行大量写命令,又或者主从服务器断线后重连接所需的时间比较长,那么这个大小也许并不合适。如果复制积压缓冲区的大小设置得不恰当,那么 PSYNC 命令的复制重同步模式就不能正常发挥作用,因此,正确估算和设置复制积压缓冲区的大小非常重要。
dsa⒊ 服务器运行ID
dsasa除了复制偏移量和复制积压缓冲区之外,实现部分重同步还需要用到服务器运行ID:
dsasa每个Redis 服务器,不论主服务器还是从服务,都会有自己的运行 ID。运行 ID 在服务器启动时自动生成,由 40 个随机的 十六进制字符 组成。
dsasa当从服务器对主服务器进行初次复制时,主服务器会将自己的运行 ID 传送给从服务器,而从服务器则会将这个运行ID 保存起来。当从服务器断线并重新连上一个主服务器时,从服务器将向当前连接的主服务器发送之前保存的运行ID:
dsadssa①、如果从服务器保存的运行ID 和当前连接的主服务器的 运行ID相同,那么说明从服务器断线之前复制的就是当前连接的这个主服务器,主服务器可以继续尝试执行部分重同步操作。
dsadssa②、相反地,如果从服务器保存的运行 ID 和当前连接的主服务器的运行ID 并 不相同,那么说明从服务器断线之前复制的主服务器并不是当前连接的这个主服务器,主服务器将对从服务器执行完整重同步操作。
PSYNC 命令的实现
dsa PSYNC 命令的调用方法有 2 种:
dsass①、如果从服务器以前没有复制过任何主服务器,或者之前执行过 SLAVEOF no one 命令,那么从服务器在开始一次新的复制时将向主服务器发送 PSYNC ? -1 命令,主动请求主服务器进行完整重同步(因为这时不可能执行部分重同步)。
dsass②、相反地,如果从服务器巳经复制过某个主服务器,那么从服务器在开始一次新的复制时将向主服务器发送 PSYNC < runid> < offset> 命令:其中 runid 是上一次复制的主服务器的运行 ID, 而 offset 则是从服务器当前的复制偏移量,接收到这个命令的主服务器会通过这两个参数来判断应该对从服务器执行哪种同步操作。
dsa接收到 PSYNC 命令的主服务器会向从服务器返回以下 3 种回复的其中一种:
dsass①、如果主服务器返回 +FULLRESYNC < runid> < offset> 回复, 那么表示主服务器将与从服务器 执行完整重同步操作: 其中 runid 是这个主服务器的运行 ID, 从服务器会将这个 ID 保存起来,在下一次发送 PSYNC 命令时使用;而 offset 则是主服务器当前的复制偏移量,从服务器会将这个值作为自己的初始化偏移量。
dsass②、如果主服务器返回 +CONTINUE 回复,那么表示主服务器将与从服务器 执行部分重同步操作,从服务器只要等着主服务器将自己缺少的那部分数据发送过来就可以了。
dsass③、如果主服务器返回 ERR 回复,那么表示主服务器的版本低于 Redis 2.8, 它识别不了 PSYNC 命令,从服务器将向主服务器发送 SYNC 命令,并与主服务器 执行完整同步操作。
复制的实现
dsa 通过向从服务器发送 SLAVEOF 命令:SLAVEOF < master_ip> < master_port>,让一个从服务器去复制一个主服务器。
dsa 步骤 ⒈ : 设置主服务器的地址和端口
dsasa当客户端向从服务器发送以下命令时:127.0.0.1 : 12345 > SLAVEOF 127.0.0.1 6379,从服务器首先要做的就是将客户端给定的主服务器 IP 地址 127.0.0.1 以及端口 6379 保存到服务器状态的 masterhost 属性和masterport属性里面:
dsasa🐖:SLAVEOF 命令是一个异步命令,在完成 masterhost 属性和 masterport 属性的设置工作之后,从服务器将向发送 SLAVEOF 命令的客户端返回 OK , 表示复制指令已经被接收,而 实际的复制工作将在 OK 返回之后才真正开始执行。
dsa 步骤 2:建立套接字连接
dsasa在 SLAVEOF 命令执行之后, 从服务器将根据命令所设置的IP 地址和端口, 创建连向主服务器的套接字连接。如果从服务器创建的套接字能成功连接到主服务器,那么从服务器将为这个套接字关联一个专门用于处理复制工作的文件事件处理器,这个处理器将负责执行后续的复制工作。而主服务器在接受从服务器的套接字连接之后,将为该套接字创建相应的客户端状态,并将从服务器看作是一个连接到主服务器的客户端来对待。(这时从服务器将同时具有 服务器 和 客户端 两个身份:从服务器可以向主服务器发送命令请求,而主服务器则会向从服务器返回命令回复)
dsa 步骤 ⒊:发送 PING 命令
dsasa从服务器成为主服务器的客户端之后,做的第一件事就是向主服务器发送一个 PING 命令。
dsasa PING 的作用:
dsadssa①、检查套接字的读写状态是否正常:虽然主从服务器成功建立起了套接字连接,但双方并未使用该套接字进行过任何通信,通过发送 PING 命令可以检查套接字的读写状态是否正常。
dsadssa②、检查主服务器能否正常处理命令请求:因为复制工作接下来的几个步骤都必须在主服务器可以正常处理命令请求的状态下才能进行,通过发送 PING 命令可以检查主服务器能否正常处理命令请求。
dsasa从服务器在发送 PING 命令之后将遇到以下三种情况的其中一种:
dsadssa①、超时未读取回复信息:如果主服务器向从服务器返回了一个命令回复,但从服务器却不能在规定的时限内读取出命令回复的内容,那么表示主从服务器之间的网络连接状态不佳,不能继续执行复制工作的后续步骤。当出现这种情况时,从服务器断开并重新创建连向主服务器的套接字。
dsadssa②、返回错误信息:如果主服务器向从服务器返回一个错误,那么表示主服务器暂时没办法处理从服务器的命令请求,不能继续执行复制工作的后续步骤。当出现这种情况时,从服务器断开并重新创建连向主服务器的套接字。
dsadssa③、连接正常:如果从服务器读取到" PONG "回复,那么表示主从服务器之间的网络连接状态正常,并且主服务器可以正常处理从服务器(客户端)发送的命令请求,在这种情况下,从服务器可以继续执行复制工作的下个步骤。
dsa 步骤 ⒋:身份验证
dsasa 从服务器在收到主服务器返回的 " PONG " 回复之后,下一步要做的就是决定是否进行身份验证:
d dssa如果从服务器设置了 masterauth 选项,那么进行身份验证。(如果没有设置该选项,则不进行身份验证)
dsasa在需要进行身份验证的情况下,从服务器将向主服务器发送一条 AUTH 命令,命令的参数为从服务器 masterauth 选项的值。
dsasa从服务器在身份验证阶段可能遇到的情况有以下几种:
dsadssa①、从主服务器都没设置: 如果主服务器没有设置 requirepass 选项,并且从服务器也没有设置 masterauth选项,那么主服务器将继续执行从服务器发送的命令,复制工作可以继续进行。
dsadssa②、从主服务器都设置且密码相同: 如果从服务器通过 AUTH 命令发送的密码和主服务器 requirepass 选项所设置的密码相同,那么主服务楛将继续执行从服务器发送的命令,复制工作可以继续进行。与此相反,如果主从服务器设置的密码不相同,那么主服务器将返回一个 invalid password 错误。
dsadssa③、从主服务器其中一个没设置: 如果主服务器设置了 requirepass 选项,但从服务器却没有设置 masterauth 选项,那么主服务器将返回一个 NOAUTH 错误。另一方面,如果主服务器没有设置 requirepass 选项,但从服务器却设置了 masterauth 选项,那么主服务器将返回一个 no password is set 错误。
dsasa🐖:所有错误情况都会令从服务器中止目前的复制工作,并从创建套接字开始重新执行复制,直到身份验证通过,或者从服务器放弃执行复制为止。
dsa 步骤⒌ : 发送端口信息
dsasa 在身份验证步骤之后,从服务器将执行命令REPLCONF listening-port < portnumber>,向主服务器发送从服务器的监听端口号。portnumber 是监听端口。
dsasa主服务器在接收到这个命令之后,会将端口号记录在从服务器所对应的客户端状态的 slave_listening_port 属性中。slave_ listening _ port 属性目前唯一的作用就是在主服务器执行INFO replication 命令时 打印出从服务器的端口号。
dsa 步骤⒍ :同步
dsasa 在这一步,从服务器将向主服务器发送 PSYNC 命令, 执行同步操作,并将自己的数据库更新至主服务器数据库当前所处的状态。
dsasa值得一提的是, 在同步操作执行之前,只有从服务器是主服务器的客户端,但是在执行同步操作之后,主服务器也会成为从服务器的客户端:
dsasa①、如果 PSYNC 命令执行的是完整重同步操作,那么主服务器需要成为从服务器的客户端,才能将保存在缓冲区里面的写命令发送给从服务器执行。
dsasa②、如果 PSYNC 命令执行的是部分重同步操作,那么主服务器需要成为从服务器的客户端,才能向从服务器发送保存在 复制积压缓冲区里面的写命令。
dsasa因此,在同步操作执行之后,主从服务器双方都是对方的客户端,它们可以互相向对方发送命令请求,或者互相向对方返回命令回复。
dsasa🐖:正因为主服务器成为了从服务器的客户端,所以主服务器才可以通过发送写命令来改变从服务器的数据库状态,不仅同步操作需要用到这一点,这也是主服务器对从服务器执行命令传播操作的基础。
dsa 步骤⒎ 命令传播
dsasa 当完成了同步之后,主从服务器就会进入命令传播阶段,这时主服务器只要一直将自己执行的写命令发送给从服务器,而从服务器只要一直接收并执行主服务器发来的写命令,就可以保证主从服务器一直保持一致了。
dsasa🐖:以上就是 Redis 2.8 或以上版本的复制功能的实现步骤。
心跳检测
dsa 在命令传播阶段,从服务器默认会以每秒一次的频率,向主服务器发送命令:REPLCONF ACK < replication_offset> ,其中 replication_offset 是从服务器当前的复制偏移量。
dsa发送REPLCONF ACK 命令对于主从服务器有三个作用:
dsa①、检测主从服务器的网络连接状态。
dsa②、辅助实现 min-slaves 选项。
dsa③、检测命令丢失。
dsa 步骤 ⒈:检测主从服务器的网络连接状态
dsasa 主从服务器可以通过发送和接收 REPLCONF ACK 命令来检查两者之间的网络连接是否正常:如果主服务器超过一秒钟没有收到从服务器发来的 REPLCONF ACK 命令,那么主服务器就知道主从服务器之间的连接出现问题了。
dsa 步骤 ⒉:辅助实现 min-slaves 配置选项
dsasa Redis 的 min-slaves-to-write 和 min-slaves-max-lag 两个选项可以防止主服务器在不安全的情况下执行写命令。
dsasaeg:我们向主服务器提供以下设置:min-slaves-to- write 3 ; min-slaves-max-lag 10
dsasdsa那么在从服务器的数量 <3 个,或者三个从服务器的延迟(lag)值都 ≥10 秒时,主服务器将拒绝执行写命令,这里的延迟值就是上面提到的 INFO replication 命令的 lag 值。
dsa 步骤 ⒊:检测命令丢失
dsasa 如果因为网络故障,主服务器传播给从服务器的写命令在半路丢失,那么当从服务器向主服务器发送 REPLCONF ACK 命令时,主服务器将发觉从服务器当前的复制偏移量 < 自己的复制偏移量,然后主服务器就会根据从服务器提交的复制偏移量,在复制积压缓冲区里面找到从服务器缺少的数据,并将这些数据重新发送给从服务器。
dsasa🐖:主服务器向从服务器补发缺失数据这一操作的原理和部分重同步操作的原理非常相似,这两个操作的区别在于,补发缺失数据操作在主从服务器没有断线的情况下执行,而部分重同步操作则在主从服务器断线并重连之后执行。
总结:
dsa ①、Redis 2.8 以前的复制功能不能高效地处理断线后重复制情况,但 Redis 2.8 新添加的部分重同步功能可以解决这个问题。
dsa ②、部分重同步 通过 复制偏移量、复制积压缓冲区、服务器运行ID 三个部分来实现。
dsa ③、在复制操作刚开始的时候,从服务器会成为主服务器的客户端,并通过向主服务器发送命令请求来执行复制步骤,而在复制操作的后期,主从服务器会互相成为对方的客户端。
dsa ④、主服务器通过向从服务器传播命令来更新从服务器的状态,保持主从服务器一致,而从服务器则通过向主服务器发送命令来进行心跳检测,以及命令丢失检测。