Patroni Failover logical slots

Patroni Failover logical slots 提供的功能是:
在一个 PostgreSQL 流复制集群内发生 failover 时可以将旧节点上的逻辑复制槽的信息(主要是几个位置信息)在新主节点上构建。
由于 subscriber 可以防止重复数据,所以即使在主节点切换前,各个逻辑复制备节点上的位置信息落后一点,也没关系。
由于整个方案使用到了 pg_replication_slot_advance 函数,所以从 PostgresSQL 11 支持;

背景

PostgreSQL 从 9.4 开始引入流复制槽和逻辑复制功能,引入这两个功能之后,首先可以通过追踪 restart_lsn 和 confirmed_flush_lsn 来确认 logical decode 需要的 WAL 文件都会被保留,第二个是可以通过追踪 catalog_xmin 来防止可能被 logical decode需要但是已经死掉的 catalog tuple被 PostgreSQL autovacuum 清理掉;

使用逻辑复制槽最大的问题是,PostgreSQL 不支持在 standby 角色的服务上创建逻辑复制槽。因此,如果在一个PostgreSQL 流复制集群内发生 failover 之后,接着在刚刚被 promote 的节点上创建逻辑复制槽的话,可能会丢失事务。

到目前为止,所以在 PostgreSQL 内核实现在 standby 端 logical decode ,然后期望在 failover 到这样的一个 standby 时,可以实现逻辑复制槽重新在新主节点上创建并且不丢失事务的尝试都没有取得很好的效果。但是现在,随着 PostgreSQL 功能的增强,这个问题有望通过外部的工具解决。 Failover slots
Logical replication and physical standby failover 这两篇文章可以补充一下基础知识。

Patroni 的实现

Patroni 没有依赖任何的第三方拓展即实现了 Failover logical slots 功能。
Patroni 实现此功能的主要目标是安全可靠的使用 logical slot,数据库流复制集群内发生 failover 时整个过程中不会丢失事务。

  1. 在 standby 上创建 logical slot。PostgreSQL 不支持在在 standby 上创建 logical slot,但是可以通过如下的步骤来实现。首先 pg_ctl stop 停止 PostgreSQL 进程,然后从 primary 节点拷贝 pg_replslot/$slot_name/state 到 standby 节点,重新启动 PostgreSQL,即可在 standby 节点上查询 logical slot 信息。
  2. 第一步中”创建“逻辑复制槽的操作只会在有资格成为 primary 的节点上执行。比如打了 tags.nofailover 标签的节点将不在考虑范围内。
  3. 从 PostgreSQL 11 开始,新增了 pg_replication_slot_advance() 函数,这个函数可以同时操作 physical slot 和 logical slot。使用此函数可以及时前进更新 replica 节点上的 logical slot 的位置,而不用依赖第三方扩展。
  4. hot_standby_feedback 必须在所有”创建“了 logical slot 的 standby 节点上配置,在所有的级联节点上也需要配置。举个例子:Primary <-- Node1(tags.nofailover=true) <-- Node2;
  5. 主节点持续更新每个 replica 节点关联的复制槽的 catalog_xmin 信息,所以 postgresql.use_slots 必须开启;
  6. Patroni 会持续追踪判断每个带有 logical slot 信息的 standby 是否可以安全可靠地被 promote ,如果不在符合条件,会记录 ERROR 级别地日志。在将来,Patroni 可能会直接移除不再符合条件的 standby。

Patroni 具体实现

PostgreSQL 主节点上的 Patroni 进程将定期将所有 logical slots 的位置信息(last_lsn、restart_lsn、confirmed_flush_lsn等 )更新到 Raft Server (存储到 /status 键下)。
所有带有 logical slot 信息的 standby 节点会定期拉取此信息,并使用 pg_replication_slot_advance() 函数更新当前数据库节点上的所有 logical slot 的位置信息。

参考

Failover logical slots #1820
Logical replication slot inquery

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

陈振阳

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值