牛刀小试：PostgreSQL高可用之Patroni + etcd

已于 2024-04-12 11:36:28 修改
阅读量1.4k 收藏 15
点赞数 35
文章标签： 后端
于 2024-04-12 09:28:16 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ORACLE_BBED/article/details/137666915
版权

Patroni 是一个流行的开源工具，它用于自动化PostgreSQL的设置和维护，实现高可用性。它与 etcd（一种分布式键值存储系统，通常用于配置共享和服务发现）协同工作，创建一个可靠的环境，确保PostgreSQL数据库在主节点故障时能够持续提供服务。

架构描述

在一个典型的 Patroni + etcd 的高可用架构中，会有以下组件：

  1. Patroni：

    • 每个PostgreSQL实例都配有一个Patroni代理。Patroni负责进行健康检查、故障转移和配置更改。

  2. etcd集群：

    • 作为分布式系统的核心，存储所有Patroni实例的状态信息，包括当前的主数据库节点和配置参数。

架构原理

  1. 启动：

    • 当PostgreSQL实例启动时，Patroni将从etcd中获取当前的集群状态，并根据这个状态对数据库进行初始化。

  2. 领导选举：

    • 如果主数据库不可用，Patroni将触发领导选举过程，etcd中存储的领导选举数据将帮助确定哪个从节点应该被提升为新的主节点。

  3. 健康检查和故障转移：

    • Patroni定期检查每个PostgreSQL实例的健康状况。如果主节点出现问题，Patroni会自动进行故障转移，将从节点提升为新的主节点，并在etcd中更新状态。

  4. 配置更改：

    • 管理员可以通过etcd对集群进行配置更改，Patroni会自动将这些更改应用到所有PostgreSQL实例。

  5. 服务发现：

    • 应用程序使用etcd中的信息来发现当前的主数据库实例，并连接到它进行读写操作。

优势

  • 自动故障转移：在主节点出现故障时自动进行故障转移，减少了系统的停机时间。
  • 简化管理：Patroni简化了数据库集群的管理，包括自动故障恢复、备份和恢复。
  • 分布式系统：etcd的分布式特性确保了集群状态的一致性和可靠性。

Patroni + etcd 架构提供了一个强大的解决方案，用于维护PostgreSQL数据库的高可用性，它适合于需要确保持续运行的关键业务应用。

环境准备

下载安装包及其依赖包到指定目录下
mkdir /root/python3-rpm  
sudo yum install python3 python3-devel --downloadonly --downloaddir=/root/python3-rpm
[root@node3 python3-rpm]# cd /root/python3-rpm/
[root@node3 python3-rpm]# ls -lrt 
total 9956
-rw-r--r-- 1 root root  101080 Jul  4  2014 dwz-0.11-3.el7.x86_64.rpm
-rw-r--r-- 1 root root    4724 Jul  4  2014 perl-srpm-macros-1-8.el7.noarch.rpm
-rw-r--r-- 1 root root   20044 Aug 23  2019 python3-rpm-generators-6-2.el7.noarch.rpm
-rw-r--r-- 1 root root  644052 Aug 23  2019 python3-setuptools-39.2.0-10.el7.noarch.rpm
-rw-r--r-- 1 root root   83048 Aug 23  2019 redhat-rpm-config-9.1.0-88.el7.centos.noarch.rpm
-rw-r--r-- 1 root root 1702324 Oct 15  2020 python3-pip-9.0.3-8.el7.noarch.rpm
-rw-r--r-- 1 root root    8252 Oct 15  2020 python3-rpm-macros-3-34.el7.noarch.rpm
-rw-r--r-- 1 root root    9368 Oct 15  2020 python-rpm-macros-3-34.el7.noarch.rpm
-rw-r--r-- 1 root root    8960 Oct 15  2020 python-srpm-macros-3-34.el7.noarch.rpm
-rw-r--r-- 1 root root   72036 Jun 26 19:57 python3-3.6.8-19.el7_9.x86_64.rpm
-rw-r--r-- 1 root root  222212 Jun 26 19:57 python3-devel-3.6.8-19.el7_9.x86_64.rpm
-rw-r--r-- 1 root root 7287572 Jun 26 19:57 python3-libs-3.6.8-19.el7_9.x86_64.rpm
下载python3
yum install python3 python3-devel -y

[root@node3 python3-rpm]# sudo yum history list python3
Loaded plugins: fastestmirror, langpacks
ID     | Command line             | Date and time    | Action(s)      | Altered
-------------------------------------------------------------------------------
    10 | install python3 python3- | 2023-12-01 20:06 | Install        |   12   
history list
打包 patroni[etcd]
mkdir /root/patroni_etcd_2.1.1
pip3 install patroni[etcd] -i https://mirrors.aliyun.com/pypi/simple/ --download /root/patroni_etcd_2.1.1

[root@node3 patroni_etcd_2.1.1]# cd /root/patroni_etcd_2.1.1
[root@node3 patroni_etcd_2.1.1]# ls -lrt 
total 1952
-rw-r--r-- 1 root root 316464 Dec  1 20:09 patroni-3.2.0-py3-none-any.whl
-rw-r--r-- 1 root root 143835 Dec  1 20:09 urllib3-1.26.18-py2.py3-none-any.whl
-rw-r--r-- 1 root root 125201 Dec  1 20:09 PyYAML-6.0.1.tar.gz
-rw-r--r-- 1 root root  24774 Dec  1 20:09 prettytable-2.5.0-py3-none-any.whl
-rw-r--r-- 1 root root  97486 Dec  1 20:09 click-8.0.4-py3-none-any.whl
-rw-r--r-- 1 root root 496866 Dec  1 20:09 psutil-5.9.6.tar.gz
-rw-r--r-- 1 root root  42808 Dec  1 20:09 ydiff-1.2.tar.gz
-rw-r--r-- 1 root root 247702 Dec  1 20:09 python_dateutil-2.8.2-py2.py3-none-any.whl
-rw-r--r-- 1 root root  37270 Dec  1 20:09 python-etcd-0.4.5.tar.gz
-rw-r--r-- 1 root root 102325 Dec  1 20:09 wcwidth-0.2.9-py2.py3-none-any.whl
-rw-r--r-- 1 root root  17978 Dec  1 20:09 importlib_metadata-4.8.3-py3-none-any.whl
-rw-r--r-- 1 root root  11053 Dec  1 20:09 six-1.16.0-py2.py3-none-any.whl
-rw-r--r-- 1 root root 269084 Dec  1 20:09 dnspython-2.2.1-py3-none-any.whl
-rw-r--r-- 1 root root   5313 Dec  1 20:09 zipp-3.6.0-py3-none-any.whl
-rw-r--r-- 1 root root  26844 Dec  1 20:09 typing_extensions-4.1.1-py3-none-any.whl

[root@node3 ~]# tar -zcvf patroni_etcd_2.1.1.tar.gz patroni_etcd_2.1.1

PostgreSQL + replication 部署

1、安装依赖包
yum -y install readline-devel zlib-devel  gettext-devel openssl openssl-devel  pam pam-devel libxml2 libxml2-devel libxslt libxslt-devel perl perl-devel tcl-devel uuid-devel gcc gcc-c++ make perl-ExtUtils*
2、所有节点关闭防火墙
systemctl stop firewalld.service
systemctl disable firewalld.service
systemctl stop NetworkManager.service
systemctl disable NetworkManager.service
sed -i "s/SELINUX=enforcing/SELINUX=disabled/g" /etc/selinux/config 
setenforce 0
3、设置/etc/hosts
10.211.55.13  node1
10.211.55.14  node2
10.211.55.16  node3
4、内核参数调整
vi /etc/sysctl.conf
fs.file-max = 76724200
kernel.sem = 10000 10240000 10000 102
kernel.shmmni = 4096
kernel.shmall = 253702
kernel.shmmax = 1222191360
net.ipv4.ip_local_port_range = 9000 65500
net.core.rmem_default = 2621
net.core.wmem_default = 2621
net.core.rmem_max = 419430
net.core.wmem_max = 1048576
fs.aio-max-nr = 40960000
vm.dirty_ratio=20
vm.dirty_background_ratio=3
vm.dirty_writeback_centisecs=100
vm.dirty_expire_centisecs=500
vm.swappiness=0
vm.min_free_kbytes=524288
vm.swappiness=0
vm.overcommit_memory=2
vm.overcommit_ratio=75
net.ipv4.ip_local_port_range = 10000 65535

sysctl -p
5、用户limits设置
vi /etc/security/limits.conf
xyc soft nofile 1048576
xyc hard nofile 1048576
xyc soft nproc 131072
xyc hard nproc 131072
xyc soft memlock unlimited
xyc hard memlock unlimited
xyc soft core unlimited
xyc hard core unlimited
xyc soft stack unlimited
xyc hard stack unlimited
6、创建用户和组
groupadd dba -g 2000
useradd xyc --gid 2000 --uid 2000 --create-home
echo "Enmo@2023"|passwd xyc --stdin
7、创建安装目录\数据目录\WAL目录\归档目录
mkdir -p /opt/pg12
mkdir -p /opt/data
mkdir -p /opt/wal

mkdir -p /opt/archive
chown -R xyc:dba /soft /opt
chmod 0700 /opt/data /opt/wal /opt/archive
7、编译安装,所有节点安装PostgreSQL

PostgreSQL的官方网站下载：++https://www.postgresql.org/++

下载文件并解压
# su - xyc
$ cd /soft
tar -xvf postgresql-12.15.tar.bz2

编译
cd postgresql-12.15/
./configure --prefix=/opt/pg12  --with-openssl --with-pgport=5432

安装
使用gmake 或者gmake world
$ gmake world
当看到最后一行显示为：
PostgreSQL, contrib, and documentation successfully made. Ready to install.
说明已经编译成功

使用gmake install或者gmake install-world 进行安装
$ gmake install-world //包含扩展包和文档
当看到最后一行显示为：
PostgreSQL, contrib, and documentation installation complete.
说明已经安装成功

查看版本
$ /opt/pg12/bin/postgres --version
postgres (PostgreSQL) 12.1
8、设置软链接
# cd /opt
# ln -s /opt/pg12 /opt/pgsql
创建一个软链接指向当前版本，当进行版本变更后，不需要调整调用脚本，只需要修改这个软链接即可，后面都会使用这个软链接。

主库初始化数据目录
/opt/pgsql/bin/initdb -D /opt/data -X /opt/wal -EUTF8  -Uxyc -W
9、修改数据库参数
$ vi /opt/data/postgresql.conf
listen_addresses='*'
port=5432
cluster_name='pg200'
max_connections=200
unix_socket_directories='/opt/data'                    
unix_socket_group = 'dba'
unix_socket_permissions = 0700
shared_buffers=256MB
work_mem=50MB
wal_level=logical
archive_mode=always
archive_command='cp %p /opt/archive/%f'
min_wal_size=1GB
max_wal_size=2GB
wal_keep_segments=128
max_wal_senders=10
hot_standby=on
logging_collector=on
log_directory='pg_log'
log_destination=csvlog
log_filename='pg_log_%u.log'
log_file_mode=0600
log_truncate_on_rotation=on
log_rotation_age=1d
log_rotation_size=100MB
log_min_messages=warning
log_min_duration_statement=30
log_checkpoints=on
log_connections=on
log_duration=on
log_lock_waits=on
log_statement='DDL'
10、配置环境变量
$ vi ~/.bashrc
export PGPORT=5432
export PGUSER=xyc
export PGHOME=/opt/pgsql
export PGDATA=/opt/data
export PGHOST=127.0.0.01
export PATH=$PGHOME/bin:$PATH
export LD_LIBRARY_PATH=$PGHOME/lib:/usr/local/lib:/usr/local/lib64:/usr/lib64
11、手工创建日志目录
$ mkdir $PGDATA/log
$ chmod 700 $PGDATA/log
$ touch $PGDATA/log/startup.log
12.手工启停数据库
查看数据库运行状态
$ pg_ctl -D /opt/data status
启动数据库
$ pg_ctl -D /opt/data start &
停止数据库
$ pg_ctl -D /opt/data stop
查看实例进程
$  ps f -u xyc
  PID TTY      STAT   TIME COMMAND
 1323 pts/0    S      0:00 -ba
 1456 pts/0    R+     0:00  \_ ps f -u postgr
 1058 ?        Ss     0:00 /opt/pg12/bin/postgres -D /opt/data6000
 1068 ?        Ss     0:00  \_ postgres: logger 
 1070 ?        Ss     0:00  \_ postgres: checkpointer 
 1071 ?        Ss     0:00  \_ postgres: background writer 
 1072 ?        Ss     0:00  \_ postgres: walwriter 
 1073 ?        Ss     0:00  \_ postgres: autovacuum launcher 
 1074 ?        Ss     0:00  \_ postgres: archiver   last was 000000010000000000000008
 1075 ?        Ss     0:00  \_ postgres: stats collector 
 1076 ?        Ss     0:00  \_ postgres: logical replication launche
12、主节点配置PostgreSQL的访问策略文
vi $PGDATA/pg_hba.conf
#修改为如下：
host    all             all             0.0.0.0/00           md5
13、配置systemctl
# vi /usr/lib/systemd/system/postgresql-12.service 
[Unit]
Description=PostgreSQL 12 database server
After=syslog.target network.target

[Service]
Type=forking
TimeoutSec=120
User=xyc

Environment=PGDATA=/opt/data

ExecStart=/opt/pgsql/bin/pg_ctl start -w -D /opt/data -l /opt/data/log/startup.log
ExecStop=/opt/pgsql/bin/pg_ctl stop -m fast -w -D /opt/data
ExecReload=/opt/pgsql/bin/pg_ctl reload -D /opt/data


[Install]
WantedBy=multi-user.target

通过systemctl启停服务

systemctl daemon-reload
systemctl start postgresql-12
systemctl stop postgresql-12
systemctl reload postgresql-12
systemctl restart postgresql-12
14、主节点安装 pg_stat_statements
cd /soft/postgresql-12.15/contrib/pg_stat_statements/
make && make install

vi $PGDATA/postgresql.conf
# pg_stat_statements
shared_preload_libraries = 'pg_stat_statements'
pg_stat_statements.max = 1000
pg_stat_statements.track = top
pg_stat_statements.track_utility = true
pg_stat_statements.save = true

pg_ctl restart  -D /opt/data/

# 进入 PostgreSQL 数据库安装扩展插件
[2023-11-13 14:29:38] xyc@node1 ~ $ psql -U xyc postgres
psql (12.15)
Type "help" for help.

[2023-11-13 14:29:47] xyc@postgres=# create extension pg_stat_statements;
CREATE EXTENSION

# 确认安装成功
[2023-11-13 14:29:52] xyc@postgres=# select * from pg_stat_statements;
 userid | dbid  |       queryid        |                query                | calls | total_time | min_time  | max_time  | mean_time | stddev_time | rows | share
d_blks_hit | shared_blks_read | shared_blks_dirtied | shared_blks_written | local_blks_hit | local_blks_read | local_blks_dirtied | local_blks_written | temp_blks
_read | temp_blks_written | blk_read_time | blk_write_time 
--------+-------+----------------------+-------------------------------------+-------
     10 | 13593 | -1739183385080879393 | create extension pg_stat_statements |     1 |  41.783084 | 41.783084 | 41.783084 | 41.783084 |           0 |    0 |      
       857 |              139 |                  56 |                   2 |              0 |               0 |                  0 |                  0 |          
    0 |                 0 |             0 |              0
(1 row)

15、部署 replication 同步两个备库
# 主库上创建用于流复制的用户
[2023-11-13 14:32:50] xyc@postgres=# create user replica WITH REPLICATION ENCRYPTED PASSWORD 'replica';
CREATE ROLE

# 配置主库允许接受流复制的连接
[xyc@node1 ~]$ vi $PGDATA/pg_hba.conf 
host    replication     replica         10.211.55.0/24       md5

[xyc@node1 ~]# systemctl reload postgres-13.service
# 建议所有节点配置密码文件

[xyc@node1 ~]$cat >> ~/.pgpass << EOF
# hostname:port:database:username:password
10.211.55.13:5432:replication:replica:replica
10.211.55.14:5432:replication:replica:replica
10.211.55.16:5432:replication:replica:replica
EOF
[xyc@node1 ~]$ chmod 0600 .pgpass

# 所有备库节点执行pg_basebackup命令初始化数据库
su - xyc
pg_basebackup -h 10.211.55.13 -p 5432 -U replica -D $PGDATA -Fp -P -X stream -R -v -l replica_20211016
# 所有备库节点创建PostgreSQL服务postgres-13.service，同主库一样，启动所有备库
pg_ctl start -D /opt/data

# 在主库上查询主备同步状态
select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication;

# 主库创建测试表，插入数据
 create table test_1 (id int4,create_time timestamp(0) without time zone);
insert into test_1 values (1,now());
# 备库查询测试表，确认是否同步成功
select * from test_1;

Etcd 部署和管理

Etcd下载地址： https://mirrors.huaweicloud.com/etcd/v3.5.1/ 文件名： etcd-v3.5.1-linux-amd64.tar.gz Etcd官方文档： https://etcd.io/docs/v3.5/

1、Etcd安装
# 解压目录，创建软链接
mkdir /app
tar -zxvf etcd-v3.5.1-linux-amd64.tar.gz -C /app
mv /app/etcd-v3.5.1-linux-amd64 /app/etcd-v3.5.1
ln -s /app/etcd-v3.5.1 /app/etcd

# 配置环境变量
cat >> /etc/profile << EOF
export PATH=/app/etcd:$PATH
EOF
source /etc/profile
2、所有节点创建 etcd 启动脚本
主节点创建 etcd 启动脚本
vi /app/etcd/start_etcd.sh
/app/etcd/etcd --data-dir=data.etcd \
  --name etcd_pgtest01 \
  --listen-peer-urls http://10.211.55.13:2380 \
  --listen-client-urls http://10.211.55.13:2379,http://127.0.0.1:2379 \
  --initial-advertise-peer-urls http://10.211.55.13:2380 \
  --advertise-client-urls http://10.211.55.13:2379 \
  --initial-cluster-token etcd-cluster-pgtest \
  --initial-cluster etcd_pgtest01=http://10.211.55.13:2380,etcd_pgtest02=http://10.211.55.14:2380,etcd_pgtest03=http://10.211.55.16:2380 \
  --initial-cluster-state new \
  --enable-v2
备节点创建 etcd 启动脚本
备节点1创建 etcd 启动脚本
vi /app/etcd/start_etcd.sh
/app/etcd/etcd --data-dir=data.etcd \
  --name etcd_pgtest02 \
  --listen-peer-urls http://10.211.55.14:2380 \
  --listen-client-urls http://10.211.55.14:2379,http://127.0.0.1:2379 \
  --initial-advertise-peer-urls http://10.211.55.14:2380 \
  --advertise-client-urls http://10.211.55.14:2379 \
  --initial-cluster-token etcd-cluster-pgtest \
  --initial-cluster etcd_pgtest01=http://10.211.55.13:2380,etcd_pgtest02=http://10.211.55.14:2380,etcd_pgtest03=http://10.211.55.16:2380 \
  --initial-cluster-state new \
  --enable-v2

# 备节点2创建 etcd 启动脚本
 vi /app/etcd/start_etcd.sh
/app/etcd/etcd --data-dir=data.etcd \
  --name etcd_pgtest03 \
  --listen-peer-urls http://10.211.55.16:2380 \
  --listen-client-urls http://10.211.55.16:2379,http://127.0.0.1:2379 \
  --initial-advertise-peer-urls http://10.211.55.16:2380 \
  --advertise-client-urls http://10.211.55.16:2379 \
  --initial-cluster-token etcd-cluster-pgtest \
  --initial-cluster etcd_pgtest01=http://10.211.55.13:2380,etcd_pgtest02=http://10.211.55.14:2380,etcd_pgtest03=http://10.211.55.16:2380 \
  --initial-cluster-state new \
  --enable-v2

有节点配置etcd启动脚本可执行权限 chmod +x /app/etcd/start_etcd.sh

3、所有节点配置etcd服务并启动
# 配置服务
# vi /usr/lib/systemd/system/etcd.service
[Unit]
Description=etcd
After=network.target remote-fs.target nss-lookup.target

[Service]
Type=forking
ExecStart=/bin/bash -c "/app/etcd/start_etcd.sh >> /app/etcd/start_etcd.log 2>&1 &"
ExecStop=/usr/bin/killall start_etcd

[Install]
WantedBy=multi-user.target

# 启动服务
systemctl daemon-reload
systemctl start etcd.service
systemctl enable etcd.service
systemctl status etcd
systemctl stop etcd.service
4、检查etcd集群状态
# 检查集群节点的状态
[root@node1 ~]# etcdctl endpoint status --cluster -w table
+--------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
|         ENDPOINT         |        ID        | VERSION | DB SIZE | IS LEADER | IS LEARNER | RAFT TERM | RAFT INDEX | RAFT APPLIED INDEX | ERRORS |
+--------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
| http://10.211.55.14:2379 | 7da7b3e2fde23974 |   3.5.1 |   20 kB |     false |      false |         2 |          8 |                  8 |        |
| http://10.211.55.13:2379 | b25aafbf34512a07 |   3.5.1 |   20 kB |      true |      false |         2 |          8 |                  8 |        |
| http://10.211.55.16:2379 | bf7cf4fbdf4fd62b |   3.5.1 |   20 kB |     false |      false |         2 |          8 |                  8 |        |
+--------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+

# 列出集群中的所有成员
[root@node1 ~]# etcdctl member list -w table
+------------------+---------+---------------+--------------------------+--------------------------+------------+
|        ID        | STATUS  |     NAME      |        PEER ADDRS        |       CLIENT ADDRS       | IS LEARNER |
+------------------+---------+---------------+--------------------------+--------------------------+------------+
| 7da7b3e2fde23974 | started | etcd_pgtest02 | http://10.211.55.14:2380 | http://10.211.55.14:2379 |      false |
| b25aafbf34512a07 | started | etcd_pgtest01 | http://10.211.55.13:2380 | http://10.211.55.13:2379 |      false |
| bf7cf4fbdf4fd62b | started | etcd_pgtest03 | http://10.211.55.16:2380 | http://10.211.55.16:2379 |      false |
+------------------+---------+---------------+--------------------------+--------------------------+------------+
5、检查集群节点健康状况
[root@node1 ~]# etcdctl endpoint health --cluster -w table
+--------------------------+--------+------------+-------+
|         ENDPOINT         | HEALTH |    TOOK    | ERROR |
+--------------------------+--------+------------+-------+
| http://10.211.55.13:2379 |   true | 2.125253ms |       |
| http://10.211.55.16:2379 |   true | 2.130828ms |       |
| http://10.211.55.14:2379 |   true | 2.252558ms |       |
+--------------------------+--------+------------+-------+

Patroni 部署和管理

Patroni 基于 Python 开发的模板，需要运行在 Python 环境下。

1、安装python3
yum install python3 python3-devel -y
[root@node1 ~]# rm -f /usr/bin/python
[root@node1 ~]# ln -s /usr/bin/python3 /usr/bin/python

# python3安装后会报错修改yum的配置
[root@node1 ~]# sed -i "s:\<python\>:python2:g" /usr/bin/yum
[root@node1 ~]# sed -i "s:\<python\>:python2:g" /usr/libexec/urlgrabber-ext-down
2、所有节点使用pip3安装patroni
pip3 install psutil-5.8.0.tar.gz
pip3 install ydiff-1.2.tar.gz
pip3 install *.whl
pip3 install python-etcd-0.4.5.tar.gz
pip3 install psycopg2-binary-2.9.1.tar.gz
pip3 install psycopg2-2.9.1.tar.gz           
3、所有节点配置patroni的参数文件

创建参数文件和日志文件的存放路径

mkdir /app/patroni
主节点创建文件 patroni_config.yml

vi /app/patroni/patroni_config.yml

scope: pg_cluster
namespace: /service
name: pgtest1

log:
  level: INFO
  traceback_level: ERROR
  dir: /app/patroni
  file_num: 10
  file_size: 104857600

restapi:
  listen: 10.211.55.13:8008
  connect_address: 10.211.55.13:8008

etcd:
  host: 10.211.55.13:2379

bootstrap:
  dcs:
    ttl: 30
    loop_wait: 10
    retry_timeout: 10
    maximum_lag_on_failover: 1048576
    max_timelines_history: 0
    master_start_timeout: 300
    master_stop_timeout: 0
    synchronous_mode: false
    postgresql:
      use_pg_rewind: true
      use_slots: true
      parameters:
        max_connections: 3000
        superuser_reserved_connections: 100
        max_locks_per_transaction: 64
        max_worker_processes: 2
        max_prepared_transactions: 0
        wal_level: logical
        wal_log_hints: on
        track_commit_timestamp: off
        max_wal_senders: 10
        max_replication_slots: 10
        wal_keep_size: 4096MB  # wal_keep_size = wal_keep_segments * wal_segment_size = 128 * 32MB 
        hot_standby: "on"
        listen_addresses: "*"
        port: 5432
        cluster_name: "pg_cluster"
        archive_mode: on
        archive_command: "cp %p /opt/archive/%f"

postgresql:
  listen: 0.0.0.0:5432
  connect_address: 10.211.55.13:5432
  data_dir: /opt/data
  pgpass: /home/xyc/.pgpass
  pg_ctl_timeout: 60
  use_pg_rewind: true
  remove_data_directory_on_rewind_failure: false
  remove_data_directory_on_diverged_timelines: true
  authentication:
    replication:
      username: replica
      password: replica
    superuser:
      username: xyc
      password: Enmo@2022

tags:
  nofailover: false
  noloadbalance: false
  clonefrom: false
  nosync: false
备节点1创建文件 patroni_config.yml
vi /app/patroni/patroni_config.yml

scope: pg_cluster
namespace: /service
name: pgtest2

log:
  level: INFO
  traceback_level: ERROR
  dir: /app/patroni
  file_num: 10
  file_size: 104857600

restapi:
  listen: 10.211.55.14:8008
  connect_address: 10.211.55.14:8008

etcd:
  host: 10.211.55.14:2379

bootstrap:
  dcs:
    ttl: 30
    loop_wait: 10
    retry_timeout: 10
    maximum_lag_on_failover: 1048576
    max_timelines_history: 0
    master_start_timeout: 300
    master_stop_timeout: 0
    synchronous_mode: false
    postgresql:
      use_pg_rewind: true
      use_slots: true
      parameters:
        max_connections: 3000
        superuser_reserved_connections: 100
        max_locks_per_transaction: 64
        max_worker_processes: 2
        max_prepared_transactions: 0
        wal_level: logical
        wal_log_hints: on
        track_commit_timestamp: off
        max_wal_senders: 10
        max_replication_slots: 10
        wal_keep_size: 4096MB  # wal_keep_size = wal_keep_segments * wal_segment_size = 128 * 32MB 
        hot_standby: "on"
        listen_addresses: "*"
        port: 5432
        cluster_name: "pg_cluster"
        archive_mode: on
        archive_command: "cp %p /opt/archive/%f"

postgresql:
  listen: 0.0.0.0:5432
  connect_address: 10.211.55.14:5432
  data_dir: /opt/data
  pgpass: /home/xyc/.pgpass
  pg_ctl_timeout: 60
  use_pg_rewind: true
  remove_data_directory_on_rewind_failure: false
  remove_data_directory_on_diverged_timelines: true
  authentication:
    replication:
      username: replica
      password: replica
    superuser:
      username: xyc
      password: Enmo@2022

tags:
  nofailover: false
  noloadbalance: false
  clonefrom: false
  nosync: false
备节点2创建文件 patroni_config.yml
vi /app/patroni/patroni_config.yml
scope: pg_cluster
namespace: /service
name: pgtest3

log:
  level: INFO
  traceback_level: ERROR
  dir: /app/patroni
  file_num: 10
  file_size: 104857600

restapi:
  listen: 10.211.55.16:8008
  connect_address: 10.211.55.16:8008

etcd:
  host: 10.211.55.16:2379

bootstrap:
  dcs:
    ttl: 30
    loop_wait: 10
    retry_timeout: 10
    maximum_lag_on_failover: 1048576
    max_timelines_history: 0
    master_start_timeout: 300
    master_stop_timeout: 0
    synchronous_mode: false
    postgresql:
      use_pg_rewind: true
      use_slots: true
      parameters:
        max_connections: 3000
        superuser_reserved_connections: 100
        max_locks_per_transaction: 64
        max_worker_processes: 2
        max_prepared_transactions: 0
        wal_level: logical
        wal_log_hints: on
        track_commit_timestamp: off
        max_wal_senders: 10
        max_replication_slots: 10
        wal_keep_size: 4096MB  # wal_keep_size = wal_keep_segments * wal_segment_size = 128 * 32MB 
        hot_standby: "on"
        listen_addresses: "*"
        port: 5432
        cluster_name: "pg_cluster"
        archive_mode: on
        archive_command: "cp %p /opt/archive/%f"

postgresql:
  listen: 0.0.0.0:5432
  connect_address: 10.211.55.16:5432
  data_dir: /opt/data
  pgpass: /home/xyc/.pgpass
  pg_ctl_timeout: 60
  use_pg_rewind: true
  remove_data_directory_on_rewind_failure: false
  remove_data_directory_on_diverged_timelines: true
  authentication:
    replication:
      username: replica
      password: replica
    superuser:
      username: xyc
      password: Enmo@2022

tags:
  nofailover: false
  noloadbalance: false
  clonefrom: false
  nosync: false
所有节点创建 patroni 服务并启动
vi /usr/lib/systemd/system/patroni.service
[Unit]
Description=patroni
After=network.target remote-fs.target nss-lookup.target etcd.service
Requires=etcd.service
 
[Service]
Type=forking
User=xyc
Group=dba
Environment="PGHOME=/opt/pgsql"
Environment="PGDATA=/opt/data"
Environment="PGPORT=5432"
Environment="LD_LIBRARY_PATH=/opt/pgsql/lib"
Environment="PATH=/opt/pgsql/bin:/usr/local/bin"
ExecStart=/bin/bash -c "patroni /app/patroni/patroni_config.yml >> /app/patroni/patroni.log 2>&1 &"
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/usr/bin/killall patroni
KillMode=process
TimeoutSec=30
Restart=no

[Install]
WantedBy=multi-user.target

# 启动服务
# systemctl daemon-reload
# systemctl restart patroni.service
# systemctl enable patroni.service
# systemctl status patroni.service

4、所有节点设置patronictl别名，方便维护

cat >> /etc/profile << EOF
alias patronictl='patronictl -c /app/patroni/patroni_config.yml'
EOF
source /etc/profile

patronictl list
5、patronictl list
[root@node1 ~]# patronictl list
+---------+--------------+---------+---------+----+-----------+
| Member  | Host         | Role    | State   | TL | Lag in MB |
+ Cluster: pg_cluster (7301011775213054418) -+----+-----------+
| pgtest1 | 10.211.55.13 | Leader  | running |  6 |           |
| pgtest2 | 10.211.55.14 | Replica | running |  6 |         0 |
| pgtest3 | 10.211.55.16 | Replica | running |  6 |         0 |
+---------+--------------+---------+---------+----+-----------+
6、Switchover方法一
[root@node1 ~]# curl -s http://10.211.55.13:8008/failover -XPOST -d '{"candidate":"pgtest2"}'
[root@node1 ~]# patronictl list
+---------+--------------+---------+---------+----+-----------+
| Member  | Host         | Role    | State   | TL | Lag in MB |
+ Cluster: pg_cluster (7301011775213054418) -+----+-----------+
| pgtest1 | 10.211.55.13 | Replica | running |  7 |         0 |
| pgtest2 | 10.211.55.14 | Leader  | running |  7 |           |
| pgtest3 | 10.211.55.16 | Replica | running |  7 |         0 |
+---------+--------------+---------+---------+----+-----------+
7、Switchover方法二
[root@node2 ~]# patronictl switchover
Master [pgtest2]: 
Candidate ['pgtest1', 'pgtest3'] []: pgtest1
When should the switchover take place (e.g. 2023-11-14T10:39 )  [now]: 
Current cluster topology
+---------+--------------+---------+---------+----+-----------+
| Member  | Host         | Role    | State   | TL | Lag in MB |
+ Cluster: pg_cluster (7301011775213054418) -+----+-----------+
| pgtest1 | 10.211.55.13 | Replica | running |  7 |         0 |
| pgtest2 | 10.211.55.14 | Leader  | running |  7 |           |
| pgtest3 | 10.211.55.16 | Replica | running |  7 |         0 |
+---------+--------------+---------+---------+----+-----------+
Are you sure you want to switchover cluster pg_cluster, demoting current master pgtest2? [y/N]: y
2023-11-14 09:39:12.97581 Successfully switched over to "pgtest1"
+---------+--------------+---------+---------+----+-----------+
| Member  | Host         | Role    | State   | TL | Lag in MB |
+ Cluster: pg_cluster (7301011775213054418) -+----+-----------+
| pgtest1 | 10.211.55.13 | Leader  | running |  7 |           |
| pgtest2 | 10.211.55.14 | Replica | stopped |    |   unknown |
| pgtest3 | 10.211.55.16 | Replica | running |  7 |         0 |
+---------+--------------+---------+---------+----+-----------+

[root@node2 ~]# patronictl list
+---------+--------------+---------+---------+----+-----------+
| Member  | Host         | Role    | State   | TL | Lag in MB |
+ Cluster: pg_cluster (7301011775213054418) -+----+-----------+
| pgtest1 | 10.211.55.13 | Leader  | running |  8 |           |
| pgtest2 | 10.211.55.14 | Replica | running |  8 |         0 |
| pgtest3 | 10.211.55.16 | Replica | running |  8 |         0 |
+---------+--------------+---------+---------+----+-----------+

总结

通过以上step by step的操作，我相信各位少侠都能玩PostgreSQL高可用之Patroni + etcd架构。

强烈建议收藏！

作者介绍：云和恩墨资深Oracle dba，有12年左右的金融、保险、政府、地税、运营商等业务关键型系统的运维经验，曾担任公司异常恢复东区接口人，负责紧急异常恢复工作，技术二线专家。目前负责PG、openGauss/MogDB运维、国产化MogDB数据库的推广工作

alt

本文由 mdnice 多平台发布

老许的数据库收藏柜
关注
postgresql 高可用 patroni + etcd 之二 patroni
一名数据库爱好者的专栏
07-11 5797
os: centos 7.4 postgresql: 9.6.9 etcd: 3.2.18 patroni: 1.4.4 patroni + etcd 是在一个postgrsql 开源大会上 亚信的一个哥们讲解的高可用方案。 依然是基于 postgreql stream replication。 ip规划 192.168.56.101 node1 master 192.168....
postgresql 高可用 patroni + etcd 之三 switchover
一名数据库爱好者的专栏
07-25 1353
os: centos 7.4 postgresql: 9.6.9 etcd: 3.2.18 patroni: 1.4.4 记录一下 etcd、patroni的一些命令，当个手记。 etcd 的一些操作命令 # systemctl status etcd.service # systemctl start etcd.service # systemctl enable etc...
postgresql_cluster：PostgreSQL高可用性集群（基于“ Patroni”和“ DCS（etcd）”）。 使用Ansible自动化部署
01-31
PostgreSQL高可用性集群 :elephant: :sparkling_heart: 部署生产就绪的PostgreSQL高可用性群集（基于“ Patroni”和“ DCS（etcd）”）。 使用Ansible实现自动化。 该Ansible剧本旨在在生产环境的专用物理服务器上部署PostgreSQL高可用性集群。 Сluster可以部署在虚拟机中，用于测试环境和小型项目。 这本手册支持在已经存在并正在运行的PostgreSQL上部署集群。 您必须在清单文件中指定变量postgresql_exists='true' 。 注意！ 在集群模式下运行之前，您的PostgreSQL将被停止。 您必须计划现有数据库的停机时间。 :exclamation_mark: 在生产中使用之前，请在测试环境中对其进行测试。 您有两个可供部署的选项（“ Type A”和“ Type B”）： [Type A]具有负载平衡功能的PostgreSQL高可用性 要使用此方案，请在变量文件vars / main.yml中指定with_haproxy_load_balancing: true 该方案提
【PostgreSQL 】运维篇——PostgreSQL 高可用性架构
最新发布
thinking_chou的专栏
10-07 908
通过配置主从复制、流复制和故障转移，PostgreSQL可以实现高可用性，确保在发生故障时系统能够迅速恢复。上述示例展示了如何设置这些高可用性解决方案，帮助企业在数据安全性和系统可用性方面达到更高的标准。根据业务需求，企业可以选择合适的高可用性策略，以确保其数据库系统在各种情况下的稳定运行。
基于Patroni+etcd+流复制搭建PostgreSQL高可用——筑梦之路
筑梦之路
05-29 2991
是一个基于zk、etcd、consul等的pg ha模板，可以使用python来创建和定制高可用性解决方案。Patroni使用分布式key-value数据库作为数据存储，主节点故障时进行主节点重新选举。通过PG内置的流复制，支持同步和异步复制。由于数据库信息记录在ETCD中，
基于 Patroni 的 PostgreSQL 高可用环境部署
长安 故里
06-11 728
PostgreSQL 是一款功能，性能，可靠性都可以和高端的国外商业数据库相媲美的开源数据库。而且 PostgreSQL 的许可和生态完全开放，不被任何一个单一的公司或国家所操控，保证了使用者没有后顾之忧。国内越来越多的企业开始用 PostgreSQL 代替原来昂贵的国外商业数据库。在部署 PostgreSQL 到生产环境中时，选择适合的高可用方案是一项必不可少的工作。本文介绍基于 Patroni 的 PostgreSQL 高可用的部署方法，供大家参考。
搭建PostgreSQL高可用集群（基于Patroni+Etcd）
mengshicheng1992的博客
03-21 6048
搭建PostgreSQL高可用集群（基于Patroni+Etcd） 此文以PostgreSQL 10版本为例！ 如未指定，下述命令在所有节点执行！ 系统资源及组件规划 节点名称 系统名称 CPU/内存 网卡 磁盘 IP地址 OS 节点角色 PGSQL1 pgsql1 2C/4G ens33 128G 192.168.0.11 CentOS7 PostgreSQL、ETCD、Patroni PGSQL2 pgsql2 2C/4G ens33 128G 192.168.0.12 CentOS
基于patroni+etcd的postgresql高可用搭建
sqlora的专栏
08-16 869
1.环境 centos 7.4 postgresql 10.5 物理ip 192.168.199.240 （node1） 192.168.199.241 （node2） 192.168.199.242 （node3） vip 192.168.199.248 192.168.199.249 2.安装patroni和ectd yum install -y gcc python-devel epel-release yum install -y etcd yum...
PostgreSQL 高可用方案 patroni + etcd + pg部署
Omega29的博客
07-19 868
1.概述 该文档主要记录PG的高可用方案patroni + etcd + pg 的环境部署实施。 2.方案简介 2.2Patroni 简介 Patroni基于Python开发的模板，结合DCS(例如 ZooKeeper, etcd, Consul )可以定制PostgreSQL高可用方案。 Patroni并不是一套拿来即用的PostgreSQL高可用组件，涉及较多的配置和定制工作。 Patroni接管PostgreSQL数据库的启停，同时监控本地的PostgreSQL数据库，并将本地的Postg
postgresql 高可用 patroni + etcd 之八 keepalived
一名数据库爱好者的专栏
10-15 1339
os: ubuntu 16.04 postgresql: 9.6.9 etcd: 3.2.18 patroni: 1.4.4 haproxy: 1.6.3 keepalived: 1.2.24 ip规划 192.168.56.101 node1 master 192.168.56.102 node2 slave 192.168.56.103 node3 slave 192.168.56.104 n...
postgresql 高可用 patroni + etcd 之一 etcd
一名数据库爱好者的专栏
07-11 3641
os: centos 7.4 etcd:3.2.18 etcd + patroni 是在一个postgrsql 开源大会上 亚信的一个哥们讲解的高可用方案。 依然是基于 postgreql stream replication。 这篇blog 主要是讲 etcd 的配置，下一篇blog讲解 patroni 。 ip规划 192.168.56.101 node1 master 19...
postgresql高可用
11-04
postgresql数据库高可用的演进，里面介绍了许多高可用架构情况
Patroni是一个使用ZooKeeper，etcd或Consul的PostgreSQL高可用性模板-python
06-18
Patroni是一个使用ZooKeeper，etcd或Consul的PostgreSQL高可用性模板 Patroni：带有 ZooKeeper、etcd 或 Consul 的 PostgreSQL HA 模板您可以在patroni.readthedocs.io 上找到该文档的一个可搜索且更易于导航的版本。 有很多方法可以使用 PostgreSQL 运行高可用性； 有关列表，请参阅 PostgreSQL 文档。 Patroni 是一个模板，您可以使用 Python 创建自己的定制化、高可用性解决方案，并且为了最大程度的可访问性，分布式配置存储（如 ZooKeeper、etcd 或 Consul）。 希望在数据中心或其他任何地方快速部署 HA PostgreSQL 的数据库工程师、DBA、DevOps 工程师和 SRE 有望发现它有用。 我们称 Patroni 为“模板”，因为它远非一刀切或即插即用的复制系统。 它将有自己的警告。 明智地使用。 Kubernetes 用户注意事项：我们目前正在开发 Patroni，以尽可能对在 Google Compute Engine 上
Patroni + Etcd 方案优缺点
weixin_43084715的博客
07-19 1271
使用分布式key-value数据库作为数据存储，主节点故障时进行主节点重新选举，具有很强的健壮性。数据库信息记录到ETCD中，通过优化部署策略（多机房部署、增加实例数)可以避免脑裂。可以设置备库延迟主库WAL的字节数，当备库延迟大于指定值时不做故障切换。官方文档中解释不清晰，无搭建过程，对于新手来说没有第一把资料。支持switchover命令，能自动将老的主库进行角色转换。当主库实例关闭后，首先会尝试自动拉起;搭建繁琐，需要安装不同的组件，及配置项。当备库实例关闭后，支持自动拉起;......
PostgreSQL高可用集群在360的落地实战
HULK一线技术杂谈
09-09 768
本文主要从以下几个方面介绍PostgreSQL高可用集群在360的落地实战为什么选择Patroni + Etcd + PostgreSQL高可用集群方案PostgreSQL高可用集群在36...
PostgreSQL-Patroni高可用搭建部署
侯晓阳的博客
08-26 835
Patroni高可用，算是PGSQL所有高可用插件中，比较牛掰的了，功能强大，支持自动拉起postgresql实例，将主库变为从库，支持经过watchdog防止脑裂，Patroni自身没有一致性协议，需要通过DCS(分布式配置存储)，如etcd、consul、zookeeper等，来提供一致性模型。
08 域控 架构主机 转移_「PostgreSQL架构」PostgreSQL的最佳群集高可用性方案
weixin_42515158的博客
01-03 451
如果您的系统依赖PostgreSQL数据库并且您正在寻找HA的集群解决方案，我们希望提前告知您这是一项复杂的任务，但并非不可能实现。我们将讨论一些解决方案，您可以从中选择对您的容错要求。PostgreSQL本身不支持任何多主群集解决方案，例如MySQL或Oracle。尽管如此，仍有许多商业和社区产品提供此实现，以及其他产品，例如PostgreSQL的复制或负载平衡。首先，让我们回顾一些基本概念：什...
高可用环境下的Patroni & etcd
肥叔菌的博客
01-13 1303
译者：王志斌 从事数据库产品相关工作，主要致力于postgresql数据库高可用解决方案及云端产品化工作。 作者：CAITLIN STRONG Crunchy Data的产品经常包括高可用。主要是通过Patroni和etcd这两个工具来进行管理的。今天我要探索一下它们是如何工作的。Patroni依赖于etcd 集群的正确操作来决定PostgreSQL做什么。当这两个部分之间的通信中断时，会导致环境不稳定，导致故障转移、集群重新启动，甚至主数据库丢失。为了充分理解这种关系的重要性，我们需要了解这些部分如何工.
Postgresql 高可用
weixin_35757531的博客
02-17 321
PostgreSQL 高可用性指的是系统能够在出现故障时继续提供服务，并且可以尽可能减少停机时间。 实现 PostgreSQL 高可用性的常用方法包括数据冗余、负载均衡和数据库镜像。例如，可以使用冗余数据库来防止单点故障，并使用负载均衡器在多个数据库节点之间分配请求，从而减少单个节点的负载。此外，还可以使用数据库镜像来实现数据的实时备份，以确保数据的安全性。 ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值