标签
PostgreSQL , MySQL , 三节点版 , 金融数据库 , Raft , 分布式共享存储版
背景
终于到了性能篇,三节点同时满足了企业对数据库的可用性、可靠性的要求,那么性能如何呢?
提到性能测试,我有几点一定要说明一下,很多朋友对性能的理解可能有偏差,那么如何评判性能的好坏呢?
1、首先要明确测试的环境,包括数据库主机(主要包括CPU、内存、网卡,如果你的数据库能用上FPGA、GPU的计算能力,还得算上他们,例如PostgreSQL就可以利用GPU和FPGA进行计算加速。)、数据存储(主要是各个块大小、Queue deep的连续、随机IOPS能力,连续、随机读写带宽)、测试机和数据库主机的网络(带宽和RT),测试机的硬件指标。
2、明确参照物,没有参照物我们无法评判性能的好与坏。例如三节点、两节点、单节点的对比。
3、明确测试的benchmark,例如对于OLTP场景,可以按工业标准TPC-C进行测试。或者用户可以自己建模进行测试。而对于MySQL的测试,大家喜欢用sysbench以及sysbench中自带的那些test case。
4、测试中,注意数据库驱动、缓存预热、测试客户端、连接数、测试数据量、测试数据的分布。。。等对测试结果带来的干扰。我曾经就有遇到过有朋友同样的硬件环境,因为各种原因,测试出来的结果大相庭径的。
例如测试客户端,开启了DEBUG日志输出,导致测试TPS下降严重。同样的测试CASE,用JAVA写的和用C写的,测试结果也有一定的差异。
5、数据库、存储、OS、防火墙的优化对测试结果的影响也巨大。如果要对比测试结果,那么环境务必保持一致,包括这些配置。
在考虑到以上因素的情况下,与参照物进行对比(例如pg 9.6和pg 10比较,pg和mysql 比较, 三节点和单节点、2节点的比较等),评判性能的好坏才有价值。
性能评测case设计
相信大家会比较关心三节点和单节点、双节点的性能对比,为了更加贴近现实场景我们来看看架构的区别。
单节这里不多说,没有负担性能肯定是首当其冲的。
我们从双节点开始说。
双节点可以部署在同一机房,也可以部署在同城异地机房。
当双节点部署在同城异地机房时,RT一定是打折扣的,所以对于小事务性能一定会下降明显,但是获得的好处是抵御机房级故障。
同一机房可以获得良好的RT,但是无法抵御机房级故障,也无法同时做到可用性和可靠性,在满足可用性时,可靠性就必须打折扣(因为不能使用完全同步复制)。
对于三节点,部署非常有弹性,我们可以选择同机房+同城机房的部署方法。可以抵御机房级故障,同时还有极好的RT。做到了性能、可靠性兼得。
采样同机房+异地机房的部署方法,不仅能抵御机房故障,还能抵御城市灾难。
对于三节点,还可以选择3机房的部分方法,牺牲一定的RT,可以抵御城市级灾难。
根据以上论证,不难发现,性能和部署有关,部署和保护级别有关。
三节点的部署极为灵活,根据主备节点的分布,抵御的风险级别不一样,当然RT也不一样。
我们可以得出这样的预期。
性能怎么样呢?
三节点 vs 2节点 vs 单节点
阿里云RDS目前提供了单节点、双节点、三节点几种形态的产品。
1、单节点,主打经济实用,虽然是单节点,但是数据存储依旧是有多份的,备份和时间点恢复一个都不少。
2、双节点,经典的一主一备架构,相比单节点可以做到更高的可用性和可靠性。
3、三节点,具备可用性的同时,还具备可靠性(多副本强同步模式,数据0丢失),是企业核心数据库、金融级业务的最佳选择。
在PostgreSQL中,同步模式为事务级可控,目前包含:
异步(到达wal buffer)、本地fsync(持久化)、本地持久化+备库write(到达os buffer)、本地fsync(持久化)+备库fsync(持久化)、本地持久化+备库apply(WAL应用)。
在PostgreSQL中,副本数全局可控,目前包含:
```
{FIRST | ANY } num {(standby_name1 , .... ) | (*) }
```
FIRST为经典模式,排在前面的num个STANDBY为同步备,后面的为候选同步备。
ANY为quorum based模式,表示所有节点都是同步备,到达num指定的足够副本数即可。
根据不同的 "同步模式+副本数" 组合,可以根据业务需求,形成非常灵活的数据库HA架构。
下面分别对比三种形态的性能,给用户一个参考,用户有个直观的认识。
测试环境
1、双节点配置:
32C,80万IOPS,512G内存,同机房10GB网络。同步复制模式(等待超过1秒自动降级为异步模式)。
2、三节点配置(同机房+同城机房版本):
32C,80万IOPS,512G内存,同机房10GB网络,同城机房间网络带宽未知。同步复制模式(至少1个备库响应COMMIT RECORD ACK)。
都不使用分组提交,WAL级别都为replica。
以PostgreSQL 单节点、双节点、三节点为例,对比各个模式的性能。
1、只读事务
预期:
只读事务,不管是几节点,性能是一样的。
-- 构造1000万记录,按PK查询。
create table test1(id int primary key, info text, crt_time timestamp);
insert into test1 select generate_series(1,10000000), md5(random()::text), now();
-- 测试脚本如下,随机按PK查询。
vi test1.sql
\set id random(1,1