MyCAT性能测试指南

本文介绍了MyCAT的测试工具,包括test_stand_insert_perf.sh和test_stand_select_perf用于性能测试,支持定制化数据插入和查询。详细讲解了如何配置分片表、执行测试步骤和注意事项,如并发处理、SQL模板和最佳实践。
摘要由CSDN通过智能技术生成

测试工具在单独的包中,解压到任意机器中执行使用,跟MyCAT Server没有关联关系,此测试工具很强大,可以测试任意表,和任意数据库,测试工具在:

https://github.com/MyCATApache/Mycat-download 目录下的testtool.tar.gz中。

解压后,在bin目录里运行文中的测试脚本。

当前最新的测试工具的两个测试脚本进行了更新:

标准插入性能测试脚本test_stand_insert_perf.sh支持任意表的定制化业务数据的随机生成功能了,在sql模板文件中用${int(1-100)}这种变量,测试程序会随机生成符合要求的值并插入数据库。

./test_stand_insert_perf.sh  jdbc:mysql://localhost:8066/TESTDBtest test 10 file=mydata-create.sql

其中mydata-create.sql的内容如下:

total=10000000

sql=insertintomy_table1 (….) values ('${date(yyyyMMddHHmmssSSS-[2014-2015]y)}-${int(0-9999)}ok${int(1111-9999)}xxx ','${char([0-9]2:2)} OPP_${enum(BJ,SH,WU,GZ)}_1',10,${int(10-999)},${int(10-99)},100,3,15,'${date(yyyyMMddHHmmssSSS-[2014-2015]y}${char([a-f,0-9]8:8)} ',${phone(139-189)},2,${date(yyyyMMddHH-[2014-2015]y},${date(HHmmssSSS)},${int(100-1000)},'${enum(0000,0001,0002)}')

目前支持的有以下类型变量:

Int:${int(..)} 可以是,${int(10-999)}或者,${int(10,999)}前者表示从10999的值,后者表示10或者999

Date:日期如${date(yyyyMMddHHmmssSSS-[2014-2015]y)}表示从20142015年的时间,前面是输出格式,符合Java标准

Char:字符串${char([0-9]2:2)}表示从09的字符,长度为2位(2:2),}${char([a-f,0-9]8:8)}表示从af以及09的字符串随机组成,定常为8位。

Enmu:枚举,表示从指定范围内获取一个值,${enum(0000,0001,0002)},里面可以是任意字符串或数字等内容。

标准查询性能测试脚本test_stand_select_perf也支持sqlTemplate的变量方式,查询任意指定的sql

./test_stand_select_perf.sh jdbc:mysql://localhost:8066/TESTDB test test 10 100000 file=mysql-select.sql

其中oppcall-select.sql的内容类似下面:

sql=select * from mytravelrecord where id = ${int(1-1000000)}

表明查询id11000000之间的随机SQL

注意:Windowsfile=xxx.slq需要加引号:

test_stand_insert_perf.bat jdbc:mysql://localhost:8066/TESTDB test test 50  "file=oppcall.sql"

首先参考MyCAT性能调优,确保整个系统达到最优配置。

性能测试,建议先小规模压力预热10-20分钟,这是众所周知的Java的特性,越跑越快。

测试的硬件和网络条件:

  • 建议至少3台服务器:
  • MyCAT Server一台
  • Mysql一台
  • 带宽应该是至少100M,建议千兆
  • 压力程序在另一台,压力程序的机器也可以由性能差的机器来代替。

有条件的话,分片库在不同的MYSQL实例上,如20个分片,每个MYSQL实例7个分片,而且最好有多台MYSQL物理机。

分片表的录入性能测试-T01

测试案例:分片表的并发录入性能测试,测试DEMO中的travelrecord表,此表的基准DDL语句:

create travelrecord: create table travelrecord(id bigint not null primary key,user_idvarchar(100),traveldateDATE, fee decimal,daysint);

此表的标准分片方式为基于ID范围的自动分片策略。Schema.xml中配置如下:

<table name="travelrecord" dataNode="dn1,dn2,dn3" rule="auto-sharding-long" />

默认是3个分片,分片ID范围定义在autopartition-long.txt中,建议修改为以下或更大的数值范围分片,每个分片500万数据

# range start-end ,data node index

0-2000000=0

2000001-4000000=1

4000001-6000000=2

根据自己的情况,可以每个分片放更多的数据,进行对比性能测试,当分片index增加时,注意dataNode也增加(dataNode="dn1,dn2,dn3"

测试的输入参数如下[jdbcurl] [user] [password]  [threadpoolsize]  [recordrange]:

Jdbcurl:连接mycat的地址,格式为jdbc:mysql://localhost:8066/TESTDB

User连接Mycat的用户名

Password:密码

Threadpoolsize:并发线程请求,可以在50-2000左右调整,看看哪种情况下的性能最好

Recordrang:插入的分片系列以及对应的ID范围,minId-maxId然后逗号分开,对应多组分片的ID范围,如 0-200000,200001-400000,400001-600000,跟分片配置保持一致

测试过程:

每次测试,建议先执行重建表的操作,以保证测试环境的一致性:

连接mycat 8066端口,在命令行执行下面的操作:

drop table travelrecord;

create table travelrecord(id bigint not null primary key,user_idvarchar(100),traveldateDATE, fee decimal,daysint);

先预测试:

执行命令:

test_stand_insert_perf jdbc:mysql://localhost:8066/TESTDB test test 100 “0-100M,100M1-200M,200M1-400”

MyCAT温馨提示:并发线程数表明同时至少有多少个Mysql连接会被打开,当SQL不跨分片的时候,并发线程数=MYSQL连接数,在Mycatconf/schema.xml中,将minCon设置为>=并发连接数,

这种情况下重启MYCAT,会初始建立minCon个连接,并发测试结果更好,另外,也可以验证是否当前内存设置,以及MYSQL是否支持开启这么多连接,若无法支持,则logs/mycat.log日志中会有告警错误信息,建议测试过程中tail –f logs/mycat.log 观察有无错误信息。另外,开启单独的Mycat管理窗口,mysql–utest–ptest–P9066 然后运行 show @@datasource可以看到后端连接的使用情况。Show @@threadpool可以看线程和SQL任务积压的情况。

也可以同时启动多个测试程序,在不同的机器上,并发进行测试,每个测试程序写入一个分片的数据范围,对于1个亿的数据插入测试来说,可能效果更好,毕竟单机并发线程50个左右已经差不多极限:

  • test_stand_insert_perf jdbc:mysql://localhost:8066/TESTDB test test 100 “0-100M”
    test_stand_insert_perf jdbc:mysql://localhost:8066/TESTDB test test 100 100M1-200M”

    全局表的查询性能测试T02

全局表自动在多个节点上同步插入,因此其插入性能有所降低,这里的插入表为goods表,执行的命令类似T01的测试。温馨提示:全局表是同时往多个分片上写数据,因此所需并发MYSQL数连接为普通表的3倍,最好的模式是全局表分别在多个mysql实例上。

建表语句:

drop table goods;

create table goods(id int not null primary key,namevarchar(200),good_typetinyint,good_img_urlvarchar(200),good_createddate,good_descvarchar(500), price double);

test_globaltable_insert_perf.bat jdbc:mysql://localhost:8066/TESTDB test test 100 1000000

本机笔记本,4G内存,数据库与Mycat以及测试程序都在一起,跑出来每秒1000多的插入速度:

分片表的查询性能测试T03

此测试可以在T01的集成上运行,先生成大量travelrecord记录,然后进行并发随机查询,

此测试是在分片库上,基于分片的主键ID进行随机查询,返回单条记录,多线程并发随机执行N此记录查询,每次查询的记录主键ID是随机选择,在maxID(参数)范围之内。

测试工具test_stand_select_perf的参数如下

[jdbcurl] [user] [password]  [threadpoolsize]  [executetimes] [maxId]

Executetimes:每个线程总共执行多少次随机查询,建议1000次以上

maxIdtravelrecord表的最大ID,可以执行select max(id) from travelrecord来获取。

Example:

test_stand_select_perf.bat jdbc:mysql://localhost:8066/TESTDB test test 100 10000 50000

分片表的汇聚性能测试T04

此测试可以在T01的集成上运行,先生成大量travelrecord记录,然后进行并发随机查询,

此测试执行分片库上的聚合、排序、分页的性能,SQL如下:

select sum(fee) total_fee, days,count(id),max(fee),min(fee) from  travelrecord  group by days  order by days desc limit?

测试工具test_stand_merge_sel_perf的参数如下

[jdbcurl] [user] [password]  [threadpoolsize]  [executetimes] [limit]

Executetimes:每个线程总共执行多少次随机查询,建议1000次以上

limit分页返回的记录个数,必须大于30

Example:

test_stand_merge_sel_perf.bat jdbc:mysql://localhost:8066/TESTDB test test 10 100 100

分片表的更新性能测试T05

此测试可以在T01的集成上运行,先生成大量travelrecord记录,然后进行并发更新操作,

update travelrecord set user =? ,traveldate=?,fee=?,days=? where id=?

测试工具test_stand_update_perf的参数如下

[jdbcurl] [user] [password]  [threadpoolsize]  [record]

record:总共修改多少条记录,>5000

Example:

test_stand_update_perf.bat jdbc:mysql://localhost:8066/TESTDB test test 10 10000

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小小哭包

创作不易,给作者加个鸡腿吧

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值