MySQL基准测试
什么是基准测试?
定义∶
基准测试是一种测量和评估软件性能指标的活动用于建立某个时刻的性能基准,以便当系统发生软硬件变化时重新进行基准测试以评估变化对性能的影响。
压力测试需要针对不同主题,所使用的数据和查询也是真实用到的
基准测试可能不关心业务逻辑,所使用的查询和业务的真实性可以和业务环境没关系
基准测试的目的
- 建立MySQL服务器的性能基准线确定当前MySQL服务器运行情况
- 模拟比当前系统更高的负载,以找出系统的扩展瓶颈增加数据库并发,观察QPS,TPS变化,确定并发量与性能最优的关系
- 测试不同的硬件、软件和操作系统配置
- 证明新的硬件相关配置是否正确
如何进行基准测试
对整个系统进行基准测试
从系统入口进行测试(如网站Web前端,手机APP前端)
优点∶
能够测试整个系统的性能,包括web服务器缓存、数据库等
能反映出系统中各个组件接口间的性能问题体现真实性能状况
缺点︰
测试设计复杂,消耗时间长
单独对MySQL进行基准测试
优点:
测试设计简单,所需耗费时间短
缺点︰
无法全面了解整个系统的性能基线
MySQL基准测试的常见指标
- 单位时间内所处理的事务数(TPS )
- 单位时间内所处理的查询数(QPS)
- 响应时间(平均响应时间、最小响应时间、最大响应时间、各时间所占百分比,其中各时间所占百分比比较有意义)
- 并发量∶同时处理的查询请求的数量(不能等同于web服务器的并发量、不能等同于连接数)
基准测试的步骤
计划和设计基准测试
●对整个系统还是某一组件
●使用什么样的数据
准备基准测试及数据收集脚本
CPU使用率、IO、网络流量、状态与计数器信息等Get_Test_info.sh
运行基准测试
保存及分析基准测试结果
#!/bin/bash
INTERVAL=5
PREFIX=/home/imooc/benchmarks/$INTERVAL-sec-status
RUNFILE=/home/imooc/benchmarks/running
echo "1" > $RUNFILE
MYSQL=/usr/local/mysql/bin/mysql
$MYSQL -e "show global variables" >> mysql-variables
while test -e $RUNFILE; do
file=$(date +%F_%I)
sleep=$(date +%s.%N | awk '{print 5 - ($1 % 5)}')
sleep $sleep
ts="$(date +"TS %s.%N %F %T")"
loadavg="$(uptime)"
echo "$ts $loadavg" >> $PREFIX-${file}-status
$MYSQL -e "show global status" >> $PREFIX-${file}-status &
echo "$ts $loadavg" >> $PREFIX-${file}-innodbstatus
$MYSQL -e "show engine innodb status" >> $PREFIX-${file}-innodbstatus &
echo "$ts $loadavg" >> $PREFIX-${file}-processlist
$MYSQL -e "show full processlist\G" >> $PREFIX-${file}-processlist &
echo $ts
done
echo Exiting because $RUNFILE does not exists
对基准测试结果进行分析
#!/bin/bash
awk '
BEGIN {
printf "#ts date time load QPS";
fmt=" %.2f";
}
/^TS/ {
ts = substr($2,1,index($2,".")-1);
load = NF -2;
diff = ts - prev_ts;
printf "\n%s %s %s %s",ts,$3,$4,substr($load,1,length($load)-1);
prev_ts=ts;
}
/Queries/{
printf fmt,($2-Queries)/diff;
Queries=$2
}
' "$@"
基准测试中容易忽略的问题
1.使用生产环境数据时只使用了部分数据
推荐:使用数据库完全备份来测试
2.在多用户场景中,只做单用户的测试
推荐:使用多线程的场景进行测试
3.在单服务器上测试分布式应用
推荐:使用相同架构进行测试
4.反复执行同一查询
容易缓存命中,无法反应真实查询性能
常用的基准测试工具介绍
Mysql基准测试工作之mysqlslap
下载及安装
MySQL服务器自带的基准测试工具,随MySQL一起安装特点:
- 可以模拟服务器负载,并输出相关统计信息
- 可以指定也可以自动生成查询语句
Mysql基准测试工作之mysqlslap常用参数说明
- --auto-generate-sql由系统自动生成SQL脚本进行测试
- --auto-generate-sql-add-autoincrement在生成的表中增加自增ID
- --auto-generate-sql-load-type指定测试中使用的查询类型
- --auto-generate-sql-write-number 指定初始化数据时生成的数据量
- --concurrency指定并发线程的数量
- --engine指定要测试表的存储引擎,可以用逗号分割多个存储引擎
- --no-drop 指定不清理测试数据
- --iterations 指定测试运行的次数
- --number-of-queries指定每一个线程执行的查询数量
- --debug-info指定输出额外的内存及CPU统计信息
- --number-int-cols指定测试表中包含的INT类型列的数量
- --number-char-cols指定测试表中包含的varchar类型的数量
- --create-schema 指定了用于执行测试的数据库的名字
- --query 用于指定自定义SQL的脚本
- --only-print并不运行测试脚本,而是把生成的脚本打印出来
Mysql基准测试工作之sysbench
安装说明
https://github.com/akopytov/sysbench/archive/0.5.zip
unzip sysbench-0.5.zip
cd sysbench
./autogen.sh
./configure --with-mysql-includes=/usr/local/mysql/include/ \--with-mysql-libs=/usr/local/mysql/lib/
常用参数
--test 用于指定所要执行的测试类型,支持以下参数
Fileio文件系统I/O性能测试
cpu cpu性能测试
memory内存性能测试
常用参数
- --myql-db 用于指定执行基准测试的数据库名
- --mysql-table-engine 用于指定所使用的存储引擎
- --oltp-tables-count 执行测试的表的数量
- --oltp-table-size指定每个表中的数据行数
- --num-threads指定测试的并发线程数量
- --max-time指定最大的测试时间
- --report-interval 指定间隔多长时间输出一次统计信息-
- -mysql-user指定执行测试的MySQL用户
- --mysql-password指定执行测试的MySQL用户的密码
prepare用于准备测试数据
run用于实际进行测试
cleanup用于清理测试数据
sysbench --help
Usage:
sysbench [general-options]... --test= [test-options]... command
General options:
--num-threads=N number of threads to use [1]
--max-requests=N limit for total number of requests [10000]
--max-time=N limit for total execution time in seconds [0]
--forced-shutdown=STRING amount of time to wait after --max-time before forcing shutdown [off]
--thread-stack-size=SIZE size of stack per thread [32K]
--init-rng=[on|off] initialize random number generator [off]
--test=STRING test to run
--debug=[on|off] print more debugging info [off]
--validate=[on|off] perform validation checks where possible [off]
--help=[on|off] print help and exit
--version=[on|off] print version and exit
Compiled-in tests:
fileio - File I/O test
cpu - CPU performance test
memory - Memory functions speed test
threads - Threads subsystem performance test
mutex - Mutex performance test
oltp - OLTP test
Commands: prepare run cleanup help version
See 'sysbench --test= help' for a list of options for each test.
Sysbench的测试主要包括以下几个方面:
1、磁盘io性能
2、cpu性能
3、内存分配及传输速度
4、POSIX线程性能
5、调度程序性能
6、数据库性能(OLTP基准测试).
实际进行测试,run
测试结果
文件io测试,prepare
文件测试参数
八线程、随机读写、间隔1秒,文件大小1个G
用户名 sbtest