tps-ds测试mysql_MySQL性能测试--jemalloc内存管理

1.目的

测试在jemalloc内存管理方式与glibc库的malloc内存管理方式两种情况下，MySQL的性能情况。通过测试，希望能够从内存管理方式的优化上，提高MySQL的性能。

2.测试环境

2.1测试服务器硬件环境

Summary:        Dell R720xd,

2 x Xeon E5-2630 0 2.30GHz, 189GB / 192GB 1333MHz DDR3

System:         Dell

PowerEdge R720xd (Dell 0X6FFV)

Processors:     2 x Xeon

E5-2630 0 2.30GHz 7200MHz FSB (HT enabled, 12 cores, 24 threads)

Memory:         189GB /

192GB 1333MHz DDR3 == 12 x 16GB - 16GB PC3-10600 Hynix DDR3-1333 ECC

Registered CL9 2Rx4

2.2测试服务器软件环境

Linux 2.6.32-220.23.2.ali878.el6.x86_64

mysql-5.5.18

2.3 MySQL配置

binlog_format[ROW]

max_binlog_cache_size[2G]

max_binlog_size[500M]

sync_binlog[1]

thread_cache_size[256]

innodb_buffer_pool_instances[8]

innodb_buffer_pool_size[74G]

innodb_flush_log_at_trx_commit[1]

innodb_flush_method[O_DIRECT]

innodb_io_capacity[1000]

innodb_log_buffer_size[64M]

innodb_log_file_size[1G]

innodb_log_files_in_group[4]

innodb_max_dirty_pages_pct[60]

innodb_thread_concurrency[16]

3.测试方案

3.1测试内容

测试glibc库的malloc与jemalloc的内存管理方式，分别在只读模式和读写混合模式下，随着测试连接线程数的增多，MySQL性能的影响，以及内存的使用情况。

3.2测试连接线程数

Connect thread

32

64

128

256

512

3.3测试内存管理版本

Version

glibc-2.12

jemalloc-3.4.0

3.4测试指令

测试通过sysbench压测工具进行压力测试，数据量(约为23G)小于innodb_buffer_pool_size的大小，使得IO不成为瓶颈。通过只读和读写混合测试，测试MySQL的性能。

#初始化数据

./sysbench --test=tests/db/parallel_prepare.lua

--max-time=1000 --oltp-dist-type=uniform --max-requests=0 --mysql-user=test

--mysql-password=test --mysql-table-engine=innodb --oltp-table-size=3000000

--oltp-tables-count=32 --oltp-range-size=90 --oltp-point-selects=1

--oltp-simple-ranges=1 --oltp-sum-ranHges=1 --oltp-order-ranges=1

--oltp-distinct-ranges=1 --oltp-non-index-updates=10 --num-threads=32

--mysql-host=10.207.105.1 --mysql-port=3306 run

#只读压力测试

./sysbench --test=tests/db/oltp.lua --max-time=3600

--oltp-dist-type=uniform --max-requests=0 --mysql-user=test

--mysql-password=test --mysql-table-engi ne=innodb --oltp-table-size=3000000

--oltp-tables-count=32--oltp-range-size=90

--oltp-point-selects=12 --num-threads=64 --mysql-host=10.207.105.1 --my sql-port=3306  --oltp-read-only=on run

#读写混合压力测试

./sysbench --test=tests/db/oltp.lua --max-time=3600

--oltp-dist-type=uniform --max-requests=0 --mysql-user=test

--mysql-password=test --mysql-table-engine=innodb --oltp-table-size=3000000

--oltp-tables-count=32 --oltp-range-size=90 --oltp-point-selects=12

--oltp-index-updates=1 --oltp-non-index-updates=1 --num-threads=32 --mysql-host=10.207.105.1 --mysql-port=3306 run

4.性能指标

性能指标主要包括：

cpu：%user

memory：vsize，rss

mysql：QPS，TPS

其中，vsize表示mysqld进程的虚拟地址空间大小；rss表示驻留物理地址空间的大小。查看原因见参考文档。

5.测试结果

5.1只读测试

1、CPU利用率

MySQL在只读测试下，随着线程数的增加，CPU的%usr的变化。从测试结果来看，jemalloc内存分配方式与glibc的malloc相比，CPU的利用率降低，并且利用率随线程数的增加而差距增大。但是当线程数到达512时，CPU利用率基本一致，分析原因是由于达到CPU的处理上线导致。

1.1线程数32只读模式的%user利用率

1.2线程数64只读模式的%user利用率

1.3线程数128只读模式的%user利用率

1.4线程数256只读模式的%user利用率

1.5线程数512只读模式的%user利用率

1.6 CPU %user利用率随线程数的变化

2、QPS

MySQL只读测试下，jemalloc内存分配方式比glic的malloc方式，QPS有较大的提高，并且提高程度随线程数增加而幅度加大。具体如下所示：

2.1线程数32只读模式的QPS

2.2线程数64只读模式的QPS

2.3线程数128只读模式的QPS

2.4线程数256只读模式的QPS

2.5线程数512只读模式的QPS

2.6 QPS随线程数的变化

3、MySQL的RSS

MySQL只读测试下，随着线程数的增加，MySQL的RSS在jemalloc内存方式下比glic的malloc方式下，占用物理内存的大小差距越来越大。具体如下图所示：

3.1线程数32只读模式的RSS

3.2线程数64只读模式的RSS

3.3线程数128只读模式的RSS

3.4线程数256只读模式的RSS

3.5线程数256只读模式的RSS

3.6 RSS随线程数的变化

4、MySQL的VSIZE

MySQL只读测试下，jemalloc内存方式与glic的malloc方式相比，MySQL的VSIZE的大小减小了较多，并且随着线程数的增大，差距越来越大。具体如下图所示：

4.1线程数32只读模式的VSIZE

4.2线程数64只读模式的VSIZE

4.3线程数128只读模式的VSIZE

4.4线程数256只读模式的VSIZE

4.5线程数512只读模式的VSIZE

4.6 VSIZE随线程数的变化

5.2读写测试

1、CPU利用率

MySQL在读写混合模式下(读写比6:1)，随着线程数的增加，jemalloc内存分配方式与glic的malloc分配方式相比，CPU的%user利用率无明显变化。从以下结果中可知，在读写混合模式下，MySQL对CPU的利用很快达到瓶颈，线程数的增加没有明显效果。

5.1线程数32读写模式的%user利用率

5.2线程数64读写模式的%user利用率

5.3线程数128读写模式的%user利用率

5.4线程数256读写模式的%user利用率

5.5线程数512读写模式的%user利用率

5.6 CPU %user利用率随线程数的变化

2、QPS

在读写混合模式下，MySQL的QPS随着线程数的增加，有一些提高，但与只读模式测试相比，提高幅度较小。

6.1线程数32读写模式的QPS

6.2线程数64读写模式的QPS

6.3线程数128读写模式的QPS

6.4线程数256读写模式的QPS

6.5线程数256读写模式的QPS

6.6 QPS随线程数的变化

3、TPS

在读写混合模式下，MySQL的TPS随着线程数的增加，jemalloc内存分配方式与glic的malloc相比，提高程度不断增大。

7.1线程数32读写模式的TPS

7.2线程数64读写模式的TPS

7.3线程数128读写模式的TPS

7.4线程数256读写模式的TPS

7.5线程数512读写模式的TPS

7.6 TPS随线程数的变化

4、RSS

在读写混合模式下，随着线程数的增加，jemalloc内存分配方式与glic的malloc相比，MySQL的RSS不断减小。

8.1线程数32读写模式的RSS

8.2线程数64读写模式的RSS

8.3线程数128读写模式的RSS

8.4线程数256读写模式的RSS

8.5线程数512读写模式的RSS

8.6 RSS随线程数的变化

5、VSIZE

在读写混合模式下，随着线程数的增加，jemalloc内存分配方式与glic的malloc相比，MySQL的VSIZE大小差距不断增加。

9.1线程数32读写模式的VSIZE

9.2线程数64读写模式的VSIZE

9.3线程数128读写模式的VSIZE

9.4线程数256读写模式的VSIZE

9.5线程数512读写模式的VSIZE

9.6 VSIZE随线程数的变化

6.结论

通过测试，发现jemalloc内存分配方式与glic的malloc内存分配方式相比，在只读模式下，CPU利用率最大降低了10%左右；MySQL的RSS最大降低了12%左右；MySQL的VSIZE最大降低了1%左右；MySQL的QPS最大提高了25%左右。

在读写混合模式下，CPU利用率基本无变化，是由于MySQL的CPU利用很快达到瓶颈的原因；MySQL的RSS最大降低了11%左右；MySQL的VSIZE最大降低了28%；MySQL的QPS最大提高了15%；MySQL的TPS最大提高了15%左右。

整体来看，jemalloc内存分配方式与glic的malloc内存分配方式相比，提高了MySQL的性能，降低了系统CPU和内存资源的利用。从压测情况来看，基本达到测试的期望。

参考