Mysql单节点调优

1. 调优策略

1.1 系统参数调优

1.1.1 limits.conf参数调优

该文件（/etc/security/limit.conf）可以修改最大进程数以及最大打开文件限制,打开limits.conf后，下面四行可以调整修改（如果没有可以直接追加到最后），一般修改最大打开文件数肯定要超过预期连接数，这个可以稍微大一点。

*表示对所有用户有效,soft指的是当前系统生效的设置；hard表明系统中所能设定的最大值；nofile表示所限制的资源是打开文件的最大数目,65535限制的数量；soft不能大于hard;直接加到limit.conf文件的末尾就可以了。

建议：把可打开的文件数量增加到65535个以保证可以打开足够多的文件句柄。

注意：这个文件的修改需要重启系统才能生效。

* soft nproc 65535
* hard nproc 65535
* soft nofile 655350
* hard nofile 655350

修改完成后重启机器，可以ulimit验证一下设置是否生效。

1.1.2 sysctl参数调优

sysctl参数的调整修改/etc/sysctl.conf文件，修改后sysctl -p生效或者重启机器生效。

看一下现有文件是否有下面这些参数，有的话修改，没有这些参数直接在文件末尾追加即可。

# 最大连接数相关参数
net.core.somaxconn = 65535
net.core.netdev_max_backlog = 65535
net.ipv4.tcp_max_syn_backlog = 65535

#注意：以下参数仅供参考，可能跟具体的机器配置有关，如果不确定可以先不进行改变，保留默认值即可！
# 加快TCP连接的回收：
net.ipv4.tcp_fin_timeout = 10
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
 
# TCP连接接收和发送缓冲区大小的默认值和最大值:
net.core.wmem_default = 87380
net.core.wmem_max = 16777216
net.core.rmem_default = 87380
net.core.rmem_max = 16777216
 
# 减少失效连接所占用的TCP资源的数量，加快资源回收的效率
net.ipv4.tcp_keepalive_time = 120
net.ipv4.tcp_keepalive_intvl = 30
net.ipv4.tcp_keepalive_probes = 3
 

1.2 mysql参数调优

1.2.1 使用InnoDB引擎

首先确认一下mysql，使用的是innodb引擎（show engines;）。mysql低版本默认的数据库引擎是MyISAM，不支持事务和外键，可使用支持事务和外键的InnoDB。

设置方法：

在mysql配置文件的[mysqld]一节中，最后添加为上default-storage-engine=InnoDB

1.2.2 mysql参数调优

以下是一个Mysql5.6版本适合在1GB内存VPS上的配置文件，可以参考里面参数的讲解。

back_log = 600  
# MySQL能有的连接数量。当主要MySQL线程在一个很短时间内得到非常多的连接请求，这就起作用，  
# 然后主线程花些时间(尽管很短)检查连接并且启动一个新线程。back_log值指出在MySQL暂时停止回答新请求之前的短时间内多少个请求可以被存在堆栈中。  
# 如果期望在一个短时间内有很多连接，你需要增加它。也就是说，如果MySQL的连接数据达到max_connections时，新来的请求将会被存在堆栈中，  
# 以等待某一连接释放资源，该堆栈的数量即back_log，如果等待连接的数量超过back_log，将不被授予连接资源。  
# 另外，这值（back_log）限于您的操作系统对到来的TCP/IP连接的侦听队列的大小。  
# 你的操作系统在这个队列大小上有它自己的限制（可以检查你的OS文档找出这个变量的最大值），试图设定back_log高于你的操作系统的限制将是无效的。  
  
max_connections = 1000  
# MySQL的最大连接数，如果服务器的并发连接请求量比较大，建议调高此值，以增加并行连接数量，当然这建立在机器能支撑的情况下，因为如果连接数越多，介于MySQL会为每个连接提供连接缓冲区，就会开销越多的内存，所以要适当调整该值，不能盲目提高设值。可以过'conn%'通配符查看当前状态的连接数量，以定夺该值的大小。  
  
max_connect_errors = 6000  
# 对于同一主机，如果有超出该参数值个数的中断错误连接，则该主机将被禁止连接。如需对该主机进行解禁，执行：FLUSH HOST。  
  
open_files_limit = 65535  
# MySQL打开的文件描述符限制，默认最小1024;当open_files_limit没有被配置的时候，比较max_connections*5和ulimit -n的值，哪个大用哪个，  
# 当open_file_limit被配置的时候，比较open_files_limit和max_connections*5的值，哪个大用哪个。  
  
table_open_cache = 128  
# MySQL每打开一个表，都会读入一些数据到table_open_cache缓存中，当MySQL在这个缓存中找不到相应信息时，才会去磁盘上读取。默认值64  
# 假定系统有200个并发连接，则需将此参数设置为200*N(N为每个连接所需的文件描述符数目)；  
# 当把table_open_cache设置为很大时，如果系统处理不了那么多文件描述符，那么就会出现客户端失效，连接不上  
  
max_allowed_packet = 4M  
# 接受的数据包大小；增加该变量的值十分安全，这是因为仅当需要时才会分配额外内存。例如，仅当你发出长查询或MySQLd必须返回大的结果行时MySQLd才会分配更多内存。  
# 该变量之所以取较小默认值是一种预防措施，以捕获客户端和服务器之间的错误信息包，并确保不会因偶然使用大的信息包而导致内存溢出。  
  
binlog_cache_size = 1M  
# 一个事务，在没有提交的时候，产生的日志，记录到Cache中；等到事务提交需要提交的时候，则把日志持久化到磁盘。默认binlog_cache_size大小32K  
  
max_heap_table_size = 8M  
# 定义了用户可以创建的内存表(memory table)的大小。这个值用来计算内存表的最大行数值。这个变量支持动态改变  
  
tmp_table_size = 16M  
# MySQL的heap（堆积）表缓冲大小。所有联合在一个DML指令内完成，并且大多数联合甚至可以不用临时表即可以完成。  
# 大多数临时表是基于内存的(HEAP)表。具有大的记录长度的临时表 (所有列的长度的和)或包含BLOB列的表存储在硬盘上。  
# 如果某个内部heap（堆积）表大小超过tmp_table_size，MySQL可以根据需要自动将内存中的heap表改为基于硬盘的MyISAM表。还可以通过设置tmp_table_size选项来增加临时表的大小。也就是说，如果调高该值，MySQL同时将增加heap表的大小，可达到提高联接查询速度的效果  
  
read_buffer_size = 2M  
# MySQL读入缓冲区大小。对表进行顺序扫描的请求将分配一个读入缓冲区，MySQL会为它分配一段内存缓冲区。read_buffer_size变量控制这一缓冲区的大小。  
# 如果对表的顺序扫描请求非常频繁，并且你认为频繁扫描进行得太慢，可以通过增加该变量值以及内存缓冲区大小提高其性能  
  
read_rnd_buffer_size = 8M  
# MySQL的随机读缓冲区大小。当按任意顺序读取行时(例如，按照排序顺序)，将分配一个随机读缓存区。进行排序查询时，  
# MySQL会首先扫描一遍该缓冲，以避免磁盘搜索，提高查询速度，如果需要排序大量数据，可适当调高该值。但MySQL会为每个客户连接发放该缓冲空间，所以应尽量适当设置该值，以避免内存开销过大  
  
sort_buffer_size = 8M  
# MySQL执行排序使用的缓冲大小。如果想要增加ORDER BY的速度，首先看是否可以让MySQL使用索引而不是额外的排序阶段。  
# 如果不能，可以尝试增加sort_buffer_size变量的大小  
  
join_buffer_size = 8M  
# 联合查询操作所能使用的缓冲区大小，和sort_buffer_size一样，该参数对应的分配内存也是每连接独享  
  
thread_cache_size = 8  
# 这个值（默认8）表示可以重新利用保存在缓存中线程的数量，当断开连接时如果缓存中还有空间，那么客户端的线程将被放到缓存中，  
# 如果线程重新被请求，那么请求将从缓存中读取,如果缓存中是空的或者是新的请求，那么这个线程将被重新创建,如果有很多新的线程，  
# 增加这个值可以改善系统性能.通过比较Connections和Threads_created状态的变量，可以看到这个变量的作用。(–>表示要调整的值)  
# 根据物理内存设置规则如下：  
# 1G  —> 8  
# 2G  —> 16  
# 3G  —> 32  
# 大于3G  —> 64  
  
query_cache_size = 8M  
#MySQL的查询缓冲大小（从4.0.1开始，MySQL提供了查询缓冲机制）使用查询缓冲，MySQL将SELECT语句和查询结果存放在缓冲区中，  
# 今后对于同样的SELECT语句（区分大小写），将直接从缓冲区中读取结果。根据MySQL用户手册，使用查询缓冲最多可以达到238%的效率。  
# 通过检查状态值'Qcache_%'，可以知道query_cache_size设置是否合理：如果Qcache_lowmem_prunes的值非常大，则表明经常出现缓冲不够的情况，  
# 如果Qcache_hits的值也非常大，则表明查询缓冲使用非常频繁，此时需要增加缓冲大小；如果Qcache_hits的值不大，则表明你的查询重复率很低，  
# 这种情况下使用查询缓冲反而会影响效率，那么可以考虑不用查询缓冲。此外，在SELECT语句中加入SQL_NO_CACHE可以明确表示不使用查询缓冲  
  
query_cache_limit = 2M  
#指定单个查询能够使用的缓冲区大小，默认1M  
  
key_buffer_size = 4M  
#指定用于索引的缓冲区大小，增加它可得到更好处理的索引(对所有读和多重写)，到你能负担得起那样多。如果你使它太大，  
# 系统将开始换页并且真的变慢了。对于内存在4GB左右的服务器该参数可设置为384M或512M。通过检查状态值Key_read_requests和Key_reads，  
# 可以知道key_buffer_size设置是否合理。比例key_reads/key_read_requests应该尽可能的低，  
# 至少是1:100，1:1000更好(上述状态值可以使用SHOW STATUS LIKE 'key_read%'获得)。注意：该参数值设置的过大反而会是服务器整体效率降低  
  
ft_min_word_len = 4  
# 分词词汇最小长度，默认4  
  
transaction_isolation = REPEATABLE-READ  
# MySQL支持4种事务隔离级别，他们分别是：  
# READ-UNCOMMITTED, READ-COMMITTED, REPEATABLE-READ, SERIALIZABLE.  
# 如没有指定，MySQL默认采用的是REPEATABLE-READ，ORACLE默认的是READ-COMMITTED  
  
log_bin = mysql-bin  
binlog_format = mixed  
expire_logs_days = 30 #超过30天的binlog删除  
  
log_error = /data/mysql/mysql-error.log #错误日志路径  
slow_query_log = 1  
long_query_time = 1 #慢查询时间 超过1秒则为慢查询  
slow_query_log_file = /data/mysql/mysql-slow.log  
  
performance_schema = 0  
explicit_defaults_for_timestamp  
  
#lower_case_table_names = 1 #不区分大小写  
  
skip-external-locking #MySQL选项以避免外部锁定。该选项默认开启  
  
default-storage-engine = InnoDB #默认存储引擎  
  
innodb_file_per_table = 1  
# InnoDB为独立表空间模式，每个数据库的每个表都会生成一个数据空间  
# 独立表空间优点：  
# 1．每个表都有自已独立的表空间。  
# 2．每个表的数据和索引都会存在自已的表空间中。  
# 3．可以实现单表在不同的数据库中移动。  
# 4．空间可以回收（除drop table操作处，表空不能自已回收）  
# 缺点：  
# 单表增加过大，如超过100G  
# 结论：  
# 共享表空间在Insert操作上少有优势。其它都没独立表空间表现好。当启用独立表空间时，请合理调整：innodb_open_files  
  
innodb_open_files = 500  
# 限制Innodb能打开的表的数据，如果库里的表特别多的情况，请增加这个。这个值默认是300  
  
innodb_buffer_pool_size = 64M  
# InnoDB使用一个缓冲池来保存索引和原始数据, 不像MyISAM.  
# 这里你设置越大,你在存取表里面数据时所需要的磁盘I/O越少.  
# 在一个独立使用的数据库服务器上,你可以设置这个变量到服务器物理内存大小的80%  
# 不要设置过大,否则,由于物理内存的竞争可能导致操作系统的换页颠簸.  
# 注意在32位系统上你每个进程可能被限制在 2-3.5G 用户层面内存限制,  
# 所以不要设置的太高.  
  
innodb_write_io_threads = 4  
innodb_read_io_threads = 4  
# innodb使用后台线程处理数据页上的读写 I/O(输入输出)请求,根据你的 CPU 核数来更改,默认是4  
# 注:这两个参数不支持动态改变,需要把该参数加入到my.cnf里，修改完后重启MySQL服务,允许值的范围从 1-64  
  
innodb_thread_concurrency = 0  
# 默认设置为 0,表示不限制并发数，这里推荐设置为0，更好去发挥CPU多核处理能力，提高并发量  
  
innodb_purge_threads = 1  
# InnoDB中的清除操作是一类定期回收无用数据的操作。在之前的几个版本中，清除操作是主线程的一部分，这意味着运行时它可能会堵塞其它的数据库操作。  
# 从MySQL5.5.X版本开始，该操作运行于独立的线程中,并支持更多的并发数。用户可通过设置innodb_purge_threads配置参数来选择清除操作是否使用单  
# 独线程,默认情况下参数设置为0(不使用单独线程),设置为 1 时表示使用单独的清除线程。建议为1  
  
innodb_flush_log_at_trx_commit = 2  
# 0：如果innodb_flush_log_at_trx_commit的值为0,log buffer每秒就会被刷写日志文件到磁盘，提交事务的时候不做任何操作（执行是由mysql的master thread线程来执行的。  
# 主线程中每秒会将重做日志缓冲写入磁盘的重做日志文件(REDO LOG)中。不论事务是否已经提交）默认的日志文件是ib_logfile0,ib_logfile1  
# 1：当设为默认值1的时候，每次提交事务的时候，都会将log buffer刷写到日志。  
# 2：如果设为2,每次提交事务都会写日志，但并不会执行刷的操作。每秒定时会刷到日志文件。要注意的是，并不能保证100%每秒一定都会刷到磁盘，这要取决于进程的调度。  
# 每次事务提交的时候将数据写入事务日志，而这里的写入仅是调用了文件系统的写入操作，而文件系统是有 缓存的，所以这个写入并不能保证数据已经写入到物理磁盘  
# 默认值1是为了保证完整的ACID。当然，你可以将这个配置项设为1以外的值来换取更高的性能，但是在系统崩溃的时候，你将会丢失1秒的数据。  
# 设为0的话，mysqld进程崩溃的时候，就会丢失最后1秒的事务。设为2,只有在操作系统崩溃或者断电的时候才会丢失最后1秒的数据。InnoDB在做恢复的时候会忽略这个值。  
# 总结  
# 设为1当然是最安全的，但性能页是最差的（相对其他两个参数而言，但不是不能接受）。如果对数据一致性和完整性要求不高，完全可以设为2，如果只最求性能，例如高并发写的日志服务器，设为0来获得更高性能  
  
innodb_log_buffer_size = 2M  
# 此参数确定些日志文件所用的内存大小，以M为单位。缓冲区更大能提高性能，但意外的故障将会丢失数据。MySQL开发人员建议设置为1－8M之间  
  
innodb_log_file_size = 32M  
# 此参数确定数据日志文件的大小，更大的设置可以提高性能，但也会增加恢复故障数据库所需的时间  
  
innodb_log_files_in_group = 3  
# 为提高性能，MySQL可以以循环方式将日志文件写到多个文件。推荐设置为3  
  
innodb_max_dirty_pages_pct = 90  
# innodb主线程刷新缓存池中的数据，使脏数据比例小于90%  
  
innodb_lock_wait_timeout = 120   
# InnoDB事务在被回滚之前可以等待一个锁定的超时秒数。InnoDB在它自己的锁定表中自动检测事务死锁并且回滚事务。InnoDB用LOCK TABLES语句注意到锁定设置。默认值是50秒  
  
bulk_insert_buffer_size = 8M  
# 批量插入缓存大小， 这个参数是针对MyISAM存储引擎来说的。适用于在一次性插入100-1000+条记录时， 提高效率。默认值是8M。可以针对数据量的大小，翻倍增加。  
  
myisam_sort_buffer_size = 8M  
# MyISAM设置恢复表之时使用的缓冲区的尺寸，当在REPAIR TABLE或用CREATE INDEX创建索引或ALTER TABLE过程中排序 MyISAM索引分配的缓冲区  
  
myisam_max_sort_file_size = 10G  
# 如果临时文件会变得超过索引，不要使用快速排序索引方法来创建一个索引。注释：这个参数以字节的形式给出  
  
myisam_repair_threads = 1  
# 如果该值大于1，在Repair by sorting过程中并行创建MyISAM表索引(每个索引在自己的线程内)    
  
interactive_timeout = 28800  
# 服务器关闭交互式连接前等待活动的秒数。交互式客户端定义为在mysql_real_connect()中使用CLIENT_INTERACTIVE选项的客户端。默认值：28800秒（8小时）  
  
wait_timeout = 28800  
# 服务器关闭非交互连接之前等待活动的秒数。在线程启动时，根据全局wait_timeout值或全局interactive_timeout值初始化会话wait_timeout值，  
# 取决于客户端类型(由mysql_real_connect()的连接选项CLIENT_INTERACTIVE定义)。参数默认值：28800秒（8小时）  
# MySQL服务器所支持的最大连接数是有上限的，因为每个连接的建立都会消耗内存，因此我们希望客户端在连接到MySQL Server处理完相应的操作后，  
# 应该断开连接并释放占用的内存。如果你的MySQL Server有大量的闲置连接，他们不仅会白白消耗内存，而且如果连接一直在累加而不断开，  
# 最终肯定会达到MySQL Server的连接上限数，这会报'too many connections'的错误。对于wait_timeout的值设定，应该根据系统的运行情况来判断。  
# 在系统运行一段时间后，可以通过show processlist命令查看当前系统的连接状态，如果发现有大量的sleep状态的连接进程，则说明该参数设置的过大，  
# 可以进行适当的调整小些。要同时设置interactive_timeout和wait_timeout才会生效。  

2. 最佳实践

可以用sysbench对mysql进行基准测试，sysbench的部署、使用可以参考这篇博客：https://www.cnblogs.com/kismetv/p/7615738.html

2.1 测试机器配置

测试机器redhat 7，mysql 8.0.18版本，64U256M，机械硬盘(后更换ssd盘)

2.2 基准测试

2.2.1 调优前基准测试(10表，每表10000条记录，读写以及事务等复杂场景)

结论：
调优前mysql能够完全无错的支持并发大概10左右
调优前mysql能够相对可接受的支持并发大概100左右

第一次测试（128threads，300s）
结果：tps：391/s，qps：7842/s，errors：0.46/s，95%latency：719ms

第二次测试（256threads，300s）
报错error 1040: Too many connections，因为mysql默认最大connections为100，临时修改mysql配置项为2000，同时修改系统ulimit -n 限制10000(sysbench与mysql机器都设置一下)，重启数据库。

结果：tps：356/s，qps：7154/s，errors：1.22/s，95%latency：3574ms

可以看到线程多了但是tps、qps略微下降，error增加很多，latency明显增加，这明显已经到了当前mysql的极限了。

第三次测试（512threads，300s）
结果：前期tps：291/s，qps：5532/s，errors：1.73/s，95%latency：13558ms

后面直接挂掉了，当前配置256线程已经到服务极限，512线程基本拒绝服务了，大量服务来不及响应。

第四次测试（1024threads，300s）
结果：tps：300/s，qps：5864/s，errors：2.07/s，95%latency：17435ms

后面直接挂掉了，当前配置256线程已经到服务极限，512线程基本拒绝服务了，大量服务来不及响应。1024线程跟512线程情况差不多。

第五次测试（10threads，300s）
结果：tps：77/s，qps：1541/s，errors：0.01/s，95%latency：223ms

2.2.2 调优后基准测试(10表，每表10000条记录，读写以及事务等复杂场景)

结论：
调优后mysql能够完全无错的支持并发大概20左右
调优后mysql能够相对可接受的支持并发大概200左右

第一次测试（128threads，300s）
结果：tps：580/s，qps：11621/s，errors：0.56/s，95%latency：511ms

第二次测试（256threads，300s）
结果：tps：637/s，qps：12780/s，errors：2.19/s，95%latency：1280ms

可以看到线程多了tps、qps略微上升，error增加很多，latency明显增加，感觉也将要到达极限了。

第三次测试（512threads，300s）
结果：前期tps：503/s，qps：10104/s，errors：2.17/s，95%latency：6594ms

虽然相比256并发性能有所下降，但相比调优前好很多，数据库没有大面积不能正常提供服务

第四次测试（1024threads，300s）
结果：tps：519/s，qps：10435/s，errors：3.25/s，95%latency：13550ms

虽然相比256并发性能有所下降，但相比调优前好很多，数据库没有大面积不能正常提供服务

第五次测试（20threads，300s）
结果：tps：209/s，qps：4186/s，errors：0.01/s，95%latency：167ms

2.2.3 更换ssd硬盘后基准测试(10表，每表10000条记录，读写以及事务等复杂场景,调优后)

结论：
硬件SSD+82599网卡，调优后mysql单节点完全有能力支撑1000并发。

普通网卡远程测试（1024threads，300s）
结果：tps：2846/s，qps：57232/s，errors：18.62/s，95%latency：1533ms

性能大幅提升，延时大幅下降

本地测试（1024threads，300s）
结果：tps：11103/s，qps：222945/s，errors：53.98/s，95%latency：719ms

性能继续大幅提升，延时继续大幅下降，这说明远程测试时候网络已经是瓶颈，如果网卡更换成82599网卡性能会有所提升。

82599光模块远程测试（1024threads，300s）
结果：tps：10885/s，qps：218610/s，errors：54/s，95%latency：707ms

性能相比普通网卡大幅提升，延时大幅下降，相比与本地测试基本持平，这说明SSD+82599网卡基本能够保证硬件不成为瓶颈，主要取决于软件能力。

2.3 最佳实践配置文件

[mysqld]
skip-name-resolve
#skip-networking
back_log = 2000

max_connections = 5000
max_connect_errors = 6000
open_files_limit = 65535
table_open_cache = 1024 
max_allowed_packet = 8M
binlog_cache_size = 16M

max_heap_table_size = 16M
tmp_table_size = 16M

read_buffer_size = 16M
read_rnd_buffer_size = 16M
sort_buffer_size = 16M
join_buffer_size = 16M

key_buffer_size = 400M
thread_cache_size = 64

ft_min_word_len = 4

log_bin = mysql-bin
binlog_format = mixed
expire_logs_days = 30

#skip-external-locking

default_storage_engine = InnoDB
innodb_file_per_table = 1
innodb_open_files = 1000
innodb_buffer_pool_size = 32G
innodb_write_io_threads = 32
innodb_read_io_threads = 32
innodb_thread_concurrency = 0
innodb_purge_threads = 1
innodb_flush_log_at_trx_commit = 2
innodb_log_buffer_size = 4M
innodb_log_file_size = 256M
innodb_log_files_in_group = 3
innodb_max_dirty_pages_pct = 90
innodb_lock_wait_timeout = 120

interactive_timeout = 28800
wait_timeout = 28800


datadir=/home/gyq/mysqldata
socket=/var/lib/mysql/mysql.sock

log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid