采访了900个大厂员工,终于总结出10大MySQL性能调优方法

140 篇文章 1 订阅
16 篇文章 0 订阅

MYSQL是什么就不需要我一一解释了,一般都是工作2年的架构师所掌握的必备技能之一

一定看到最后哦!!!所有方法都是整理实践亲测有效才会分享给大家!!

1. 选择合适的存储引擎: InnoDB

现在基本都是默认选择InnoDB,不知道你们的习惯是什么,我自己测试的时候我觉得MyISAM 比 InnoDB 速度快,为什么?很简单 MyISAM 只缓存索引,而 InnoDB 缓存数据和索引,MyISAM 不支持事务。但是 如果你使用 innodb_flush_log_at_trx_commit = 2 你就会认同我说的 。

1.1 如何把MyISAM 数据库转换为 InnoDB:

<span style="color:#222222"><code>mysql -u [USER_NAME] -p -e <span style="color:#00753b">"SHOW TABLES IN [DATABASE_NAME];"</span> | tail -n +2 | xargs -I <span style="color:#00753b">'{}'</span> <span style="color:#114ba6">echo</span> <span style="color:#00753b">"ALTER TABLE {} ENGINE=InnoDB;"</span> > alter_table.sql
perl -p -i -e <span style="color:#00753b">'s/(search_[a-z_]+ ENGINE=)InnoDB//1MyISAM/g'</span> alter_table.sql
mysql -u [USER_NAME] -p [DATABASE_NAME] < alter_table.sql
</code></span>

1.2 为每个表分别创建 InnoDB FILE:

<span style="color:#222222"><code>innodb_file_per_table=<span style="color:#a82e2e">1</span></code></span>

这样可以保证 ibdata1 文件轻巧容易控制。尤其是在执行 mysqlcheck -o –all-databases 的时候。

2. 保证从内存中读取数据,讲数据保存在内存中

2.1 足够大的 innodb_buffer_pool_size

推荐将数据完全保存在 innodb_buffer_pool_size ,即按存储量规划 innodb_buffer_pool_size 的容量。这个可以完全从内存中读取数据,尽可能减少磁盘操作。

2.1.1 如何确定 innodb_buffer_pool_size 足够大,数据从内存读取的方法而不是硬盘?
方法 1

<span style="color:#222222"><code>mysql> SHOW GLOBAL STATUS LIKE <span style="color:#00753b">'innodb_buffer_pool_pages_%'</span>;
+----------------------------------+--------+
| Variable_name | Value |
+----------------------------------+--------+
| Innodb_buffer_pool_pages_data | 129037 |
| Innodb_buffer_pool_pages_dirty | <span style="color:#a82e2e">362</span> |
| Innodb_buffer_pool_pages_flushed | 9998 |
| Innodb_buffer_pool_pages_free | <span style="color:#a82e2e">0</span> | !!!!!!!!
| Innodb_buffer_pool_pages_misc | 2035 |
| Innodb_buffer_pool_pages_total | <span style="color:#a82e2e">131072</span> |
+----------------------------------+--------+
6 rows <span style="color:#114ba6">in</span> set (0.00 sec)</code></span>

发现 Innodb_buffer_pool_pages_free 为 0,则说明 buffer pool 已经被用光,需要增大 innodb_buffer_pool_size

InnoDB 的其他几个参数:

<span style="color:#222222"><code>innodb_additional_mem_pool_size = <span style="color:#00753b">1/200 of buffer_pool</span>
innodb_max_dirty_pages_pct <span style="color:#00753b">80%</span></code></span>

方法 2

或者用iostat -d -x -k 1 命令,查看硬盘的操作。

2.1.2 如何规划足够内存在服务器上
执行 echo 1 > /proc/sys/vm/drop_caches 清除操作系统的文件缓存,可以看到真正的内存使用量。

2.2 如何预热数据

一般只有某条数据被读取一次,才会缓存在 innodb_buffer_pool。所以,数据库刚刚启动,一定要把数据预热,将磁盘上的所有数据缓存到内存中。可以提高读取速度。

对于 InnoDB 数据库,可以用以下方法,进行数据预热:

1. 将以下脚本保存为 MakeSelectQueriesToLoad.sql

<span style="color:#222222"><code><span style="color:#114ba6">SELECT</span> <span style="color:#114ba6">DISTINCT</span>
<span style="color:#114ba6">CONCAT</span>(<span style="color:#00753b">'SELECT '</span>,ndxcollist,<span style="color:#00753b">' FROM '</span>,db,<span style="color:#00753b">'.'</span>,tb,
<span style="color:#00753b">' ORDER BY '</span>,ndxcollist,<span style="color:#00753b">';'</span>) SelectQueryToLoadCache
<span style="color:#114ba6">FROM</span>
(
<span style="color:#114ba6">SELECT</span>
<span style="color:#114ba6">engine</span>,table_schema db,table_name tb,
index_name,<span style="color:#114ba6">GROUP_CONCAT</span>(column_name <span style="color:#114ba6">ORDER</span> <span style="color:#114ba6">BY</span> seq_in_index) ndxcollist
<span style="color:#114ba6">FROM</span>
(
<span style="color:#114ba6">SELECT</span>
B.engine,A.table_schema,A.table_name,
A.index_name,A.column_name,A.seq_in_index
<span style="color:#114ba6">FROM</span>
information_schema.statistics A <span style="color:#114ba6">INNER</span> <span style="color:#114ba6">JOIN</span>
(
<span style="color:#114ba6">SELECT</span> <span style="color:#114ba6">engine</span>,table_schema,table_name
<span style="color:#114ba6">FROM</span> information_schema.tables <span style="color:#114ba6">WHERE</span>
<span style="color:#114ba6">engine</span>=<span style="color:#00753b">'InnoDB'</span>
) B <span style="color:#114ba6">USING</span> (table_schema,table_name)
<span style="color:#114ba6">WHERE</span> B.table_schema <span style="color:#114ba6">NOT</span> <span style="color:#114ba6">IN</span> (<span style="color:#00753b">'information_schema'</span>,<span style="color:#00753b">'mysql'</span>)
<span style="color:#114ba6">ORDER</span> <span style="color:#114ba6">BY</span> table_schema,table_name,index_name,seq_in_index
) A
<span style="color:#114ba6">GROUP</span> <span style="color:#114ba6">BY</span> table_schema,table_name,index_name
) AA
<span style="color:#114ba6">ORDER</span> <span style="color:#114ba6">BY</span> db,tb;</code></span>

2. 执行

<span style="color:#222222"><code>mysql -uroot -AN < <span style="color:#d96322">/root/</span>MakeSelectQueriesToLoad.sql > <span style="color:#d96322">/root/</span>SelectQueriesToLoad.sql</code></span>

3. 每次重启数据库,或者整库备份前需要预热的时候执行:

<span style="color:#222222"><code>mysql -uroot < <span style="color:#d96322">/root/</span>SelectQueriesToLoad.sql > <span style="color:#d96322">/dev/</span><span style="color:#8a7304">null</span> <span style="color:#a82e2e">2</span>>&<span style="color:#a82e2e">1</span></code></span>

2.3 不要让数据存到 SWAP 中

如果是专用 MYSQL 服务器,可以禁用 SWAP,如果是共享服务器,确定 innodb_buffer_pool_size 内存足够大。或者可以使用固定的内存空间做缓存,使用 memlock 指令。

3. 定期优化重建数据库

mysqlcheck -o –all-databases 会让 ibdata1 内存不断增大,真正的优化只有重做数据表结构:

<span style="color:#222222"><code><span style="color:#114ba6">CREATE</span> <span style="color:#114ba6">TABLE</span> mydb.mytablenew <span style="color:#114ba6">LIKE</span> mydb.mytable;
<span style="color:#114ba6">INSERT</span> <span style="color:#114ba6">INTO</span> mydb.mytablenew <span style="color:#114ba6">SELECT</span> * <span style="color:#114ba6">FROM</span> mydb.mytable;
<span style="color:#114ba6">ALTER</span> <span style="color:#114ba6">TABLE</span> mydb.mytable <span style="color:#114ba6">RENAME</span> mydb.mytablezap;
<span style="color:#114ba6">ALTER</span> <span style="color:#114ba6">TABLE</span> mydb.mytablenew <span style="color:#114ba6">RENAME</span> mydb.mytable;
<span style="color:#114ba6">DROP</span> <span style="color:#114ba6">TABLE</span> mydb.mytablezap;</code></span>

4. 正确减少磁盘写入操作的方法

4.1 使用大的写入缓存 innodb_log_file_size

要注意如果用 1G 的 innodb_log_file_size ,假如服务器当机,需要等待 10 分钟来恢复。

推荐 innodb_log_file_size 设置为 0.25 * innodb_buffer_pool_size

4.2 innodb_flush_log_at_trx_commit

这个选项和写磁盘操作密切相关:

innodb_flush_log_at_trx_commit = 1 则每次修改写入磁盘
innodb_flush_log_at_trx_commit = 0/2 每秒写入磁盘

如果不涉及很高的安全性 (金融系统),或者基础架构足够安全,或者 事务都很小,都可以用 0 或者 2 来降低磁盘操作。

4.3 如何避免双写入缓冲

<span style="color:#222222"><code>innodb_flush_method=O_DIRECT</code></span>

5. 如何提高磁盘读写速度

RAID0 尤其是在使用 EC2 这种虚拟磁盘 (EBS) 的时候,使用软 RAID0 非常重要。

6. 记得要充分使用索引

6.1 查看现有表结构和索引

<span style="color:#222222"><code><span style="color:#114ba6">SHOW</span> <span style="color:#114ba6">CREATE</span> <span style="color:#114ba6">TABLE</span> db1.tb1/G</code></span>

6.2 一定要添加必要的索引

添加必要的索引才是提高查询速度的唯一方法,就好像搜索引擎用的倒排索引是一样的原理。

索引的添加需要根据查询来确定,比如通过慢查询日志或者查询日志,或者通过 EXPLAIN 命令分析查询。

<span style="color:#222222"><code>ADD <span style="color:#00753b">UNIQUE INDEX</span>
ADD <span style="color:#00753b">INDEX</span>
</code></span>

6.2.1 优化用户验证表:
添加索引

<span style="color:#222222"><code><span style="color:#114ba6">ALTER</span> <span style="color:#114ba6">TABLE</span> <span style="color:#114ba6">users</span> <span style="color:#114ba6">ADD</span> <span style="color:#114ba6">UNIQUE</span> <span style="color:#114ba6">INDEX</span> username_ndx (username);
<span style="color:#114ba6">ALTER</span> <span style="color:#114ba6">TABLE</span> <span style="color:#114ba6">users</span> <span style="color:#114ba6">ADD</span> <span style="color:#114ba6">UNIQUE</span> <span style="color:#114ba6">INDEX</span> username_password_ndx (username,<span style="color:#114ba6">password</span>);</code></span>

每次重启服务器一定要进行数据预热

<span style="color:#222222"><code>echo “<span style="color:#114ba6">select</span> username,password <span style="color:#114ba6">from</span> users;” > /<span style="color:#114ba6">var</span>/lib/mysql/upcache.sql</code></span>

添加启动脚本到 my.cnf

<span style="color:#222222"><code><span style="color:#a82e2e">[mysqld]</span>
init-file=/var/lib/mysql/upcache.sql</code></span>

6.2.2 使用自动加索引的框架或者自动拆分表结构的框架
比如,Rails ,会自动添加索引,Drupal 这样的会自动拆分表结构。会在你开发的初期指明正确的方向。所以,经验不太丰富的人不要追求从 0 开始构建

7. 分析查询日志和慢查询日志

记录所有查询,这在用 ORM 系统或者生成查询语句的系统很有用。

<span style="color:#222222"><code><span style="color:#114ba6">log</span>=/var/<span style="color:#114ba6">log</span>/mysql.<span style="color:#114ba6">log</span></code></span>

注意不要在生产环境用,否则会占满你的磁盘空间。

记录执行时间超过 1 秒的查询:

<span style="color:#222222"><code>long_query_time=<span style="color:#a82e2e">1</span>
<span style="color:#114ba6">log</span>-slow-queries=/var/<span style="color:#114ba6">log</span>/mysql/<span style="color:#114ba6">log</span>-slow-queries.<span style="color:#114ba6">log</span></code></span>

8. 激进的方法,使用内存磁盘

使用 EC2 几乎不用担心服务器硬件当机。而且内存实在是便宜,很容易买到大内存的服务器,可以用内存磁盘,定期备份到磁盘。

将 MYSQL 目录迁移到 4G 的内存磁盘

<span style="color:#222222"><code>mkdir <span style="color:#00753b">-p /mnt/ramdisk</span>
sudo <span style="color:#00753b">mount -t tmpfs -o size=4000M tmpfs /mnt/ramdisk/</span>
mv <span style="color:#00753b">/var/lib/mysql /mnt/ramdisk/mysql</span>
ln <span style="color:#00753b">-s /tmp/ramdisk/mysql /var/lib/mysql</span>
chown <span style="color:#00753b">mysql:mysql mysql</span></code></span>

9. 用 NOSQL 的方式使用 MYSQL

B-TREE 仍然是最高效的索引之一,所有 MYSQL 仍然不会过时。

用 HandlerSocket 跳过 MYSQL 的 SQL 解析层,MYSQL 就真正变成了 NOSQL。

10. 其他
将非”索引”数据分离,不影响其他自动查询。
不用 MYSQL 内置的函数,因为它不会建立查询缓存。

如果你觉得本篇实操方法对你有用还请双击+评论,有补充有疑问欢迎评论区留言!!!!

更多技巧干货可以在主页关注一下我!!!!每周定期分享3-4篇干货

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值