MySql优化建议
目录
优化维度
- 表的设计合理化(符合3NF)
- 添加适当索引(index) [四种: 普通索引、主键索引、唯一索引unique、全文索引]
- SQL语句优化
- 分表技术(水平分割、垂直分割)
- 读写[写: update/delete/add]分离
- 存储过程 [模块化编程,可以提高速度]
- 对mysql配置优化 [配置最大并发数my.ini, 调整缓存大小]
- MySql服务器硬件升级
- 定时的去清除不需要的数据,定时进行碎片整理(MyISAM)
建议
- Explain:我们要善用Explain查看Sql执行计划,结果中重点关注的数据如下:
type列,连接类型。一个好的Sql语句至少要达到range级别,杜绝出现all级别。
key列,使用的索引名。如果没有选择索引,值为NULL,可以采取强制索引方式。
ken_len列,索引长度。
rows列,扫描行数,该值是个预估值。
extra列,详细说明。注意常见的不太友好的值有:Using filesort,Usingtemporary
- SQL语句中IN包含的值不应该过多
MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。
但是如果数值较多,产生的消耗也是比较大的。再例如:
select id from table_name where num in(1,2,3) 对于连续的数值,能用 between 就不要用 in 了;再或者使用连接来替换。
- SELECT语句务必指明字段名称
SELECT *增加很多不必要的消耗(cpu、io、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变是,前者也需要更新。所以要求直接在select后面接上字段名。
- 当只需要一条语句的时候,使用limit 1
这是为了使Explain中的type列达到const类型。
如何提高limit查询性能:http://www.nowamagic.net/librarys/veda/detail/1900
对上面的mysql语句说明:limit 10000,20的意思扫描满足条件的10020行,扔掉前面的10000行,返回最后的20行,
问题就在这里,如果是limit 100000,100,需要扫描100100行,在一个高并发的应用里,每次查询需要扫描超过10W行,性能肯定大打折扣。文中还提到limit n性能是没问题的,因为只扫描n行。
第二部分:根据雅虎的几位工程师带来了一篇Efficient Pagination Using MySQL的报告内容扩展:
在文中提到一种clue的做法,给翻页提供一些线索,比如还是SELECT * FROM message ORDER BY id DESC,
按id降序分页,每页20条,当前是第10页,当前页条目id最大的是1020,最小的是1000,如果我们只提供上一页、
下一页这样的跳转(不提供到第N页的跳转),那么在处理上一页的时候SQL语句可以是:
SELECT * FROM message WHERE id>1020 ORDER BY id ASC LIMIT 20;
- 如果排序字段没有用到索引,就尽量少排序。
- 如果限制条件中其他字段没有索引,尽量少用or
or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用union all或者
union(必要的时候)的方式来替代 or 会得到更好的效果。
尽量用union all代替 union
union和union all的差异主要是前者需要将结果集合并后在进行唯一性过滤操作,这就会涉及到排序,增加大量的CPU运算,加大资源消耗及延迟。
当然,union all的前提条件是两个结果集没有重复数据。
- 不使用ORDER BY RAND()
SELECT id FROM ‘table_name’order by rand() limit 1000;
优化后
select id from ‘table_name’t1 join (select rand() * (select max(id) from ‘table_name') as nid) t2 on t1.id > t2.nid limit 1000;
- 区分in和exists, not in 和not exists
区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表先被访问,如果是IN,
那么先执行子查询。索引IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况
关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的sql语句?
select colname … from A表 where a.id not in (select b.id from B表)
优化后
select colname … from A表 Left join B表 on where a.id = b.id where b.id is null
- 使用合理的分页方式提高分页效率
select id,name from table_name limit 866613, 20
使用上述sql语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用limit分页查询会越来越慢。
优化的方法如下:可以取前一页的最大行数的id,然后根据这个最大的id来限制下一页的起点。比如此列中,上一页最大的id是866612。sql可以采用如下的写法:
select id,name from table_name where id> 866612 limit 20
- 分段查询
在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。
这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。扫描的行数成百万级以上的时候就可以使用分段查询
- 避免在where子句中对字段进行null值判断
对于null的判断会导致引擎放弃使用索引而进行全表扫描。
- 不建议使用%前缀模糊查询
例如 LIKE "%name" 或者 LIKE "%name%",这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE "name%"。
当我们想使用LIKE "%name%" 或 LIKE "%name" 怎么解决这种问题呢。 使用全文索引。
- 避免在where子句中对字段进行表达式操作
比如select user_id,user_project from table_name where age*2=36;
建议改成select user_id,user_project from table_name where age=36/2;
因为对字段进行算术运算会造成引擎放弃使用索引。
- 避免隐式类型转换
where 子句中出现 column 字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定where中的参数类型
- 对于联合索引来说,要遵守最左前缀法则
举列来说索引含有字段id,name,school,可以直接用id字段,也可以id,name这样的顺序,但是name,school都无法使用这个索引。
所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面
- 必要时可以使用force index来强制查询走某个索引
有的时候MySQL优化器采取它认为合适的索引来检索sql语句,但是可能它所采用的索引并不是我们想要的。
这时就可以采用force index来强制优化器使用我们制定的索引
- 注意范围查询语句
对于联合索引来说,如果存在范围查询,比如between,>,<等条件时,会造成后面的索引字段失效
- 关于JOIN优化
A [] B
LEFT JOIN A表为驱动表
INNER JOIN MySQL会自动找出那个数据少的表作用驱动表
RIGHT JOIN B表为驱动表
MySQL中没有full join,可以用以下方式来解决
select * from A left join B on B.name = A.name
where B.name is null
union all
select * from B;
straight_join和inner join完全相同,只不过前者会强制以左边的表的驱动表,而后者由系统选择优化方案,谁作为驱动表。
Join影响性能的因素:
1.内循环的次数:现在考虑这么一个场景,当t1有100条记录,t2有10000条记录。那么,t1驱动t2与t2驱动t1,他们之间在效率上孰优孰劣?
如果是单纯的分析指令执行次数,他们都是100*10000,但是考虑到加载表的次数呢。首先分析t1驱动t2,t1表加载1次,t2表需要加载100次。
然后分析t2驱动t1,t2表首先加载1次,但是t1表要加载10000次。所以,t1驱动t2的效率要优于t2驱动t1的效率。由此得出,
小表驱动大表能够减少内循环的次数从而提高连接效率。
另外,如果使用Block Nested Loop Join算法的话,通过扩大一次缓存区的大小也能减小内循环的次数。
由此又可得,设置合理的缓冲区大小能够提高连接效率2.快速匹配:
扫描被驱动表寻找合适的记录可以看做一个查询操作,如何提高查询的效率呢?建索引啊!由此还可得出,在被驱动表建立索引能够提高连接效率
3.排序:
假设t1表驱动t2表进行连接操作,连接条件是t1.id=t2.id,而且要求查询结果对id排序。现在有两种选择,方式一[...ORDER BY t1.id],方式二[...ORDER BY t2.id]。如果我们使用方式一的话,可以先对t1进行排序然后执行表连接算法,如果我们使用方式二的话,只能在执行表连接算法后,对结果集进行排序(Using temporary),效率自然低下。由此最后可得出,优先选择驱动表的属性进行排序能够提高连接效率。