结合《高性能Mysql》和某公司的Mysql高性能优化范例,以及自己在工作中总结的一些SQL语句优化知识,在此给大家分享下希望对大家有用。
一.设计数据库首先需要注意的就是数据类型的选取
1.选择优化的数据类型需要遵循的原则
1).数据类型更小的更好
2).简单就好
3).尽量避免NULL
2.如果存储的字符串长度几乎相等,使用CHAR 定长字符串类型。
3.合适的字符存储长度,不但节约数据库表空间、节约索引存储,更重要的是提升检索速度
4.DATETIME和TIMESTAMP列都可以存储相同类型的数据:时间和日期,精确到秒,但是TIMESTAMP只使用DATETIME一半的存储空间,但是TIMESTAMP允许的时间范围小。datetime类型取值范围:1000-01-0100:00:00 到9999-12-31 23:59:59,timestamp类型取值范围:1970-01-0100:00:00 到2037-12-31 23:59:59。
5.整数类型尽量使用存储空间小的,整数类型从小到大如下:tinyint、smallint、mediumint、int、bigint;分别使用8、16、24、32、64位存储空间。整数类型分为有符号的和无符号的(使用属性UNSIGNED),区别就在于存储数据的范围不同,其性能和存储空间一致。MYSQL可以为整数类型指定长度,例如INT(2),但是指定长度其实是没有太大意义的,其数据范围、存储内存和计算都没影响。
6.字符串类型VARCHAR和CHAR类型的选优:
1).VARCHAR类型用来存储可变长字符串;适用于:字符串列的最大长度比平均长度大很多,列的更新很少,这时VARCHAR产生的碎片就不是影响性能的问题。 需要注意的就是使用VARCHAR时定义长度很重要,不能过度的大方,更长会消费更多内存,所以长度合适最好。
2).CHAR类型用来存储定长字符串;适用于:很短的字符串,或者所有的值都很接近同一长度。例如MD5存储的加密信息。总结:对于经常变更的数据,CHAR比VARCHAR更好,因为定长的CHAR类型不容易产生碎片。对于非常短的列CHAR存储效率更高。
7.使用枚举(ENUM)替代字符串类型;当使用到字段只有几个不变的选择(数据字典项)时可以使用枚举来存储这几个不变的字典项,可以减少存储,提高查询效率。
二.建表规范
1. 表达是与否概念的字段, 必须使用 is_xxx 的方式命名, 数据类型是 unsignedtinyint(1 表示是,0 表示否)并且任何字段如果为非负数,必须是unsigned。
2. 表名、字段名必须使用小写字母或数字;禁止出现数字开头,禁止两个下划线中间只出现数字。
3. 表名不使用复数名词。
4. 禁用保留字,如 desc、range、match、delayed 等,参考官方保留字。
5. 唯一索引名为 uk_字段名;普通索引名则为 idx_字段名。说明:可读性强,便于理解,uk_即 uniquekey;idx_ 即 index 的简称。
6. 小数类型为 decimal,禁止使用 float 和 double。因为float 和 double 在存储的时候,存在精度损失的问题,很可能在值的比较时,得到不正确的结果。 如果存储的数据范围超过 decimal 的范围, 建议将数据拆成整数和小数分开存储。
7.表必备三字段:id,gmt_create, gmt_modified。
8.表的命名最好是加上“业务名称_表的作用”,避免上云梯后,再与其它业务表关联时有混淆。
9.库名与应用名称尽量一致。
10.如果修改字段含义或对字段表示的状态追加时,需要及时更新字段注释。
11.字段允许适当冗余,以提高性能,但是必须考虑数据同步的情况。冗余字段应遵循:
1)不是频繁修改的字段。
2)不是 varchar 超长字段,更不能是 text 字段。
12.单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。
三.索引的使用
1. 业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引。说明:不要以为唯一索引影响了insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的;另外,即使在应用层做了非常完善的校验和控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。
2. 超过三个表禁止join。 需要 join 的字段, 数据类型保持绝对一致; 多表关联查询时,保证被关联的字段需要有索引。说明:即使双表 join 也要注意表索引、SQL 性能。
3. 在varchar 字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度。说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为20 的索引,区分度会高达90%以上,可以使用count(distinct left(列名,索引长度))/count(*)的区分度来确定。
4. 页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。说明:索引文件具有B-Tree 的最左前缀匹配特性,如果左边的值未确定,那么无法使用此索引。
5. 如果有order by 的场景,请注意利用索引的有序性。orderby 最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现file_sort 的情况,影响查询性能。
正例:wherea=? and b=? order by c; 索引:a_b_c
反例:索引中有范围查找,那么索引有序性无法利用,如:WHEREa>10 ORDER BY b; 索引a_b无法排序。
6. 利用覆盖索引来进行查询操作,来避免回表操作。说明:如果一本书需要知道第11 章是什么标题,会翻开第11 章对应的那一页吗?目录浏览一下就好,这个目录就是起到覆盖索引的作用。
正例:IDB 能够建立索引的种类:主键索引、唯一索引、普通索引,而覆盖索引是一种查询的一种效果,用explain 的结果,extra列会出现:usingindex.
7. 利用延迟关联或者子查询优化超多分页场景。说明:MySQL并不是跳过 offset 行,而是取 offset+N 行,然后返回放弃前 offset 行,返回 N行,那当 offset 特别大的时候,效率就非常的低下,要么控制返回的总页数,要么对超过特定阈值的页数进行SQL 改写。
正例:先快速定位需要获取的 id 段,然后再关联:SELECT a.*FROM 表1 a, (select id from 表1 where 条件LIMIT 100000,20 ) b where a.id=b.id
8.SQL 性能优化的目标: 至少要达到 range 级别, 要求是 ref 级别, 如果可以是 consts最好。
1) consts 单表中最多只有一个匹配行 (主键或者唯一索引) , 在优化阶段即可读取到数据。
2)ref 指的是使用普通的索引。(normal index)
3)range 对索引进范围检索。
反例:explain表的结果,type=index,索引物理文件全扫描,速度非常慢,这个index 级别比较range 还低,与全表扫描是小巫见大巫。
9. 建组合索引的时候,区分度最高的在最左边。正例:如果where a=? and b=? ,a列的几乎接近于唯一值,那么只需要单建idx_a 索引即可。说明: 存在非等号和等号混合判断条件时, 在建索引时, 请把等号条件的列前置。 如: wherea>?and b=? 那么即使a 的区分度更高,也必须把b 放在索引的最前列。
10.创建索引时避免有如下极端误解:
1)误认为一个查询就需要建一个索引。2)误认为索引会消耗空间、严重拖慢更新和新增速度。3)误认为唯一索引一律需要在应用层通过“先查后插”方式解决。
四.SQL优化
1. 不要使用count(列名)或 count(常量)来替代 count(*),count(*)就是 SQL92 定义的标准统计行数的语法,跟数据库无关,跟NULL 和非NULL 无关。说明:count(*)会统计值为 NULL 的行,而 count(列名)不会统计此列为 NULL 值的行。
2.count(distinct col) 计算该列除 NULL 之外的不重复数量。注意count(distinctcol1, col2) 如果其中一列全为NULL,那么即使另一列有不同的值,也返回为0。
3. 当某一列的值全是NULL 时,count(col)的返回结果为 0,但 sum(col)的返回结果为NULL,因此使用 sum()时需注意 NPE 问题。正例:可以使用如下方式来避免sum 的 NPE 问题:SELECTIF(ISNULL(SUM(g)),0,SUM(g))FROMtable;
4. 使用ISNULL() 来判断是否为NULL 值。注意:NULL 与任何值的直接比较都为NULL 。
说明:1) NULL<>NULL 的返回结果是 NULL ,不是 false 。2) NULL=NULL 的返回结果是 NULL ,不是 true 。3) NULL<>1 的返回结果是 NULL ,而不是 true 。
5. 在代码中写分页查询逻辑时,若count 为0 应直接返回,避免执行后面的分页语句。
6. 不得使用外键与级联,一切外键概念必须在应用层解决。
说明:(概念解释)学生表中的student_id 是主键,那么成绩表中的student_id 则为外键。如果更新学生表中的student_id,同时触发成绩表中的student_id 更新,则为级联更新。外键与级联更新适用于单机低并发,不适合分布式、高并发集群;级联更新是强阻塞,存在数据库更新风暴的风险;外键影响数据库的插入速度。
7. 禁止使用存储过程,存储过程难以调试和扩展,更没有移植性。
8.IDB 数据订正时,删除和修改记录时,要先select,避免出现误删除,确认无误才能提交执行。
9.in 操作能避免则避免,若实在避免不了,需要仔细评估in 后边的集合元素数量,控制在1000 个之内。
10.因阿里巴巴全球化需要,所有的字符存储与表示,均以utf-8 编码,那么字符计数方法注意:说明:SELECTLENGTH("李晓爱你"); 返回为 12SELECT CHARACTER_LENGTH("李晓爱你"); 返回为 4如果要使用表情,那么使用 utfmb4 来进行存储,注意它与 utf-8 编码。
11.TRUNCATETABLE 比DELETE 速度快,且使用的系统和事务日志资源少,但TRUNCATE无事务且不触发trigger,有可能造成事故,故不建议在开发代码中使用此语句。说明:TRUNCATETABLE 在功能上与不带WHERE 子句的DELETE 语句相同。