MySQL数据库及sql语句性能优化的经验分享

在进行性能分析前，需要先定位耗时查询。

MySQL提供了内建的耗时查询日志。使用前，打开my.cnf文件，将slow_query_log设置为"On"。 同时将long_query_time设置为一个对一次查询来说比较慢的时间（秒数），比如0.2。slow_query_log_file设置为你想保存日志文件的路径。然后运行代码，执行时间超过设定上限的查询将会被记录到日志中。

语句优化

1. 为查询缓存优化你的查询
大多数的MySQL服务器都开启了查询缓存。这是提高性最有效的方法之一，而且这是被MySQL的数据库引擎处理的。当有很多相同的查询被执行了多次的时候，这些查询结果会被放到一个缓存中，这样，后续的相同的查询就不用操作表而直接访问缓存结果了。

这里最主要的问题是，对于程序员来说，这个事情是很容易被忽略的。因为，我们某些查询语句会让MySQL不使用缓存。请看下面的示例：

// 查询缓存不开启
$r = mysql_query("SELECT username FROM user WHERE signup_date >=CURDATE()");

// 开启查询缓存
$today = date("Y-m-d");
$r = mysql_query("SELECT username FROM user WHERE signup_date >='$today'");

上 面两条SQL语句的差别就是 CURDATE() ，MySQL的查询缓存对这个函数不起作用。所以，像 NOW() 和 RAND()或是其它的诸如此类的SQL函数都不会开启查询缓存，因为这些函数的返回是会不定的易变的。所以，你所需要的就是用一个变量来代替MySQL的函数，从而开启缓存。

2.当只要一行数据时使用 LIMIT 1
当你查询表的有些时候，你已经知道结果只会有一条结果，但因为你可能需要去fetch游标，或是你也许会去检查返回的记录数。

在这种情况下，加上 LIMIT 1可以增加性能。这样一样，MySQL数据库引擎会在找到一条数据后停止搜索，而不是继续往后查少下一条符合记录的数据。

下面的示例，只是为了找一下是否有“中国”的用户，很明显，后面的会比前面的更有效率。（请注意，第一条中是Select*，第二条是Select 1）

// 没有效率的：
$r = mysql_query("SELECT * FROM user WHERE country ='China'");
if (mysql_num_rows($r) > 0) {
// ...
}

// 有效率的：
$r = mysql_query("SELECT 1 FROM user WHERE country = 'China' LIMIT1");
if (mysql_num_rows($r) > 0) {
// ...
}

3.为搜索字段建索引

索引并不一定就是给主键或是唯一的字段。如果在你的表中，有某个字段你总要会经常用来做搜索，那么，请为其建立索引吧。

另 外，你应该也需要知道什么样的搜索是不能使用正常的索引的。例如，当你需要在一篇大的文章中搜索一个词时，如： “WHEREpost_content LIKE ‘%apple%'”，索引可能是没有意义的。你可能需要使用MySQL全文索引或是自己做一个索引（比如说：搜索关键词或是Tag什么的)

4.在Join表的时候使用相当类型的例，并将其索引

如果你的应用程序有很多 JOIN查询，你应该确认两个表中Join的字段是被建过索引的。这样，MySQL内部会启动为你优化Join的SQL语句的机制。

而且，这些被用来Join的字段，应该是相同的类型的。例如：如果你要把 DECIMAL 字段和一个 INT字段Join在一起，MySQL就无法使用它们的索引。对于那些STRING类型，还需要有相同的字符集才行。（两个表的字符集有可能不一样）

代码如下:
// 在state中查找company
$r = mysql_query("SELECT company_name FROM users
LEFT JOIN companies ON (users.state = companies.state)
WHERE users.id = $user_id");

// 两个 state 字段应该是被建过索引的，而且应该是相当的类型，相同的字符集。

5.避免 SELECT *

从数据库里读出越多的数据，那么查询就会变得越慢。并且，如果你的数据库服务器和WEB服务器是两台独立的服务器的话，这还会增加网络传输的负载。

所以，你应该养成一个需要什么就取什么的好的习惯。

代码如下:
// 不推荐
$r = mysql_query("SELECT * FROM user WHERE user_id = 1");
$d = mysql_fetch_assoc($r);
echo "Welcome {$d['username']}";

// 推荐
$r = mysql_query("SELECT username FROM user WHERE user_id =1");
$d = mysql_fetch_assoc($r);
echo "Welcome {$d['username']}";

6.把IP地址存成 UNSIGNED INT
很多程序员都会创建一个VARCHAR(15)字段来存放字符串形式的IP而不是整形的IP。如果你用整形来存放，只需要4个字节，并且你可以有定长的字段。而且，这会为你带来查询上的优势，尤其是当你需要使用这样的WHERE条件：IP between ip1 and ip2。

我们必需要使用UNSIGNED INT，因为 IP地址会使用整个32位的无符号整形。

而你的查询，你可以使用 INET_ATON() 来把一个字符串IP转成一个整形，并使用 INET_NTOA()把一个整形转成一个字符串IP。在PHP中，也有这样的函数 ip2long() 和 long2ip()。
1 $r = "UPDATE users SET ip =INET_ATON('{$_SERVER['REMOTE_ADDR']}') WHERE user_id =$user_id";

7.垂直分割
“垂直分割”是一种把数据库中的表按列变成几张表的方法，这样可以降低表的复杂度和字段的数目，从而达到优化的目的。（以前，在银行做过项目，见过一张表有100多个字段，很恐怖）

示例一：在Users表中有一个字段是家庭地址，这个字段是可选字段，相比起，而且你在数据库操作的时候除了个人信息外，你并不需要经常读取或是改写这个字段。那么，为什么不把他放到另外一张表中呢？这样会让你的表有更好的性能，大家想想是不是，大量的时候，我对于用户表来说，只有用户ID，用户名，口令，用户角色等会被经常使用。小一点的表总是会有好的性能。

示例二： 你有一个叫 “last_login”的字段，它会在每次用户登录时被更新。但是，每次更新时会导致该表的查询缓存被清空。所以，你可以把这个字段放到另一个表中，这样就不会影响你对用户ID，用户名，用户角色的不停地读取了，因为查询缓存会帮你增加很多性能。

另外，你需要注意的是，这些被分出去的字段所形成的表，你不会经常性地去Join他们，不然的话，这样的性能会比不分割时还要差，而且，会是极数级的下降。

8. 拆分大的 DELETE 或 INSERT语句
如果你需要在一个在线的网站上去执行一个大的 DELETE 或 INSERT查询，你需要非常小心，要避免你的操作让你的整个网站停止相应。因为这两个操作是会锁表的，表一锁住了，别的操作都进不来了。

Apache会有很多的子进程或线程。所以，其工作起来相当有效率，而我们的服务器也不希望有太多的子进程，线程和数据库链接，这是极大的占服务器资源的事情，尤其是内存。

如果你把你的表锁上一段时间，比如30秒钟，那么对于一个有很高访问量的站点来说，这30秒所积累的访问进程/线程，数据库链接，打开的文件数，可能不仅仅会让你泊WEB服务Crash，还可能会让你的整台服务器马上掛了。

所以，如果你有一个大的处理，你定你一定把其拆分，使用 LIMIT 条件是一个好的方法。下面是一个示例：

代码如下:
while (1) {
//每次只做1000条
mysql_query("DELETE FROM logs WHERE log_date <= '2009-11-01'LIMIT 1000");
if (mysql_affected_rows() == 0) {
// 没得可删了，退出！
break;
}
// 每次都要休息一会儿
usleep(50000);
}

9.越小的列会越快

对于大多数的数据库引擎来说，硬盘操作可能是最重大的瓶颈。所以，把你的数据变得紧凑会对这种情况非常有帮助，因为这减少了对硬盘的访问。

参看 MySQL 的文档 Storage Requirements 查看所有的数据类型。

如果一个表只会有几列罢了（比如说字典表，配置表），那么，我们就没有理由使用 INT 来做主键，使用 MEDIUMINT,SMALLINT 或是更小的 TINYINT 会更经济一些。如果你不需要记录时间，使用 DATE 要比 DATETIME好得多。

当然，你也需要留够足够的扩展空间，不然，你日后来干这个事，你会死的很难看

10.永远为每张表设置一个ID

我们应该为数据库里的每张表都设置一个ID做为其主键，而且最好的是一个INT型的（推荐使用UNSIGNED），并设置上自动增加的AUTO_INCREMENT标志。

就算是你 users 表有一个主键叫 “email”的字段，你也别让它成为主键。使用 VARCHAR类型来当主键会使用得性能下降。另外，在你的程序中，你应该使用表的ID来构造你的数据结构。

而且，在MySQL数据引擎下，还有一些操作需要使用主键，在这些情况下，主键的性能和设置变得非常重要，比如，集群，分区……

在这里，只有一个情况是例外，那就是“关联表”的“外键”，也就是说，这个表的主键，通过若干个别的表的主键构成。我们把这个情况叫做“外键”。比如：有一个“学生表”有学生的ID，有一个“课程表”有课程ID，那么，“成绩表”就是“关联表”了，其关联了学生表和课程表，在成绩表中，学生ID和课程ID叫“外键”其共同组成主键

11.优化GroupBy语句默认情况下，MySQL 排序所有GROUP BY col1，col2，....。查询的方法如同在查询中指定ORDER BYcol1，col2，...。如果显式包括一个包含相同的列的ORDER BY子句，MySQL可以毫不减速地对它进行优化，尽管仍然进行排序。如果查询包括GROUP BY 但你想要避免排序结果的消耗，你可以指定ORDER BYNULL禁止排序。

12.where语句的优化

1.尽量避免在 where 子句中对字段进行表达式操作
select id from uinfo_jifen where jifen/60 > 10000;
优化后:
Select id from uinfo_jifen where jifen>600000;

2.应尽量避免在where子句中对字段进行函数操作，这将导致mysql放弃使用索引

select uid from imid wheredatediff(create_time,'2011-11-22')=0
优化后
select uid from imid where create_time> ='2011-11-21‘ andcreate_time<‘2011-11-23’;

13.索引的优化

MySQL只有对以下操作符才使用索引：<，<=，=，>，>=，BETWEEN，IN，以及某些时候的LIKE。

尽量不要写!=或者<>的sql，用between或>and <代替，否则可能用不到索引

Order by 、Group by 、Distinct最好在需要这个列上建立索引，利于索引排序

尽量利用mysql索引排序

没办法的情况下，使用强制索引Forceindex(index_name)

尽量避勉innodb用非常大尺寸的字段作为主键

较频繁的作为查询条件的字段应该创建索引;

选择性高的字段比较适合创建索引;

作为表关联字段一般都需要创索引.

更新非常频繁的字段不适合创建索引;

不会出现在 WHERE 子句中的字段不该创建索引.

选择性太低的字段不适合单独创建索引

14.尽量不要用子查询

mysql> explain select uid_,count(*) from smember_6 where uid_in (select uid_ from alluid) group by uid_;

--优化后

| mysql> explain select a.uid_,count(*) from smember_6 a,alluidb where a.uid_=b.uid_ group by uid_;

15.SQL语句中IN包含的值不应过多

MySQL对于IN做了相应的优化，即将IN中的常量全部存储在一个数组里面，而且这个数组是排好序的。但是如果数值较多，产生的消耗也是比较大的。再例如：select id from t where num in(1,2,3) 对于连续的数值，能用between就不要用in了；再或者使用连接来替换。

16.如果限制条件中其他字段没有索引，尽量少用or

or两边的字段中，如果有一个不是索引字段，而其他条件也不是索引字段，会造成该查询不走索引的情况。很多时候使用union all或者是union（必要的时候）的方式来代替“or”会得到更好的效果。

17.区分in和exists、not in和not exists

select * from 表A where id in (select id from 表B)

上面SQL语句相当于 select * from 表A where exists(select * from 表B where 表B.id=表A.id)

区分in和exists主要是造成了驱动顺序的改变（这是性能变化的关键），如果是exists，那么以外层表为驱动表，先被访问，如果是IN，那么先执行子查询。所以IN适合于外表大而内表小的情况；EXISTS适合于外表小而内表大的情况。

关于not in和not exists，推荐使用not exists，不仅仅是效率问题，not in可能存在逻辑问题。如何高效的写出一个替代not exists的SQL语句？

原SQL语句： select colname … from A表 where a.id not in (select b.id from B表)

高效的SQL语句： select colname … from A表 Left join B表 on where a.id = b.id where b.id is null

18.使用合理的分页方式以提高分页的效率

select id,name from product limit 866613, 20

使用上述SQL语句做分页的时候，可能有人会发现，随着表数据量的增加，直接使用limit分页查询会越来越慢。

优化的方法如下：可以取前一页的最大行数的id，然后根据这个最大的id来限制下一页的起点。

比如此列中，上一页最大的id是866612。SQL可以采用如下的写法：

select id,name from product where id> 866612 limit 20

19.避免在where子句中对字段进行表达式操作

比如： select user_id,user_project from user_base where age*2=36; 中对字段就行了算术运算，这会造成引擎放弃使用索引，建议改成： select user_id,user_project from user_base where age=36/2;

20.避免隐式类型转换

where子句中出现column字段的类型和传入的参数类型不一致的时候发生的类型转换，建议先确定where中的参数类型。

21、对于联合索引来说，要遵守最左前缀法则

举列来说索引含有字段id、name、school，可以直接用id字段，也可以id、name这样的顺序，但是name;school都无法使用这个索引。所以在创建联合索引的时候一定要注意索引字段顺序，常用的查询字段放在最前面。

22.注意范围查询语句

对于联合索引来说，如果存在范围查询，比如between、>、<等条件时，会造成后面的索引字段失效。

23.关于JOIN优化

LEFT JOIN A表为驱动表，INNER JOIN MySQL会自动找出那个数据少的表作用驱动表，RIGHT JOIN B表为驱动表。

注意：

1）MySQL中没有full join，可以用以下方式来解决：

select * from A left join B on B.name = A.namewhere B.name is nullunion allselect * from B;

2）尽量使用inner join，避免left join： 参与联合查询的表至少为2张表，一般都存在大小之分。如果连接方式是inner join，在没有其他过滤条件的情况下MySQL会自动选择小表作为驱动表，但是left join在驱动表的选择上遵循的是左边驱动右边的原则，即left join左边的表名为驱动表。

3）合理利用索引： 被驱动表的索引字段作为on的限制字段。

4）利用小表去驱动大表

24.如果在 where 子句中使用参数，也会导致全表扫描。

因为SQL只有在运行时才会解析局部变量，但优化程序不能将访问计划的选择推迟到运行时；它必须在编译时进行选择。然而，如果在编译时建立访问计划，变量的值还是未知的，因而无法作为索引选择的输入项。

如下面语句将进行全表扫描： select id from t where num=@num

可以改为强制查询使用索引： select id from t with(index(索引名)) where num=@num

25.应尽量避免在where子句中对字段进行函数操作，这将导致引擎放弃使用索引而进行全表扫描。

如： select id from t where substring(name,1,3)='abc' --name以abc开头的id

select id from t where datediff(day,createdate,'2005-11-30')=0 --'2005-11-30'生成的id

应改为: select id from t where name like 'abc%'select id from t where createdate>='2005-11-30' and createdate

Mysql的存储引擎分析

在介绍存储引擎的选择原则之前，先介绍一下读写比。读写比，即读取和写入语句执行次数的比，一般理想的读写比在100:1左右。

当读写比达到10:1的时候，即认为其是以写为主的数据库。

(1).采用MyISAM引擎（关键是快读，最简版的MySQL数据库）

R/W>100:1,且update较少

并发不高，不需要事务

表数据量小，硬件资源差

(2).采用InnoDB引擎（功能完备的MySQL数据库)

R/W比较小，数据更新频繁

海量数据，高并发

安全性、可用性高

(3).采用Memory引擎

内存充足

对数据一致性要求不高

定期归档（将过时的历史数据存入文件系统）

最常用的两种引擎是MyISAM和InnoDB，MyISAM注重效率，InnoDB注重事务。

数据库分区

讲一个数据表的文件和索引分散存储在不同的物理文件中，这样在查找的时候就不需要在整个大文件中搜索，而在固定范围中查找。

假设要存储某一地区1900-2000年之间出生的孩子信息，按年份分区，代码如下:

create table child (

id int AUTO_INCREMENT,

name varchar(12) not null,

birth date not null,

primary key(id,birth)
) engine=innoDB partition by range (year(birth))

(partition foo01 values less than(1991), partition foo02 values less than(1992),

partition foo03 values less than(1993), partition foo04 values less than(1994),

partition foo05 values less than(1995), partition foo06 values less than(1996),

partition foo07 values less than(1997), partition foo08 values less than(1998),

partition foo09 values less than(1999), partition foo10 values less than(2000));

数据库分表

分表原理和分区类似，只不过分区是在不同文件中存储数据，而分表是将一张数据库表拆分成多张数据库表。

如：

create table child (

id int primary key AUTO_INCREMENT,

name varchar(12) not null,

birth date not null) engine=innoDB;

可分为:

create table child_xxxx(

id int primary key AUTO_INCREMENT,

name varchar(12) not null,

birth date not null) engine=innoDB;

child_xxxx代表出生年份，如child_1900保存1900年出生的孩子信息，child_1901保存1901年出生的孩子信息，以此类推。

保证从内存中读取数据，讲数据保存在内存中

　　足够大的 innodb_buffer_pool_size

推荐将数据完全保存在 innodb_buffer_pool_size ，即按存储量规划 innodb_buffer_pool_size 的容量。这样你可以完全从内存中读取数据，最大限度减少磁盘操作。

如何确定 innodb_buffer_pool_size 足够大，数据是从内存读取而不是硬盘?

    mysql> SHOW GLOBAL STATUS LIKE 'innodb_buffer_pool_pages_%';

　　+----------------------------------+--------+| Variable_name | Value |

　　+----------------------------------+--------+

　　| Innodb_buffer_pool_pages_data | 129037 || Innodb_buffer_pool_pages_dirty | 362 |

　　| Innodb_buffer_pool_pages_flushed | 9998 || Innodb_buffer_pool_pages_free | 0 | !!!!!!!!

　　| Innodb_buffer_pool_pages_misc | 2035 || Innodb_buffer_pool_pages_total | 131072 |

　　+----------------------------------+--------+

　　6 rows in set (0.00 sec)

　　发现 Innodb_buffer_pool_pages_free 为 0，则说明 buffer pool 已经被用光，需要增大 innodb_buffer_pool_size

用iostat -d -x -k 1 命令，查看硬盘的操作。

服务器上是否有足够内存用来规划：执行 echo 1 /proc/sys/vm/drop_caches 清除操作系统的文件缓存，可以看到真正的内存使用量。

MySQL5.6新特性快速预热Buffer_Pool缓冲池

在之前的版本里，如果一台高负荷的机器重启后，内存中大量的热数据被清空，此时就会重新从磁盘加载到Buffer_Pool缓冲池里，这样当高峰期间，性能就会变得很差，连接数就会很高。

在MySQL5.6里，一个新特性避免的这种问题的出现。

你只需在my.cnf里，加入如下：

innodb_buffer_pool_dump_at_shutdown = 1

解释：在关闭时把热数据dump到本地磁盘。

innodb_buffer_pool_dump_now = 1

解释：采用手工方式把热数据dump到本地磁盘。

innodb_buffer_pool_load_at_startup = 1

解释：在启动时把热数据加载到内存。

innodb_buffer_pool_load_now = 1

解释：采用手工方式把热数据加载到内存。

在关闭MySQL时，会把内存中的热数据保存在磁盘里ib_buffer_pool文件中，位于数据目录下。

查看日志，你会发现：

在启动后，会自动加载热数据到Buffer_Pool缓冲池里。

查看日志，你会发现：

这样，始终保持热数据在内存中。

注：只有在正常关闭MySQL服务，或者pkill mysql时，会把热数据dump到内存。机器宕机或者pkill -9 mysql，是不会dump。

减少磁盘写入操作

　　使用足够大的写入缓存 innodb_log_file_size 日志缓冲

　　但是需要注意如果用 1G 的 innodb_log_file_size ，假如服务器当机，需要 10 分钟来恢复。

　　推荐 innodb_log_file_size 设置为 0.25 * innodb_buffer_pool_size

       InnoDB log file 设置多大合适？

       innodb_flush_log_at_trx_commit

       这个选项和写磁盘操作密切相关：

　　innodb_flush_log_at_trx_commit = 1 则每次修改写入磁盘

　　innodb_flush_log_at_trx_commit = 0/2 每秒写入磁盘

　　如果你的应用不涉及很高的安全性 (金融系统)，或者基础架构足够安全，或者 事务都很小，都可以用 0 或者 2 来降低磁盘操作。

        避免双写入缓冲

　　innodb_flush_method=O_DIRECT

　　提高磁盘读写速度

　　RAID0 尤其是在使用 EC2 这种虚拟磁盘 (EBS) 的时候，使用软 RAID0 非常重要。

    每次重启服务器进行数据预热

　　echo “select username,password from users;” /var/lib/mysql/upcache.sql

　　添加启动脚本到 my.cnf

　　[mysqld]init-file=/var/lib/mysql/upcache.sql