MySQL-优化

十二、MySQL优化

12.1 插入数据优化

-- 批量插入
insert into tb_test values(xx,xxx),(aa,aaa)...;

-- 手动提交事务
start transaction;
insert into tb_test values(xx,xxx);
...
commit;
#自动提交事务的话，会导致每执行一条MySQL语句都会有开始事务跟提交事务的操作，如果MySQL语句很多的话，反复的开启提交会严重影响效率。如果改成手动提交的话，我们可以将MySQL语句执行完后统一提交，大大提高了性能。


-- 主键顺序插入
主键乱序插入：8 1 6 4 9 10 65 45 98
主键顺序插入：1 4 6 8 9 10 45 65 98
#主键顺序插入性能高于乱序插入

-- 大批量插入数据
/*如果一次性需要插入大批量数据，使用insert语句插入性能较低，此时可以使用MySQL数据库提供的load指令进行插入。操作如下：*/

#客户端连接上服务器时，加上参数 --local-infile(表示要加载本地文件)
mysql --local-infile -u root -p
#设置全局参数local_infile为1，开启从本地加载文件导入数据的开关
set global local_infile = 1;
#执行load指令，将准备好的数据加载到表结构中(地址是在linux的地址)
load data local infile '/root/sql1.log' into table 'tb_user' fields terminated by ',' lines terminated by '\n';
-- 字段用，隔开				每一行用\n隔开


mysql> load data local infile '/root/load_user_100w_sort.sql' into table tb_user fields terminated by ',' lines terminated by '\n';
Query OK, 1000000 rows affected (13.30 sec)
Records: 1000000  Deleted: 0  Skipped: 0  Warnings: 0



-- 补充
select @@local_infile			查看全局变量local_inflie的状态

12.2 主键优化

• 数据组织方式

  在InnoDB存储引擎中，表数据都是根据主键顺序组织存放的，这种存储方式的表称为索引组织表(index organized table IOT)。

• 页分裂

  页可以为空，可以填充一半，可以填充100%。每个页包含了2-N行数据，（如果一行数据过大，会出现行溢出），根据主键1排列。

  主键顺序插入，就是顺序将页一个一个填满，页空间不够就增加新的页。相比于乱序插入算是比较简单的

主键乱序插入

此时两个页已经填满，再想要插入主键为50的数据，就要找到比50小的数据所在的页，然后将该页后面50%的数据取出来，新增一个第三页，然后将取出来的50%的数据存放在第三页，而主键为50的数据就存放在第三页最后一个数的末尾。然后MySQL再做调整，结果就是主键按顺序排列。

• 页合并

  当删除一行记录时，实际上记录并没有被物理删除，只是记录被标记为删除并且它的空间变得允许被其他记录声明使用。

  当页中删除的记录达到MERGE_THRESHOLD（默认为页的50%），InnoDB会开始寻找最靠近的页看看是否可以将两个页合并以优化空间使用

MERGE_THRESHOLD:页合并的阈值，可以自己设置，在创建表或者创建索引时指定。
-- 主键设计原则
1.满足业务需求的情况下，尽量降低主键的长度。
2.插入数据时，尽量选择顺序插入，选择使用AUTO_INCREMENT自增主键
3.尽量不要使用UUID做主键或者是其他自然主键，如身份证号。
4.业务操作时，避免对主键的修改。

12.3 order by优化

1.using filesort:通过表的索引或全表扫描，读取满足条件的数据行，然后在排序缓冲区sort buffer中完成排序操作，所有不是通过索引直接俄返回排序结果的排序都叫FileSort排序。

2.using index：通过有序索引顺序扫描直接返回有序数据，这种情况即为using index，不需要额外排序，操作效率高。

#没有创建索引时，根据age，phone进行排序
explain select id,age,phone from tb_user order by age,phone;
#创建索引,并指定升序排列
create index idx_user_age_phone_aa on tb_user(age asc,phone asc);
#创建索引后，根据age，phone进行升序排序
explain select id,age,phone from tb_user order by age,phone;
#创建索引后，根据age，phone进行降序排序
explain select id,age,phone from tb_user order by age desc,phone desc;
#对age进行升序，对phone进行降序
explain select id,age,phone from tb_user order by age asc,phone desc;
#创建索引
create index idx_user_age_phone_ad on tb_user(age asc,phone desc);
#对age进行升序，对phone进行降序
explain select id,age,phone from tb_user order by age asc,phone desc;

​ 创建索引之前按照age，phone排序

​ 创建联合索引之后，按照字段排序

​ 降序排序后出现了额外的索引（反向扫描索引）

总结：
1.根据排序字段建立合适的索引，多字段排序时也遵循最左前缀法
2.尽量使用覆盖索引
3.多字段排序，一个升序一个降序，此时需要注意联合索引在创建时的规则(asc,desc)
4.如果不可避免地出现filesort，大数据量排序时，可以适当增大排序缓冲区大小sort_buffer_size（默认为256k）
show variables like 'sort_buffer_size';

12.4 group by 优化

#删除掉目前的联合索引idx_user_pro_age_sta
drop index idx_user_pro_age_sta on tb_user;
#执行分组操作，根据profession字段分组
explain select profession,count(*) from tb_user group by profession;(临时表，效率低)
#创建索引
create index idx_user_pro_age_sta on tb_user(profession,age,status);
#执行分组操作，根据profession字段分组
explain select profession,count(*) from tb_user group by profession;(使用索引)
#执行分组操作，根据profession字段分组
explain select profession,count(*) from tb_user group by profession,age;

explain select age,count(*) from tb_user group by age;
不满足最左前缀法则，用到临时表，但也部分索引


explain select age,count(*) from tb_user where profession = '软件工程' group by age;
因为先出现的profession再出现的age，满足最左前缀法则，用到索引。

12.5 limit 优化

一个常见又非常头疼的问题：
limit 2000000,10;
此时需要MySQL排序前2000010记录，仅仅返回2000000-2000010的记录，其他记录被丢弃，查询排序代价非常大

优化思路：一般分页查询时，通过创建覆盖索引能够比较好地提高性能，可以通过覆盖索引加子查询形式进行优化。

explain select * from tb_user t,(select id from tb_user order by id limit 2000000,10) a where t.id=a.id; 

12.6 count优化

explain select count(*) from tb_user;

-- MyISAM引擎把一个表的总行数存在了磁盘上，因此执行count(*)的时候会直接返回这个数，效率很高

-- InnoDB引擎就麻烦了，它执行count(*)的时候，需要把数据一行一行地从引擎里面读出来，然后累积计数，效率极低

优化思路：自己计数

-- count的几种用法

#count()是一个聚合函数，对于返回的结果集，一行一行地判断，如果count函数的参数不是NULL，累计值就加1，否则不加，最后返回累计值。

主要用法：
count(*)
-- InnoDB引擎并不会把全部字段取出来，而是专门做了优化，不取值，服务层直接按行进行累加。

count(主键)
-- InnoDB引擎会遍历整张表，把每一行的主键id值都取出来，返回给服务层。服务层拿到主键后，直接按行进行累加(主键值不可能为NULL)

count(字段)
/*
两种情况：
1.没有not null约束：InnoDB引擎会遍历整张表，把每一行的字段值都取出来，返回给服务层，服务层判断是否为null，不为null就累加计数
2.有not null约束：InnoDB引擎会遍历整张表，把每一行的字段值都取出来，返回给服务层，直接按行进行累加（省得对null进行判断）
*/

count(n)
-- InnoDB引擎遍历整张表，但不取值。服务层对于返回的每一行放一个数字“n”进去，直接按行（就是根据有多少行数字n）进行累加。


效率排序：
count(字段)<count(主键id)<count(1)~=count(*),所以尽量使用count(*)

12.7 update优化

InnoDB的行锁是针对索引加的锁，并不是针对记录加的锁，并且该索引不能失效，否则会从行锁升级为表锁

这个主要是多个事务同时执行的时候会碰到，可以多开几个命令行，开启多个事务自己演示。