目录
插入数据
insert优化
如果需要一次性往数据库中插入多条记录,可以从以下三个方面进行优化:
- 批量插入数据
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
- 手动控制事务
start transaction;
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
insert into tb_test values(4,'Tom'),(5,'Cat'),(6,'Jerry');
insert into tb_test values(7,'Tom'),(8,'Cat'),(9,'Jerry');
commit;
- 主键顺序插入,性能要高于乱序插入
主键乱序插入 : 8 1 9 21 88 2 4 15 89 5 7 3
主键顺序插入 : 1 2 3 4 5 7 8 9 15 21 88 89
大批量插入数据
如果一次性需要插入大批量数据(比如几百万的记录),使用insert语句插入性能较低,此时可以使用MySQL数据库提供的load指令进行插入,操作如下:
可以执行如下指令,将数据脚本文件中的数据加载到表结构中:
-- 客户端连接服务端时,加上参数 -–local-infile
mysql –-local-infile -u root -p
-- 设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile = 1;
-- 执行load指令将准备好的数据,加载到表结构中
load data local infile '/root/sql1.log' into table tb_user fields
terminated by ',' lines terminated by '\n' ;
主键顺序插入性能高于乱序插入
主键优化
数据组织方式
在InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table IOT)
行数据都是存储在聚集索引的叶子节点上的
InnoDB的逻辑结构图:
在InnoDB引擎中,数据行是记录在逻辑结构page页中的,而每一个页的大小是固定的,默认16K,则一个页中所存储的行也是有限的,如果插入的数据行row在该页存储不小,将会存储到下一个页中,页与页之间会通过指针连接
页分裂
页可以为空,也可以填充一半,也可以填充100%,每个页包含了2-N行数据(如果一行数据过大,会行溢出),根据主键排列
主键顺序插入效果:
1.从磁盘中申请页,主键顺序插入
2.第一个页没有满,继续往第一页插入
3.当第一个页写满之后,再写入第二个页,页与页之间会通过指针连接
4.当第二页写满了,再往第三页写入
主键乱序插入效果:
1.加入1#,2#都写满了,存放了如图所示的数据:
2.此时插入id为50的记录,不会再次开启一个页,写入新的页,按照顺序应该存储在47之后,但47所在的1#页已经写满,此时会开辟一个新的页3#,但不会直接将50存入3#页,而是会将1#页后一半的数据移动到3#页,然后在3#页插入50
移动数据并插入id为50的数据之后,此时三个页之间的数据顺序有问题,1#的下一页应该是3#,3#的下一页是2#,所以需要重新设置链表指针
上述这种现象称为“页分裂”,比较耗费性能
页合并
当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用
当页中删除的记录达到MERGE_THRESHOLD(默认为页的50%),InnoDB会开始寻找最靠近的页(前或后),看看是否可以将两个页合并以优化空间使用
上述发生的合并页的现象,就称为“页合并”
MERGE_THRESHOLD:合并页的阈值,可以自己设置,在创建表或者创建索引时指定
主键设计原则
- 满足业务需求的情况下,尽量降低主键的长度
- 插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键
- 尽量不要使用UUID做主键或是其他自然主键(如身份证号)
- 业务操作时,避免对主键的修改
order by优化
MySQL有两种排序方式:
- Using filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫Filesort排序
- Using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为using index,不需要额外排序,操作效率高
对于以上的两种排序方式,Using index的性能高,而Using filesort的性能低,在优化排序操作时,尽量要优化为Using index
升序/降序联合索引结构图示:
order by优化原则:
- 根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则
- 尽量使用覆盖索引
- 多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)
- 如果不可避免出现filesort,大数据量排序时,可以适当增大排序缓冲区大小sort_buffer_size(默认256K)
group by优化
group by优化原则:
- 在分组操作时,可以通过索引来提高效率
- 分组操作时,索引的使用也满足最左前缀法则
limit优化
在数据量比较大时,如果进行limit分页查询,在查询时,越往后分页查询效率越低
优化:一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询形式进行优化
explain select * from tb_sku t, (select id from tb_sku order by id limit 2000000,10) a where t.id = a.id;
count优化
InnoDB引擎执行count(*)时,需要把数据一行一行地从引擎里读出来,然后累计计数
count()是一个聚合函数,对于返回的结果集,一行行地判断,如果count函数的参数不是NULL,累计值就加1,否则不加,最后返回累计值
用法:
count(*)、count(主键)、count(字段)、count(数字)
按照效率排序:count(字段)<count(主键id)<count(1)≈count(*)
因此尽量使用count(*)
update优化
当执行如下SQL时,会锁定id为1这一行的数据,然后事务提交之后,行锁释放
update course set name = 'javaEE' where id = 1;
当开启多个事务,执行如下SQL时,行锁升级为了表锁,导致该update语句的性能大大降低
update course set name = 'SpringBoot' where name = 'PHP';
优化:更新的条件一定要有索引
InnoDB的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁