百万级数据库优化方案mysql_数据库sql优化总结之百万级数据库优化方案+案例阐发...

项目布景

有三张百万级数据表

知识点表(ex_subject_point)9,316条数据

试题表(ex_question_junior)2,159,519条数据 有45个字段

知识点试题关系表(ex_question_r_knowledge)3,156,155条数据

测试数据库为：mysql (5.7)

1.对查询进行优化，要尽量避免全表扫描，首先应考虑在 where 及 order by 涉及的列上建立索引。

案例阐发：

SELECT ex_question_junior.QUESTION_ID FROM ex_question_junior WHERE ex_question_junior.GRADE_ID=1

执行时间：17.609s (屡次执行，在17s左右徘徊)

优化后：给GRADE_ID字段添加索引后

执行时间为：11.377s(屡次执行，在11s左右徘徊)

备注：我们一般在什么字段上建索引？

这是一个很是复杂的话题，需要对业务及数据充分阐发后再能得出结果。主键及外键通常都要有索引，其它需要建索引的字段应满足以下条件：

a、字段呈现在查询条件中，并且查询条件可以使用索引；

b、语句执行频率高，一天会有几千次以上；

c、通过字段条件可筛选的记录集很小，那数据筛选比例是几多才适合？

这个没有固定值，需要根据表数据量来评估，以下是经验公式，可用于快速评估：

小表(记录数小于10000行的表)：筛选比例<10%；

年夜表：(筛选返回记录数)

单条记录长度≈字段平均内容长度之和+字段数*2

以下是一些字段是否需要建B-TREE索引的经验分类：

数据库sql优化总结之百万级数据库优化方案+案例阐发-1.jpg (65.47 KB, 下载次数: 0)

2018-7-15 21:12 上传

2、应尽量避免在 where 子句中对字段进行 null 值判断，不然将致使引擎抛却使用索引而进行全表扫描

select id from t where num is null

最好不要给数据库留NULL，尽可能的使用 NOT NULL填充数据库.

备注、描述、评论之类的可以设置为 NULL，其他的，最好不要使用NULL。

不要以为 NULL 不需要空间，好比：char(100) 型，在字段建立时，空间就固定了， 非论是否插入值(NULL也包含在内)，都是占用 100个字符的空间的，如果是varchar这样的变长字段， null 不占用空间。

可以在num上设置默认值0，确保表中num列没有null值，然后这样查询：

select id from t where num = 0

案例阐发：

在mysql数据库中对字段进行null值判断，是不会抛却使用索引而进行全表扫描的。

SELECT ex_question_junior.QUESTION_IDFROM ex_question_junior WHERE IS_USE is NULL

执行时间是：11.729s

SELECT ex_question_junior.QUESTION_IDFROM ex_question_junior WHERE IS_USE =0

执行时间是12.253s

时间几乎一样。

3、应尽量避免在 where 子句中使用 != 或 <> 操作符，不然将引擎抛却使用索引而进行全表扫描。

案例阐发：

在mysql数据库中where 子句中使用 != 或 <> 操作符，引擎不会抛却使用索引。

EXPLAINSELECT ex_question_junior.QUESTION_IDFROM ex_question_junior WHERE ex_question_junior.GRADE_ID !=15

数据库sql优化总结之百万级数据库优化方案+案例阐发-2.jpg (23.18 KB, 下载次数: 0)

2018-7-15 21:12 上传

执行时间是：17.579s

数据库sql优化总结之百万级数据库优化方案+案例阐发-3.jpg (35.39 KB, 下载次数: 0)

2018-7-15 21:12 上传

执行时间是：16.966s

4.应尽量避免在 where 子句中使用 or 来连接条件，如果一个字段有索引，一个字段没有索引，将致使引擎抛却使用索引而进行全表扫描

案例阐发：

GRADE_ID字段有索引，QUESTION_TYPE没索引

数据库sql优化总结之百万级数据库优化方案+案例阐发-4.jpg (23.51 KB, 下载次数: 0)

2018-7-15 21:12 上传

执行时间是：11.661s

优化方案：

通过union all 体例，把有索引字段和非索引字段分隔。索引字段就有效果了

数据库sql优化总结之百万级数据库优化方案+案例阐发-5.jpg (31.94 KB, 下载次数: 0)

2018-7-15 21:12 上传

执行时间是：11.811s

可是，非索引字段依然查询速度会很慢，所以查询条件，能加索引的尽量加索引

5.in 和 not in 也要慎用，不然会致使全表扫描

案例阐发

注：在mysql数据库中where 子句中对索引字段使用 in 和 not in操作符，引擎不会抛却使用索引。

数据库sql优化总结之百万级数据库优化方案+案例阐发-6.jpg (39.02 KB, 下载次数: 0)

2018-7-15 21:12 上传

注：在mysql数据库中where 子句中对不是索引字段使用 in 和 not in操作符，会致使全表扫描。

数据库sql优化总结之百万级数据库优化方案+案例阐发-7.jpg (35.71 KB, 下载次数: 0)

2018-7-15 21:12 上传

案例阐发2：

用between和in的区别

SELECT ex_question_junior.QUESTION_IDFROM ex_question_juniorWHERE ex_question_junior.QUESTION_TYPE IN(1,2,3,4)

执行时间为1.082s

SELECT ex_question_junior.QUESTION_IDFROM ex_question_juniorWHERE ex_question_junior.QUESTION_TYPE between 1 and 4

执行时间为0.924s

时间上是相差不多的

案例阐发3：

用exists 和 in区别：结论1. in()适合B表比A表数据年夜的情况2. exists()适合B表比A表数据小的情况当A表数据与B表数据一样年夜时,in与exists效率差不多,可任选一个使用.语法

select * from A

where id in(select id from B)

ex_question_r_knowledge表数据量年夜，ex_subject_point表数据量小

****************************************************************************

SELECT *FROM ex_question_r_knowledgeWHERE ex_question_r_knowledge.SUBJECT_POINT_ID IN( SELECT ex_subject_point.SUBJECT_POINT_ID FROM ex_subject_point WHERE ex_subject_point.SUBJECT_ID=7)SELECT *FROM ex_question_r_knowledgeWHERE exists( SELECT 1 FROM ex_subject_point WHERE ex_subject_point.SUBJECT_ID=7 AND ex_subject_point.SUBJECT_POINT_ID = ex_question_r_knowledge.SUBJECT_POINT_ID)

SELECT *

FROM ex_question_r_knowledge

WHERE exists

(

SELECT 1

FROM ex_subject_point

WHERE ex_subject_point.SUBJECT_ID=7

AND ex_subject_point.SUBJECT_POINT_ID = ex_question_r_knowledge.SUBJECT_POINT_ID

)

执行时间是：13.537s

*************************************************************************

用in适合

SELECT * FROM ex_subject_point WHERE ex_subject_point.SUBJECT_POINT_ID IN( SELECT ex_question_r_knowledge.SUBJECT_POINT_ID FROM ex_question_r_knowledge WHERE ex_question_r_knowledge.GRADE_TYPE=2 )

SELECT * FROM ex_subject_point WHERE

ex_subject_point.SUBJECT_POINT_ID IN( SELECT

ex_question_r_knowledge.SUBJECT_POINT_ID FROM

ex_question_r_knowledge WHERE

ex_question_r_knowledge.GRADE_TYPE=2 )

执行时间是：1.554s

SELECT *

FROM ex_subject_point

WHERE exists(

SELECT ex_question_r_knowledge.SUBJECT_POINT_ID

FROM ex_question_r_knowledge

WHERE ex_question_r_knowledge.GRADE_TYPE=2

AND ex_question_r_knowledge.SUBJECT_POINT_ID= ex_subject_point.SUBJECT_POINT_ID

)

执行时间是：11.978s

6、like模糊全匹配也将致使全表扫描

案例阐发

EXPLAIN SELECT * FROM ex_subject_point WHERE ex_subject_point.path like "%/11/%"

数据库sql优化总结之百万级数据库优化方案+案例阐发-8.jpg (32.94 KB, 下载次数: 0)

2018-7-15 21:12 上传

若要提高效率，可以考虑全文检索。lucene了解一下。或者其他可以提供全文索引的nosql数据库，好比tt server或MongoDB

还会陆续更新，还有几个小节。

昨天晚上突发奇想，like 模糊全匹配，会致使全表扫描，那模糊后匹配和模糊前匹配也会是全表扫描吗？

今天开电脑，做了下测试。结果如下：

like模糊后匹配，不会致使全表扫描

like模糊前匹配，会致使全表扫描

MY SQL的原理就是这样的，LIKE模糊全匹配会致使索引失效，进行全表扫描；LIKE模糊前匹配也会致使索引失效，进行全表扫描；可是LIKE模糊后匹配，索引就会有效果。

限于本人水平，如果文章和代码有表述不当之处，还请不吝赐教。

更多内容回复查看:

游客，如果您要查看本帖隐藏内容请回复