MySQL数据库面试题七（2020最新版）

二十三：SQL的生命周期？
1.应用服务器与数据库服务器建立一个连接
2.数据库进程拿到请求sql
3.解析并生成执行计划，执行
4.读取数据到内存并进行逻辑处理
5.通过步骤一的连接，发送结果到客户端
6.关掉连接，释放资源

二十四：其他

1. 大表数据查询，怎么优化
   1）优化shema、sql语句+索引；
   2）第二加缓存，memcached, redis；
   3）主从复制，读写分离；
   4）垂直拆分，根据你模块的耦合度，将一个大的系统分为多个小的系统，也就是分布式系统；
   5）水平切分，针对数据量大的表，这一步最麻烦，最能考验技术水平，要选择一个合理的sharding key, 为了有好的查询效率，表结构也要改动，做一定的冗余，应用也要改，sql中尽量带sharding key，将数据定位到限定的表上去查，而不是扫描全部的表；

2. 超大分页怎么处理？
   超大的分页一般从两个方向上来解决.
   1）数据库层面,这也是我们主要集中关注的(虽然收效没那么大),类似于select * from table where age > 20 limit 1000000,10这种查询其实也是有可以优化的余地的. 这条语句需要load1000000数据然后基本上全部丢弃,只取10条当然比较慢. 当时我们可以修改为select * from table where id in (select id from table where age > 20 limit 1000000,10).这样虽然也load了一百万的数据,但是由于索引覆盖,要查询的所有字段都在索引中,所以速度会很快. 同时如果ID连续的好,我们还可以

`select * from table where id > 1000000 limit 10`

效率也是不错的,优化的可能性有许多种,但是核心思想都一样,就是减少load的数据.
2）从需求的角度减少这种请求…主要是不做类似的需求(直接跳转到几百万页之后的具体某一页.只允许逐页查看或者按照给定的路线走,这样可预测,可缓存)以及防止ID泄漏且连续被人恶意攻击.
解决超大分页,其实主要是靠缓存,可预测性的提前查到内容,缓存至redis等k-V数据库中,直接返回即可.
在阿里巴巴《Java开发手册》中,对超大分页的解决办法是类似于上面提到的第一种.
【推荐】利用延迟关联或者子查询优化超多分页场景。
说明：MySQL并不是跳过offset行，而是取offset+N行，然后返回放弃前offset行，返回N行，那当offset特别大的时候，效率就非常的低下，要么控制返回的总页数，要么对超过特定阈值的页数进行SQL改写。
正例：先快速定位需要获取的id段，然后再关联：

SELECT a.* FROM 表1 a, (select id from 表1 where 条件 LIMIT 100000,20 ) b where a.id=b.id

3. mysql 分页
   LIMIT 子句可以被用于强制 SELECT 语句返回指定的记录数。LIMIT 接受一个或两个数字参数。参数必须是一个整数常量。如果给定两个参数，第一个参数指定第一个返回记录行的偏移量，第二个参数指定返回记录行的最大数目。初始记录行的偏移量是 0(而不是 1)

mysql> SELECT * FROM table LIMIT 5,10; // 检索记录行 6-15
1

为了检索从某一个偏移量到记录集的结束所有的记录行，可以指定第二个参数为 -1：

mysql> SELECT * FROM table LIMIT 95,-1; // 检索记录行 96-last.
1

如果只给定一个参数，它表示返回最大的记录行数目：

mysql> SELECT * FROM table LIMIT 5; //检索前 5 个记录行
1

换句话说，LIMIT n 等价于 LIMIT 0,n。

4. 慢查询日志
   用于记录执行时间超过某个临界值的SQL日志，用于快速定位慢查询，为我们的优化做参考。
   开启慢查询日志
   配置项：slow_query_log
   可以使用show variables like ‘slov_query_log’查看是否开启，如果状态值为OFF，可以使用set GLOBAL slow_query_log = on来开启，它会在datadir下产生一个xxx-slow.log的文件。
   设置临界时间
   配置项：long_query_time
   查看：show VARIABLES like ‘long_query_time’，单位秒
   设置：set long_query_time=0.5
   实操时应该从长时间设置到短的时间，即将最慢的SQL优化掉
   查看日志，一旦SQL超过了我们设置的临界时间就会被记录到xxx-slow.log中

5. 关心过业务系统里面的sql耗时吗？统计过慢查询吗？对慢查询都怎么优化过？
   在业务系统中，除了使用主键进行的查询，其他的我都会在测试库上测试其耗时，慢查询的统计主要由运维在做，会定期将业务中的慢查询反馈给我们。
   慢查询的优化首先要搞明白慢的原因是什么？ 是查询条件没有命中索引？是load了不需要的数据列？还是数据量太大？
   所以优化也是针对这三个方向来的，
   1）首先分析语句，看看是否load了额外的数据，可能是查询了多余的行并且抛弃掉了，可能是加载了许多结果中并不需要的列，对语句进行分析以及重写。
   2）分析语句的执行计划，然后获得其使用索引的情况，之后修改语句或者修改索引，使得语句可以尽可能的命中索引。
   3）如果对语句的优化已经无法进行，可以考虑表中的数据量是否太大，如果是的话可以进行横向或者纵向的分表。

6. 为什么要尽量设定一个主键？
   主键是数据库确保数据行在整张表唯一性的保障，即使业务上本张表没有主键，也建议添加一个自增长的ID列作为主键。设定了主键之后，在后续的删改查的时候可能更加快速以及确保操作数据范围安全。

7. 主键使用自增ID还是UUID？
   推荐使用自增ID，不要使用UUID。
   因为在InnoDB存储引擎中，主键索引是作为聚簇索引存在的，也就是说，主键索引的B+树叶子节点上存储了主键索引以及全部的数据(按照顺序)，如果主键索引是自增ID，那么只需要不断向后排列即可，如果是UUID，由于到来的ID与原来的大小不确定，会造成非常多的数据插入，数据移动，然后导致产生很多的内存碎片，进而造成插入性能的下降。
   总之，在数据量大一些的情况下，用自增主键性能会好一些。
   关于主键是聚簇索引，如果没有主键，InnoDB会选择一个唯一键来作为聚簇索引，如果没有唯一键，会生成一个隐式的主键。

8. 字段为什么要求定义为not null？
   null值会占用更多的字节，且会在程序中造成很多与预期不符的情况。

9. 如果要存储用户的密码散列，应该使用什么字段进行存储？
   密码散列，盐，用户身份证号等固定长度的字符串应该使用char而不是varchar来存储，这样可以节省空间且提高检索效率。

10. 优化查询过程中的数据访问
    1）访问数据太多导致查询性能下降
    2）确定应用程序是否在检索大量超过需要的数据，可能是太多行或列
    3）确认MySQL服务器是否在分析大量不必要的数据行
    4）避免犯如下SQL语句错误
    5）查询不需要的数据。解决办法：使用limit解决
    6）多表关联返回全部列。解决办法：指定列名
    7）总是返回全部列。解决办法：避免使用SELECT *
    8）重复查询相同的数据。解决办法：可以缓存数据，下次直接读取缓存
    9）是否在扫描额外的记录。解决办法：
    10）使用explain进行分析，如果发现查询需要扫描大量的数据，但只返回少数的行，可以通过如下技巧去优化：
    11）使用索引覆盖扫描，把所有的列都放到索引中，这样存储引擎不需要回表获取对应行就可以返回结果。
    12）改变数据库和表的结构，修改数据表范式
    13）重写SQL语句，让优化器可以以更优的方式执行查询。

11. 优化长难的查询语句
    1）一个复杂查询还是多个简单查询
    2）MySQL内部每秒能扫描内存中上百万行数据，相比之下，响应数据给客户端就要慢得多
    3）使用尽可能小的查询是好的，但是有时将一个大的查询分解为多个小的查询是很有必要的。
    4）切分查询
    5）将一个大的查询分为多个小的相同的查询
    6）一次性删除1000万的数据要比一次删除1万，暂停一会的方案更加损耗服务器开销。
    7）分解关联查询，让缓存的效率更高。
    8）执行单个查询可以减少锁的竞争。
    9）在应用层做关联更容易对数据库进行拆分。
    10）查询效率会有大幅提升。
    11）较少冗余记录的查询。

12. 优化特定类型的查询语句
    1）count()会忽略所有的列，直接统计所有列数，不要使用count(列名)
    2）MyISAM中，没有任何where条件的count()非常快。
    3）当有where条件时，MyISAM的count统计不一定比其它引擎快。
    4）可以使用explain查询近似值，用近似值替代count()*
    5）增加汇总表
    6）使用缓存

13. 优化关联查询
    1）确定ON或者USING子句中是否有索引。
    2）确保GROUP BY和ORDER BY只有一个表中的列，这样MySQL才有可能使用索引。
    优化子查询
    3）用关联查询替代
    4）优化GROUP BY和DISTINCT
    5）这两种查询据可以使用索引来优化，是最有效的优化方法
    6）关联查询中，使用标识列分组的效率更高
    7）如果不需要ORDER BY，进行GROUP BY时加ORDER BY NULL，MySQL不会再进行文件排序。
    8）WITH ROLLUP超级聚合，可以挪到应用程序处理
    优化LIMIT分页
    9）LIMIT偏移量大的时候，查询效率较低
    10）可以记录上次查询的最大ID，下次查询时直接根据该ID来查询

14. 优化UNION查询
    1）UNION ALL的效率高于UNION

15. 优化WHERE子句
    解题方法
    对于此类考题，先说明如何定位低效SQL语句，然后根据SQL语句可能低效的原因做排查，先从索引着手，如果索引没有问题，考虑以上几个方面，数据访问的问题，长难查询句的问题还是一些特定类型优化的问题，逐一回答。
    SQL语句优化的一些方法？
    1）对查询进行优化，应尽量避免全表扫描，首先应考虑在 where 及 order by 涉及的列上建立索引。
    2）应尽量避免在 where 子句中对字段进行 null 值判断，否则将导致引擎放弃使用索引而进行全表扫描，如：

select id from t where num is null

– 可以在num上设置默认值0，确保表中num列没有null值，然后这样查询：
select id from t where num=

3）应尽量避免在 where 子句中使用!=或<>操作符，否则引擎将放弃使用索引而进行全表扫描。
4）应尽量避免在 where 子句中使用or 来连接条件，否则将导致引擎放弃使用索引而进行全表扫描，如：

select id from t where num=10 or num=20

– 可以这样查询：

select id from t where num=10 union all select id from t where num=20

5)in 和 not in 也要慎用，否则会导致全表扫描，如：

select id from t where num in(1,2,3)

– 对于连续的数值，能用 between 就不要用 in 了：

select id from t where num between 1 and 3

6)下面的查询也将导致全表扫描：select id from t where name like ‘%李%’若要提高效率，可以考虑全文检索。
7)如果在 where 子句中使用参数，也会导致全表扫描。因为SQL只有在运行时才会解析局部变量，但优化程序不能将访问计划的选择推迟到运行时；它必须在编译时进行选择。然 而，如果在编译时建立访问计划，变量的值还是未知的，因而无法作为索引选择的输入项。如下面语句将进行全表扫描：

select id from t where num=@num

– 可以改为强制查询使用索引：

select id from t with(index(索引名)) where num=@num

8)应尽量避免在 where 子句中对字段进行表达式操作，这将导致引擎放弃使用索引而进行全表扫描。如：

select id from t where num/2=100

– 应改为:

select id from t where num=100*2

9)应尽量避免在where子句中对字段进行函数操作，这将导致引擎放弃使用索引而进行全表扫描。如：

select id from t where substring(name,1,3)=’abc’

– name以abc开头的id应改为:

select id from t where name like ‘abc%’

10)不要在 where 子句中的“=”左边进行函数、算术运算或其他表达式运算，否则系统将可能无法正确使用索引。

二十五：数据库优化
1.为什么要优化
1）系统的吞吐量瓶颈往往出现在数据库的访问速度上
2）随着应用程序的运行，数据库的中的数据会越来越多，处理时间会相应变慢
3）数据是存放在磁盘上的，读写速度无法和内存相比
优化原则：减少系统瓶颈，减少资源占用，增加系统的反应速度。

2. 数据库结构优化
   一个好的数据库设计方案对于数据库的性能往往会起到事半功倍的效果。
   需要考虑数据冗余、查询和更新的速度、字段的数据类型是否合理等多方面的内容。
   将字段很多的表分解成多个表
   对于字段较多的表，如果有些字段的使用频率很低，可以将这些字段分离出来形成新表。
   因为当一个表的数据量很大时，会由于使用频率低的字段的存在而变慢。

增加中间表
对于需要经常联合查询的表，可以建立中间表以提高查询效率。
通过建立中间表，将需要通过联合查询的数据插入到中间表中，然后将原来的联合查询改为对中间表的查询。

增加冗余字段
设计数据表时应尽量遵循范式理论的规约，尽可能的减少冗余字段，让数据库设计看起来精致、优雅。但是，合理的加入冗余字段可以提高查询速度。
表的规范化程度越高，表和表之间的关系越多，需要连接查询的情况也就越多，性能也就越差。

注意：
冗余字段的值在一个表中修改了，就要想办法在其他表中更新，否则就会导致数据不一致的问题。

3. MySQL数据库cpu飙升到500%的话他怎么处理？
   当 cpu 飙升到 500%时，先用操作系统命令 top 命令观察是不是 mysqld 占用导致的，如果不是，找出占用高的进程，并进行相关处理。
   如果是 mysqld 造成的， show processlist，看看里面跑的 session 情况，是不是有消耗资源的 sql 在运行。找出消耗高的 sql，看看执行计划是否准确， index 是否缺失，或者实在是数据量太大造成。
   一般来说，肯定要 kill 掉这些线程(同时观察 cpu 使用率是否下降)，等进行相应的调整(比如说加索引、改 sql、改内存参数)之后，再重新跑这些 SQL。
   也有可能是每个 sql 消耗资源并不多，但是突然之间，有大量的 session 连进来导致 cpu 飙升，这种情况就需要跟应用一起来分析为何连接数会激增，再做出相应的调整，比如说限制连接数等。

4. 大表怎么优化？某个表有近千万数据，CRUD比较慢，如何优化？分库分表了是怎么做的？分表分库了有什么问题？有用到中间件么？他们的原理知道么？
   当MySQL单表记录数过大时，数据库的CRUD性能会明显下降，一些常见的优化措施如下：
   1）限定数据的范围： 务必禁止不带任何限制数据范围条件的查询语句。比如：我们当用户在查询订单历史的时候，我们可以控制在一个月的范围内。；
   2）读/写分离： 经典的数据库拆分方案，主库负责写，从库负责读；
   3）缓存： 使用MySQL的缓存，另外对重量级、更新少的数据可以考虑使用应用级别的缓存；
   还有就是通过分库分表的方式进行优化，主要有垂直分表和水平分表
   （1）.垂直分区：
   根据数据库里面数据表的相关性进行拆分。 例如，用户表中既有用户的登录信息又有用户的基本信息，可以将用户表拆分成两个单独的表，甚至放到单独的库做分库。
   简单来说垂直拆分是指数据表列的拆分，把一张列比较多的表拆分为多张表。 如下图所示，这样来说大家应该就更容易理解了。
   
   垂直拆分的优点： 可以使得行数据变小，在查询时减少读取的Block数，减少I/O次数。此外，垂直分区可以简化表的结构，易于维护。
   垂直拆分的缺点： 主键会出现冗余，需要管理冗余列，并会引起Join操作，可以通过在应用层进行Join来解决。此外，垂直分区会让事务变得更加复杂；
   垂直分表
   把主键和一些列放在一个表，然后把主键和另外的列放在另一个表中
   

适用场景 1、如果一个表中某些列常用，另外一些列不常用 2、可以使数据行变小，一个数据页能存储更多数据，查询时减少I/O次数 缺点
有些分表的策略基于应用层的逻辑算法，一旦逻辑算法改变，整个分表逻辑都会改变，扩展性较差 对于应用层来说，逻辑算法增加开发成本
管理冗余列，查询所有数据需要join操作

（2）水平分区：
保持数据表结构不变，通过某种策略存储数据分片。这样每一片数据分散到不同的表或者库中，达到了分布式的目的。 水平拆分可以支撑非常大的数据量。
水平拆分是指数据表行的拆分，表的行数超过200万行时，就会变慢，这时可以把一张的表的数据拆成多张表来存放。举个例子：我们可以将用户信息表拆分成多个用户信息表，这样就可以避免单一表数据量过大对性能造成影响。

水品拆分可以支持非常大的数据量。需要注意的一点是:分表仅仅是解决了单一表数据过大的问题，但由于表的数据还是在同一台机器上，其实对于提升MySQL并发能力没有什么意义，所以 水平拆分最好分库 。
水平拆分能够 支持非常大的数据量存储，应用端改造也少，但 分片事务难以解决 ，跨界点Join性能较差，逻辑复杂。
《Java工程师修炼之道》的作者推荐 尽量不要对数据进行分片，因为拆分会带来逻辑、部署、运维的各种复杂度 ，一般的数据表在优化得当的情况下支撑千万以下的数据量是没有太大问题的。如果实在要分片，尽量选择客户端分片架构，这样可以减少一次和中间件的网络I/O。
水平分表：
表很大，分割后可以降低在查询时需要读的数据和索引的页数，同时也降低了索引的层数，提高查询次数

适用场景 1、表中的数据本身就有独立性，例如表中分表记录各个地区的数据或者不同时期的数据，特别是有些数据常用，有些不常用。
2、需要把数据存放在多个介质上。 水平切分的缺点 1、给应用增加复杂度，通常查询时需要多个表名，查询所有数据都需UNION操作
2、在许多数据库应用中，这种复杂度会超过它带来的优点，查询时会增加读一个索引层的磁盘次数 下面补充一下数据库分片的两种常见方案：
客户端代理： 分片逻辑在应用端，封装在jar包中，通过修改或者封装JDBC层来实现。 当当网的 Sharding-JDBC
、阿里的TDDL是两种比较常用的实现。 中间件代理： 在应用和数据中间加了一个代理层。分片逻辑统一维护在中间件服务中。 我们现在谈的
Mycat 、360的Atlas、网易的DDB等等都是这种架构的实现。

5. 分库分表后面临的问题
   1）事务支持 分库分表后，就成了分布式事务了。如果依赖数据库本身的分布式事务管理功能去执行事务，将付出高昂的性能代价； 如果由应用程序去协助控制，形成程序逻辑上的事务，又会造成编程方面的负担。
   2）跨库join
   只要是进行切分，跨节点Join的问题是不可避免的。但是良好的设计和切分却可以减少此类情况的发生。解决这一问题的普遍做法是分两次查询实现。在第一次查询的结果集中找出关联数据的id,根据这些id发起第二次请求得到关联数据。 分库分表方案产品
   3）跨节点的count,order by,group by以及聚合函数问题 这些是一类问题，因为它们都需要基于全部数据集合进行计算。多数的代理都不会自动处理合并工作。解决方案：与解决跨节点join问题的类似，分别在各个节点上得到结果后在应用程序端进行合并。和join不同的是每个结点的查询可以并行执行，因此很多时候它的速度要比单一大表快很多。但如果结果集很大，对应用程序内存的消耗是一个问题。
   4）数据迁移，容量规划，扩容等问题 来自淘宝综合业务平台团队，它利用对2的倍数取余具有向前兼容的特性（如对4取余得1的数对2取余也是1）来分配数据，避免了行级别的数据迁移，但是依然需要进行表级别的迁移，同时对扩容规模和分表数量都有限制。总得来说，这些方案都不是十分的理想，多多少少都存在一些缺点，这也从一个侧面反映出了Sharding扩容的难度。
   5）ID问题
   6）一旦数据库被切分到多个物理结点上，我们将不能再依赖数据库自身的主键生成机制。一方面，某个分区数据库自生成的ID无法保证在全局上是唯一的；另一方面，应用程序在插入数据之前需要先获得ID,以便进行SQL路由. 一些常见的主键生成策略。
   UUID 使用UUID作主键是最简单的方案，但是缺点也是非常明显的。由于UUID非常的长，除占用大量存储空间外，最主要的问题是在索引上，在建立索引和基于索引进行查询时都存在性能问题。 Twitter的分布式自增ID算法Snowflake 在分布式系统中，需要生成全局UID的场合还是比较多的，twitter的snowflake解决了这种需求，实现也还是很简单的，除去配置信息，核心代码就是毫秒级时间41位 机器ID 10位 毫秒内序列12位。
   7）跨分片的排序分页
   般来讲，分页时需要按照指定字段进行排序。当排序字段就是分片字段的时候，我们通过分片规则可以比较容易定位到指定的分片，而当排序字段非分片字段的时候，情况就会变得比较复杂了。为了最终结果的准确性，我们需要在不同的分片节点中将数据进行排序并返回，并将不同分片返回的结果集进行汇总和再次排序，最后再返回给用户。如下图所示：