Mysql 的逻辑框架
mysql 主要是分为Server和存储引擎两个部分。
server 层主要包括1.连接器 2. 分析器 3.优化器 4. 执行器等, 涵盖了mysql的大多数的核心功能, 以及所有的内置函数(如时间,如期,数学和加密函数等),所有跨存储引擎的功能都在这一层进行实现的,比如存储过程,触发器,视图等等。
存储引擎层主要就是负责数据的存储和提取,提供读写接口,支持innodb,myisam,memory等多个存储引擎。现在我们主要常用的存储引擎是innodb,也是mysql5.5.5版本之后的默认储存引擎。在创建表的时候,默认指定的存储引擎是innodb,但是也可以显式的使用 engine=myisam,来指定使用何种内存引擎来创建一张表。不同的存储引擎的表的数据的存取方式不同,支持的功能也是不同的。从上图可以看出,不同的存储引擎共用一个server层。
连接器
连接器就是我们在执行连接数据库的这一过程,连接器主要负责与客户端创建连接,获取权限,维持和管理连接。连接命令一般写法:
mysql -h$ip -P$port -u$user -p$password
-h 跟数据库服务主机地址, -P跟数据库服务端口号,-u跟用户名,-p跟密码, 一般我们连接本地数据库都会把前面的-h和-P省略,密码一般能跟在-p后面,但是一般不推荐这么写,因为在bash的历史命令记录中能够记录你输入的mysql的密码,可能会导致密码泄漏。
连接命令中的mysql是客户端工具,在本地安装完mysql之后,配置好环境变量之后相当于执行脚本的命令,用来跟服务器建立连接。在完成经典的tcp握手后,连接器会开始认证你的身份。
- 如果用户名或密码不对,你就会收到一个"Access denied for user"的错误,然后客户端程序结束执行。
- 如果用户名密码认证通过,连接器会到权限表里面查出你拥有的权限。之后,这个连接里面的权限判断逻辑,都将依赖于此时读到的权限。
这里注意,如果一个用户连接成功建立之后,即使使用管理员账号对这个用户的权限做了自改,也不会影响已经建立连接的权限。修改完成之后,只有新建立的连接才会有新的权限的设置。
连接完成之后,如果没有后续的动作,这个连接就会处于空闲状态,我们可以执行show processlist来查看它,其中command列显示为sleep的这一行,就表示现在系统里面有一个空闲的连接。
如果说客户端太长时间没有动静,连接器就会自动断开它,这个参数是有wait_timeout控制的,默认时间是8小时,我们可以通过登陆mysql 超级管理员用户输入以下命令来进行查看或进行修改。
如果连接在断开之后,客户端再次发送请求,就会收到一个错误提示: Lost connection to mysql server during query。如果还要继续,则需要重连,然后再执行请求。
数据库里,长连接是指连接成功之后,如果客户端有持续请求,则一直使用同一个连接。短连接则是每次执行完很少的几次查询之后就会断开连接,下次查询再重新建立一个。
建立连接的过程比较复杂,也耗费性能,因此应该尽量减少连接的动作,也就是我们应该尽量使用长连接,但如果全部使用长连接的话,会发现mysql占用内存涨得特别快,因为mysql在执行过程中临时使用的内存是管理在连接对象里面的。这些资源会在断开连接的时候才会被释放。如果长连接积累下来,可能就会导致内存的占用太大,被系统强行杀掉(OOM),从现象上看就是mysql异常重启了。
怎么解决这个问题呢?可以考虑以下两种方案。
1. 定期断开长连接。使用一段时间,或者程序里面判断执行一个占用内存过大的查询之后,断开连接,之后查询再重连。
2. 如果你用的是 MySQL 5.7 或更新版本,可以在每次执行一个比较大的操作后,通过执行 mysql_reset_connection 来重新初始化连接资源。这个过程不需要重连和重新做权限验证,但是会将连接恢复到刚刚创建完时的状态。
查询缓存
连接完成之后几执行sql语句了。执行的逻辑会来到第二步:查询缓存。
mysql 拿到一个查询请求之后,会先到缓存中进行查询,看是否已经执行过这一条语句。之前执行的语句以及结果会以key-value的形式直接被缓存在内存中,当然缓存总共的内存大小是设有上限的,如果不设上限,那随着执行sql语句的不断增多,终究会导致资源耗尽,导致mysql服务挂掉,mysql应该是运用了某种算法对缓存进行管理,设有过期时间,超过缓存最大使用内存大小,会进行替换。
但是大多数情况下建议不去使用查询缓存,因为针对一个表的更新,那和这个表上相关的所有查询缓存都会被清空,对于更新压力大的数据库来说,查询缓存的命中率是特别低的,除非业务存储的数据就是一张静态表,很长时间才会被更新一次。比如,系统配置表,这张表上的查询才适合使用缓存。
mysql中确定使用缓存可以显式的去声明:
select SQL_CACHE * from X where x = 'x';
这个功能在mysql8.0之后已经被删掉。
分析器
如果没有命中缓存,就要开始真正执行sql语句了。包括下面的过程类似编译器的代码执行过程。
首先mysql需要知道你在做什么,因此要先对sql语句进行解析。分析器首先会做词法分析,针对你输入的整条sql语句,mysql会通过算法去识别里面的字符串分别是什么,代表什么。mysql通过识别你输入的关键字来识别你执行的是一个查询语句还是更新语句或者删除语句。把其中的变量替换成表名,列名等。
做完了这些识别之后,mysql就会进行语法分析。根据词法分析的结果,语法分析器会根据语法规则,判断你输入的sql语句是否符合mysql的语法。
如果语法不对,则会收到通常我们见到的“You have an error in your SQL syntax”的错误提醒,一般语法错误会提示第一个错误出现的位置,所以我们需要关注的是错误提示中use near后面的内容。
优化器
经过了分析器之后,mysql就知道你要干什么了。在开始执行语句之前,mysql还要经过优化器的处理。
优化器是在表里有多个索引的时候,决定使用哪个索引;或者在一个语句关联多个表的时候,决定各个表的连接顺序。
比如你执行下面这样的语句,这个语句是执行两个表的 join:mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;
- 既可以先从表 t1 里面取出 c=10 的记录的 ID 值,再根据 ID 值关联到表 t2,再判断 t2 里面 d 的值是否等于 20。
- 也可以先从表 t2 里面取出 d=20 的记录的 ID 值,再根据 ID 值关联到 t1,再判断 t1 里面 c 的值是否等于 10。
这两种执行方法的逻辑结果是一样的,但是执行的效率会有不同,而优化器的作用就是决定选择使用哪一个方案。
优化器阶段完成之后,这个语句的执行方案就确定下来了,然后进入到执行器的阶段。
执行器
开始执行的时候,首先要判断一下你对这个表有没有执行操作的权限,如果没有,则返回没有权限的错误提示,如下所示(如果命中缓存,会在查询缓存返回结果的时候,做权限验证。查询也会在优化器之前调用precheck验证权限)。
mysql> select * from T where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'
如果有权限,则打开表继续执行。这里注意,和上面所说的权限一样,如果在连接之后修改了用户的权限只会在下一次连接重新建立的时候生效,针对已经建立的连接权限还是没有变化,这里可以理解为当时建立连接的时候权限的一个快照。打开表的时候,执行器就会根据表的引擎定义,去使用这个引擎提供的接口。
比如我们这个例子中的表 T 中,ID 字段没有索引,那么执行器的执行流程是这样的:
- 调用 InnoDB 引擎接口取这个表的第一行,判断 ID 值是不是 10,如果不是则跳过,如果是则将这行存在结果集中;
- 调用引擎接口取“下一行”,重复相同的判断逻辑,直到取到这个表的最后一行。
- 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集返回给客户端。
至此,这个语句就执行完成了。
对于有索引的表,执行的逻辑也差不多。第一次调用的是“取满足条件的第一行”这个接口,之后循环取“满足条件的下一行”这个接口,这些接口都是引擎中已经定义好的。
你会在数据库的慢查询日志中看到一个 rows_examined 的字段,表示这个语句执行过程中扫描了多少行。这个值就是在执行器每次调用引擎获取数据行的时候累加的。
在有些场景下,执行器调用一次,在引擎内部则扫描了多行,因此引擎扫描行数跟 rows_examined 并不是完全相同的。