目录
1.3 引擎层( Pluggable Storage Engines)
一、逻辑架构
SQL查询的简要流程:
具体架构:
1.1 连接层(Connection Pool)
1、客户端访问MySQL服务器要先建立TCP连接。
2、TCP 连接收到请求后,必须要分配给一个线程专门与这个客户端的交互。所以还会有个线程池,去走后面的流程。每一个连接从线程池中获取线程,省去了创建和销毁线程的开销。
3、MySQL 服务器对 TCP 传输过来的账号密码做身份认证、权限获取。
1.2 服务层
1.2.1 SQL接口(SQL Interface)
接收用户的SQL命令,并且返回用户需要查询的结果。MySQL支持多种SQL语言接口。
1.2.2 解析器(Parser)
在解析器中对 SQL 语句进行语法分析、语义分析。将SQL语句分解成数据结构,并将这个结构传递到后续步骤,以后SQL语句的传递和处理都基于这个结构。
验证和解析后会创建语法树 ,并根据数据字典丰富查询语法树,会验证该客户端是否具有执行该查询的权限 。
1.2.3 查询优化器(Optimizer)
SQL语句在语法解析之后、查询之前会使用查询优化器确定 SQL 语句的执行路径,生成一个 执行计划 。 这个执行计划表明应该使用哪些索引进行查询(全表检索还是使用索引检索),表之间的连接顺序如何,最后会按照执行计划中的步骤调用存储引擎提供的方法来真正的执行查询,并将查询结果返回给用户。
1.2.4 查询缓存(Caches & Buffers)
MySQL内部维持着一些Cache和Buffer,比如Query Cache用来缓存一条SELECT语句的执行结果,如果能够在其中找到对应的查询结果,那么就不必再进行查询解析、优化和执行的整个过 程了,直接将结果反馈给客户端。
这个缓存机制是由一系列小缓存组成的。比如表缓存,记录缓存,key缓存,权限缓存等 。 这个查询缓存可以在不同客户端之间共享 。 从MySQL 5.7.20开始,不推荐使用查询缓存,并在 MySQL 8.0中删除 。
1.3 引擎层( Pluggable Storage Engines)
插件式存储引擎层,真正的负责了MySQL中数据的存储和提取,对物理服务器级别维护的底层数据执行操作,服务器通过API与存储引擎进行通信。不同的存储引擎具有的功能特点不同。
1.4 存储层
所有的数据,数据库、表的定义,表的每一行的内容,索引,都是存在文件系统上,以文件的方式存在的,并完成与存储引擎的交互。
二、SQL执行流程
SQL 语句在 MySQL 中的流程是: SQL语句→查询缓存→解析器→优化器→执行器 。
2.1 查询缓存
Server 如果在查询缓存中发现了这条 SQL 语句,就会直接将结果返回给客户端;如果没 有,就进入到解析器阶段。需要说明的是,因为查询缓存往往效率不高,所以在 MySQL8.0 之后就抛弃了这个功能。
为什么被抛弃?
1.在MySQL中,只有相同的查询操作才会命中查询缓存 。两个查询请求在任何字符上的不同(例如:空格、注释、 大小写),都会导致缓存不会命中。因此 MySQL 的 查询缓存命中率不高 。
2.如果查询请求中包含某些系统函数、用户自定义变量和函数、一些系统表,那这些请求也不会被缓存。
3.MySQL的缓存系统会监测涉及到的每张表,只要该表的结构或者数据被修改,那使用该表的所有高速缓存查询都将变为无效并从高速缓存中删除。
2.2 解析器
在解析器中对 SQL 语句进行语法分析、语义分析。
1.词法分析:MySQL 需要识别出语句里面 的字符串分别是什么,代表什么。
2.语法分析:根据词法分析的结果,语法分析器会根据语法规则,判断输入的SQL 语句是否 满足 MySQL 语法 ,如果正确就生成语法树,例如:
select department_id,job_id,avg(salary) from employees group by department_id;
2.3 优化器
在优化器中会确定 SQL 语句的执行路径,比如是根据 全表检索 ,还是根据 索引检索 等,生成一个执行计划。在查询优化器中,可以分为 逻辑查询 优化阶段和 物理查询 优化阶段。
2.4 执行器
截止到现在,还没有真正去读写真实的表,仅仅只是产出了一个执行计划。于是就进入了 执行器阶段 。
在执行之前需要判断该用户是否 具备权限 。如果没有,就会返回权限错误。如果具备权限,就执行 SQL 查询并返回结果。在 MySQL8.0 以下的版本,如果设置了查询缓存,这时会将查询结果进行缓存。
三、数据库缓冲池(buffer pool)
3.1 数据库缓冲池与查询缓存的区别
InnoDB 存储引擎是以页为单位来管理存储空间的,我们进行的增删改查操作其实本质上都是在访问页面(包括读页面、写页面、创建新页面等操作)。而磁盘 I/O 需要消耗的时间很多,而在内存中进行操 作,效率则会高很多,为了能让数据表或者索引中的数据随时被我们所用,DBMS 会申请 占用内存来作为 数据缓冲池 ,在真正访问页面之前,需要把在磁盘上的页缓存到内存中的 Buffer Pool 之后才可以访问。
这样做的好处是可以让磁盘活动最小化,从而减少与磁盘直接进行 I/O 的时间 。如果索引的数据在缓冲池里,那么访问的成本就会降低很多。
在 InnoDB 存储引擎中有一部分数据会放到内存中,缓冲池则占了这部分内存的大部分,它用来存储各种 数据缓存,包括了数据页、索引页、插入缓冲、锁信息、自适应 Hash 和数据字典信息等。如下图所示:
前面提到的查询缓存是提前把查询结果缓存起来,这样下次不需要执行就可以直接拿到结果。需要说明的是,在 MySQL 中的查询缓存,不是缓存查询计划,而是查询对应的结果。因为命中条件苛刻,而且只要数据表发生变化,查询缓存就会失效,因此命中率低。
3.2 缓冲池读取数据的机制
缓冲池管理器会尽量将经常使用的数据保存起来,在数据库进行页面读操作的时候,首先会判断该页面是否在缓冲池中,如果存在就直接读取,如果不存在,就会通过内存或磁盘将页面存放到缓冲池中再读取。
向缓冲池中保存数据时也不是一次性全保存,而是间歇性地刷新到磁盘中。采取一种CheckPoint机制。如果缓冲池空间不足,那就强行将不常用的页写入磁盘中。
3.3 查看/设置缓冲池
对于InnoDB 存储引擎:
1.查看缓冲池大小
show variables like 'innodb_buffer_pool_size';
2.设置缓冲池大小
set global innodb_buffer_pool_size = 268435456;
3.设置缓冲池实例数量
#所有实例共同分担缓冲池的大小
set global innodb_buffer_pool_size = 2;
多线程情况下,访问buffer pool中的数据要加锁处理。如果buffer pool特别大,并且多线程访问量也很高,则单一的buffer pool会影响处理速度。所以会把buffer pool会分成各种小的buffer pool,这些称为实例,它们各自独立申请内存空间,独立管理。可以提高并发处理能力。
四、存储引擎
1.查看有什么引擎:
show engines;
2.修改默认引擎
SET DEFAULT_STORAGE_ENGINE=MyISAM;
3.为表单独设置引擎
CREATE TABLE 表名(
建表语句;
) ENGINE = 存储引擎名称;
4.修改表的引擎
ALTER TABLE 表名 ENGINE = 存储引擎名称;
4.1 InnoDB 引擎:具备外键支持功能的事务存储引擎
-InnoDB是MySQL的 默认事务型引擎 ,它被设计用来处理大量的短期(short-lived)事务。可以确保事务的完整提交(Commit)和回滚(Rollback)。
-InnoDB是为处理巨大数据量的最大性能设计。
-除了增加和查询外,还需要更新、删除操作,那么,应优先选择InnoDB存储引擎。
与MyISAM的对比:
对比MyISAM的存储引擎, InnoDB写的处理效率差一些 ,并且会占用更多的磁盘空间以保存数据和索引。
MyISAM只缓存索引,不缓存真实数据;
InnoDB不仅缓存索引还要缓存真实数据, 对内存要求较高 ,而且内存大小对性能有决定性的影响。
4.2 MyISAM 引擎:主要的非事务处理存储引擎
- MyISAM提供了大量的特性,包括全文索引、压缩、空间函数(GIS)等,但MyISAM不支持事务、行级锁、外键 ,有一个毫无疑问的缺陷就是 崩溃后无法安全恢复 。
-优势是访问速度快 ,对事务完整性没有要求或者以SELECT、INSERT为主的应用
4.3 其他引擎
Archive 引擎:用于数据存档
Blackhole 引擎:丢弃写操作,读操作会返回空内容。
CSV引擎:可以把CSV文件当作表来处理,不支持索引,可用来做数据交换。
Memory 引擎:逻辑存储介质是内存,速度快,但生命周期短,数据有丢失的风险。