MySQL逻辑架构(学习笔记)
1、连接层
最上层是一些客户端和连接服务,包含本地sock通信和大多数基于客户端/服务端工具实现的类似于tcp/ip
的通信。主要完成一些类似于连接处理、授权认证、及相关的安全方案。在该层上引入了线程池的概念,为通过认证安全接入的客户端提供线程同样在该层上可以实现基于SSL
的安全链接。服务器也会为安全接入的每个客户端验证它所具有的操作权限。
2、服务层
第二层架构主要完成大多数的核心服务功能,如SQL
接口,并完成缓存的查询,SQL
的分析和优化及部分内置函数的执行。所有跨存储引擎的功能也在这一层实现,如过程、函数等。在该层,服务器会解析查询并创建相应的内部解析树,并对其完成相应的优化如确定查询表的顺序,是否利用索引等,最后生成相应的执行操作。如果是select
语句,服务器还会查询内部的缓存。如果缓存空间足够大,这样在解决大量读操作的环境中能够很好的提升系统的性能。
3、引擎层
存储引擎层,存储引擎真正的负责了MySQL
中数据的存储和提取,服务器通过API
与存储引擎进行通信。不同的存储引擎具有的功能不同,这样我们可以根据自己的实际需要进行选取。
4、存储层
数据存储层,主要是将数据存储在运行于裸设备的文件系统之上,并完成与存储引擎的交互。
更为详细的解释
1、Connectors
指的是不同语言中与SQL
的交互。
2、Connection Pool
管理缓冲用户连接,线程处理等需要缓存的需求。负责监听对 MySQL Server
的各种请求,接收连接请求,转发所有连接请求到线程管理模块。每一个连接上MySQL Server
的客户端请求都会被分配(或创建)一个连接线程为其单独服务。而连接线程的主要工作就是负责MySQL Server
与客户端的通信,接受客户端的命令请求,传递 Server
端的结果信息等。线程管理模块则负责管理维护这些连接线程。包括线程的创建,线程的 cache
等。
3、 Management Serveices & Utilities
系统管理和控制工具。
4、 SQL Interface
接受用户的SQL
命令,并且返回用户需要查询的结果。
5、 Parser
SQL
命令传递到解析器的时候会被解析器验证和解析。解析器是由Lex
和YACC
实现的,是一个很长的脚本。在 MySQL
中我们习惯将所有Client
端发送给Server
端的命令都称为 query
,在 MySQL Server
里面,连接线程接收到客户端的一个Query
后,会直接将该 query
传递给专门负责将各种 Query
进行分类然后转发给各个对应的处理模块。
主要功能:
a 、 将SQL
语句进行语义和语法的分析,分解成数据结构,然后按照不同的操作类型进行分类,然后做出针对性的转发到后续步骤,以后SQL
语句的传递和处理就是基于这个结构的;
b、 如果在分解构成中遇到错误,那么就说明这个sql
语句是不合理的。
6、 Optimizer
查询优化器:SQL
语句在查询之前会使用查询优化器对查询进行优化。就是优化客户端请求query
,根据客户端请求的query
语句,和数据库中的一些统计信息,在一系列算法的基础上进行分析,得出一个最优的策略,告诉后面的程序如何取得这个 query
语句的结果。
使用的是 选取-投影-联接 策略进行查询:
用一个例子就可以理解:
select uid,name from user where gender = 1;
这个select
查询先根据where
语句进行选取,而不是先将表全部查询出来以后再进行gender
过滤;然后根据uid
和name
进行属性投影,而不是将属性全部取出以后再进行过滤。最后将这两个查询条件联接起来生成最终查询结果。
7 、Cache和Buffer
查询缓存:主要功能是将客户端提交给MySQL
的 Select
类 query
请求的返回结果集 cache
到内存中,与该 query
的一个 hash
值 做一个对应。该 query
所取数据的基表发生任何数据的变化之后, MySQL
会自动使该 query
的Cache
失效。在读写比例非常高的应用系统中, Query Cache
对性能的提高是非常显著的。当然它对内存的消耗也是非常大的。
如果查询缓存有命中的查询结果,查询语句就可以直接去查询缓存中取数据。这个缓存机制是由一系列小缓存组成的。比如表缓存,记录缓存,key缓存,权限缓存等。
8 、存储引擎接口
MySQL
区别于其他数据库的最重要的特点就是其插件式的表存储引擎。MySQL
插件式的存储引擎架构提供了一系列标准的管理和服务支持,这些标准与存储引擎本身无关,可能是每个数据库系统本身都必需的,如SQL
分析器和优化器等,而存储引擎是底层物理结构的实现,每个存储引擎开发者都可以按照自己的意愿来进行开发。
注意:存储引擎是基于表的,而不是数据库。
数据库工作流程
最上层:客户端连接
1、连接处理:客户端同数据库服务层建立TCP
连接,连接管理模块会建立连接,并请求一个连接线程。如果连接池中有空闲的连接线程,则分配给这个连接,如果没有,在没有超过最大连接数的情况下,创建新的连接线程负责这个客户端。
2、授权认证:在真正的操作之前,还需要调用用户模块进行授权检查,来验证用户是否有权限。通过后,方才提供服务,连接线程开始接收并处理来自客户端的SQL
语句。
第二层:核心服务
1、连接线程接收到SQL
语句之后,将语句交给SQL
语句解析模块进行语法分析和语义分析。
2、如果是一个查询语句,则可以先看查询缓存中是否有结果,如果有结果可以直接返回给客户端。
3、如果查询缓存中没有结果,就需要真的查询数据库引擎层了,于是发给SQL
优化器,进行查询的优化。如果是表变更,则分别交给insert
、update
、delete
、create
、alter
处理模块进行处理。
第三层:数据库引擎层
1、打开表,如果需要的话获取相应的锁。
2、先查询缓存页中有没有相应的数据,如果有则可以直接返回,如果没有就要从磁盘上去读取。
3、当在磁盘中找到相应的数据之后,则会加载到缓存中来,从而使得后面的查询更加高效,由于内存有限,多采用变通的LRU
表来管理缓存页,保证缓存的都是经常访问的数据。
最后,获取数据后返回给客户端,关闭连接,释放连接线程。
SQL语句执行过程
数据库通常不会被单独使用,而是由其它编程语言通过
SQL
支持接口调用MySQL
,由MySQL
处理并返回执行结果。首先,其它编程语言通过
SQL
支持接口调用MySQL
,MySQL
收到请求后,会将该请求暂时放在连接池,并由管理服务与工具进行管理。当该请求从等待队列进入到处理队列时,管理器会将该请求传给
SQL
接口,SQL
接口接收到请求后,它会将请求进行hash
处理并与缓存中的数据进行对比,如果匹配则通过缓存直接返回处理结果;否则,去文件系统查询:由SQL
接口传给后面的解析器,解析器会判断SQL
语句是否正确,若正确则将其转化为数据结构。解析器处理完毕后,便将处理后的请求传给优化器控制器,它会产生多种执行计划,最终数据库会选择最优的方案去执行。
确定最优执行计划后,
SQL
语句交由存储引擎处理,存储引擎将会到文件系统中取得相应的数据,并原路返回。
MySQL的存储引擎
MySQL
在5.1版本之前默认存储引擎为MyISAM
,在此版本之后为InnoDB
。
1、MyISAM
存储引擎
MyIsam 的存储文件有三个,后缀名分别是 .frm、.MYD、MYI,其中 .frm 是表的定义文件,.MYD 是数据文件,.MYI 是索引文件。MyIsam 只支持表锁,不支持事务。MyIsam 由于有单独的索引文件,在读取数据方面的性能很高。Myisam是以堆结构进行组织数据,其表容易损坏。
2、InnoDB
InnoDB 的存储文件有两个,后缀名分别是 .frm 和 .idb,其中 .frm 是表的定义文件,而 idb 是数据文件。InnoDB 中存在表锁和行锁,不过行锁是在命中索引的情况下才会起作用。InnoDB 支持事务,且支持四种隔离级别(读未提交、读已提交、可重复读、串行化),默认的为可重复读。
两种存储引擎的对比:从MyISAM
和InnoDB
的存储文件可看出,MyISAM
注重的是对数据的快速读取,但由于MyISAM
不支持事务,同时缺乏灵活性。而InnoDB
支持事务和行级锁,因此在5.1
之后MySQL
的默认存储引擎为InnoDB
。