MySQL的数据存储

第一部分 MySQL架构原理
第1节 MySQL体系架构

MySQL Server架构自顶向下大致可以分网络连接层、服务层、存储引擎层和系统文件层。

 一、网络连接层
客户端连接器（Client Connectors）：提供与MySQL服务器建立的支持。目前几乎支持所有主流
的服务端编程技术，例如常见的 Java、C、Python、.NET等，它们通过各自API技术与MySQL建立连接。
二、服务层（MySQL Server）
服务层是MySQL Server的核心，主要包含系统管理和控制工具、连接池、SQL接口、解析器、查询优化器和缓存六个部分。
1.连接池（Connection Pool）：负责存储和管理客户端与数据库的连接，一个线程负责管理一个连接。
2.系统管理和控制工具（Management Services & Utilities）：例如备份恢复、安全管理、集群管理等
3.SQL接口（SQL Interface）：用于接受客户端发送的各种SQL命令，并且返回用户需要查询的结果。比如DML、DDL、存储过程、视图、触发器等。
4.解析器（Parser）：负责将请求的SQL解析生成一个"解析树"。然后根据一些MySQL规则进一步检查解析树是否合法。
5.查询优化器（Optimizer）：当“解析树”通过解析器语法检查后，将交由优化器将其转化成执行计
划，然后与存储引擎交互。
        select uid,name from user where gender=1;
        选取--》投影--》联接 策略
        1）select先根据where语句进行选取，并不是查询出全部数据再过滤
        2）select查询根据uid和name进行属性投影，并不是取出所有字段
        3）将前面选取和投影联接起来最终生成查询结果
6.缓存（Cache&Buffer）： 缓存机制是由一系列小缓存组成的。比如表缓存，记录缓存，权限缓存，引擎缓存等。如果查询缓存有命中的查询结果，查询语句就可以直接去查询缓存中取数据。
三、存储引擎层（Pluggable Storage Engines）
存储引擎负责MySQL中数据的存储与提取，与底层系统文件进行交互。MySQL存储引擎是插件式的，服务器中的查询执行引擎通过接口与存储引擎进行通信，接口屏蔽了不同存储引擎之间的差异 。现在有很多种存储引擎，各有各的特点，最常见的是MyISAM和InnoDB。
四、系统文件层（File System）
该层负责将数据库的数据和日志存储在文件系统之上，并完成与存储引擎的交互，是文件的物理存储层。主要包含日志文件，数据文件，配置文件，pid 文件，socket 文件等。
日志文件
        错误日志（Error log）
                默认开启，show variables like '%log_error%'
        通用查询日志（General query log）
                记录一般查询语句，show variables like '%general%';
        二进制日志（binary log）
                记录了对MySQL数据库执行的更改操作，并且记录了语句的发生时间、执行时长；但是它不记录select、show等不修改数据库的SQL。主要用于数据库恢复和主从复制。
                show variables like '%log_bin%'; //是否开启
                show variables like '%binlog%'; //参数查看
                show binary logs;//查看日志文件
        慢查询日志（Slow query log）
                记录所有执行时间超时的查询SQL，默认是10秒。
                show variables like '%slow_query%'; //是否开启
                show variables like '%long_query_time%'; //时长
        配置文件
                用于存放MySQL所有的配置信息文件，比如my.cnf、my.ini等。
        数据文件
                db.opt 文件：记录这个库的默认使用的字符集和校验规则。
                frm 文件：存储与表相关的元数据（meta）信息，包括表结构的定义信息等，每一张表都会有一个frm 文件。
                MYD 文件：MyISAM 存储引擎专用，存放 MyISAM 表的数据（data)，每一张表都会有一个.MYD 文件。
                MYI 文件：MyISAM 存储引擎专用，存放 MyISAM 表的索引相关信息，每一张 MyISAM 表对应一个 .MYI 文件。
                ibd文件和 IBDATA 文件：存放 InnoDB 的数据文件（包括索引）。InnoDB 存储引擎有两种表空间方式：独享表空间和共享表空间。独享表空间使用 .ibd 文件来存放数据，且每一张
InnoDB 表对应一个 .ibd 文件。共享表空间使用 .ibdata 文件，所有表共同使用一个（或多
个，自行配置）.ibdata 文件。
                ibdata1 文件：系统表空间数据文件，存储表元数据、Undo日志等 。
                ib_logfile0、ib_logfile1 文件：Redo log 日志文件。
        pid 文件
                pid 文件是 mysqld 应用程序在 Unix/Linux 环境下的一个进程文件，和许多其他 Unix/Linux 服务端程序一样，它存放着自己的进程 id。
        socket 文件
                socket 文件也是在 Unix/Linux 环境下才有的，用户在 Unix/Linux 环境下客户端连接可以不通过TCP/IP 网络而直接使用 Unix Socket 来连接 MySQL。

第2节 MySQL运行机制

①建立连接（Connectors&Connection Pool），通过客户端/服务器通信协议与MySQL建立连
接。MySQL 客户端与服务端的通信方式是 “ 半双工 ”。对于每一个 MySQL 的连接，时刻都有一个
线程状态来标识这个连接正在做什么。
        通讯机制：
                全双工：能同时发送和接收数据，例如平时打电话。
                半双工：指的某一时刻，要么发送数据，要么接收数据，不能同时。例如早期对讲机
                单工：只能发送数据或只能接收数据。例如单行道
        线程状态：
                show processlist; //查看用户正在运行的线程信息，root用户能查看所有线程，其他用户只能看自己的
                id：线程ID，可以使用kill xx；
                user：启动这个线程的用户
                Host：发送请求的客户端的IP和端口号
                db：当前命令在哪个库执行
                Command：该线程正在执行的操作命令
                        Create DB：正在创建库操作
                        Drop DB：正在删除库操作
                        Execute：正在执行一个PreparedStatement
                        Close Stmt：正在关闭一个PreparedStatement
                        Query：正在执行一个语句
                        Sleep：正在等待客户端发送语句
                        Quit：正在退出
                        Shutdown：正在关闭服务器
                Time：表示该线程处于当前状态的时间，单位是秒
                State：线程状态
                        Updating：正在搜索匹配记录，进行修改
                        Sleeping：正在等待客户端发送新请求
                        Starting：正在执行请求处理
                        Checking table：正在检查数据表
                        Closing table : 正在将表中数据刷新到磁盘中
                        Locked：被其他查询锁住了记录
                        Sending Data：正在处理Select查询，同时将结果发送给客户端
                Info：一般记录线程执行的语句，默认显示前100个字符。想查看完整的使用show full
processlist;
②查询缓存（Cache&Buffer），这是MySQL的一个可优化查询的地方，如果开启了查询缓存且在
查询缓存过程中查询到完全相同的SQL语句，则将查询结果直接返回给客户端；如果没有开启查询
缓存或者没有查询到完全相同的 SQL 语句则会由解析器进行语法语义解析，并生成“解析树”。
        缓存Select查询的结果和SQL语句
        执行Select查询时，先查询缓存，判断是否存在可用的记录集，要求是否完全相同（包括参
数值），这样才会匹配缓存数据命