MySQL宏观结构以及MySQL规范书写

mysql架构体系

下面我们看一下mysql的逻辑基本结构图

• 最上层的服务并不是MySQL所独有的,大多数基于网络的客户端/服务器的工具或者服务都有类似的架构.比如连接处理/授权认证/安全等等.
• 第二层架构是MySQL比较有意思的部分.大多数MySQL的核心服务功能都是在这一层,包括查询解析/分析/优化/缓存以及所有的内置函数(例如,日期,时间,数学和加密函数),所有跨存储引擎的功能都在这一层实现:存储过程/触发器/视图等.
• 第三层包含了存储引擎.存储引擎负责MySQL中数据的存储和提取,和GNU/Linux下的各种文件系统一样,每个存储引擎都有他的优势和劣势.服务器通过API与存储引擎进行通信.这些接口屏蔽了不同存储引擎之间的差异,使得这些差异对上层的查询过程透明,存储引擎API包含几十个底层函数,用于执行诸如"开始一个事务"或者"根据主键提取一行记录"等操作.但存储引擎不会去解析SQL,不同存储引擎之间也不会相互通信,而只是简单的响应上层服务器的请求.
  下面我们引入一张大佬级别的架构图:
  

sql执行的五个阶段

• 阶段一 ：客户端/服务端通信;
  1. Mysql 客户端和服务端通信方式是采用“半双工”的通信方式
     
• 阶段二 ：查询缓存(当mysql接收到一条查询语句时，会先去缓存进行查询，如果找到对应查询语句数据就直接把数据返回给客户端。);
  1. 缓存命中要求：SQL语句完全匹配；
  2. 缓存什么时候失效：表被修改、缓存模满了之后剔除；
  3. 查看缓存状态：Show variables like ‘query_cathe%’;
  4. 开启/关闭缓存：set query_cache_type =ON/set query_cache_type =OFF;
  5. 查看缓存命中情况：Show status like ‘Qcache%’;
• 阶段三 ：查询优化;
  1. 解析SQL：通过语法分析词典进行sql分析；
  2. 预处理阶段：检查解析树的合法性，对表名、列明、别名进行验证；
  3. 查询优化器：优化SQL找到最优的执行计划
     1. 等价变化原则：b>a and a=5 改成 b>5 and a=5;
     2. min、max、count函数优化：基于索引，Min 索引左边，max索引右边的节点，不需要一个个去比较。额外保留1个count 记录数，Myisam 引擎的count(*)
     3. in优化：把 or 改成In(二分法优化)
     4. 子查询有优化
     5. 覆盖索引扫描
     6. 提前终止查询：Select * from user_info where id=-1;
• 阶段四 ：查询执行引擎(根据执行计划调用对应的存储引擎API进行数据查询.)；
• 阶段五 ：返回客户端结果集(缓存对应的数据，记录日志，把数据返回给客户端.);

mysql的存储引擎

• CSV：主要用户导入导出数据，文件格式.csv,因为可随意通过修改文件从而修改数据库数据，所以安全性很低。
• Archive ：压缩数据格式的数据引擎，数据格式.arz, 支持持insert，select 不支持事务，用于数据备份。
• Memory|heap：数据存储在内存中，大小限制只有16M，主要用于临时表，如果数据大于16M则使用Misam作为临时表。
• Myisam：Mysql 5.5以前的默认存储引擎，不支持事务，锁为表级锁，非聚簇索引。
• INNODB：Mysql默认存储引擎，支持事务，行级锁，聚集索引，支持外键。

INNODB 和MISAM的区别

1. 索引机制不同-innodb 聚集索引， MISAM 非聚集索引
2. 锁的机制不同-MISAM只支持表锁，INNODB支持表锁、行锁、间隙锁
3. 事务机制不同-MISAM不支持事务，INNODB支持事务

聚集索引是什么

索引的顺序和物理存放顺序一致，只要索引的顺序是相邻的，那么数据在磁盘的位置也一定是相邻的。

1. INNODB的聚集索引
   INNODB把索引和数据保存在一起，索引即数据，数据即索引。
   
2. INNODB的普通索引
   普通索引存的是聚集索引关键字的值，然后通过此值来查询聚集索引来找到对应的数据。
   

非聚集索引是什么

    一种索引，该索引中索引的逻辑顺序与磁盘上行的物理存储顺序不同

主要针对于并发量大/数据量大的互联网业务场景

一、基础规范

（1）必须使用InnoDB存储引擎
解读：支持事务、行级锁、并发性能更好、CPU及内存缓存页优化使得资源利用率更高

（2）必须使用UTF8字符集 UTF-8MB4
解读：万国码，无需转码，无乱码风险，节省空间

（3）数据表、数据字段必须加入中文注释
解读：N年后谁tm知道这个r1,r2,r3字段是干嘛的

（4）禁止使用存储过程、视图、触发器、Event
解读：高并发大数据的互联网业务，架构设计思路是“解放数据库CPU，将计算转移到服务层”，并发量大的情况下，这些功能很可能将数据库拖死，业务逻辑放到服务层具备更好的扩展性，能够轻易实现“增机器就加性能”。数据库擅长存储与索引，CPU计算还是上移吧

（5）禁止存储大文件或者大照片
解读：为何要让数据库做它不擅长的事情？大文件和照片存储在文件系统，数据库里存URI 多好

二、命名规范

（6）只允许使用内网域名，而不是ip连接数据库

（7）线上环境、开发环境、测试环境数据库内网域名遵循命名规范
业务名称：xxx
线上环境：dj.xxx.db 开发环境：dj.xxx.rdb 测试环境：dj.xxx.tdb
从库在名称后加-s标识，备库在名称后加-ss标识线上从库：dj.xxx-s.db
线上备库：dj.xxx-sss.db

（8）库名、表名、字段名：小写，下划线风格，不超过32个字符，必须见名知意，禁止拼音英文混用

（9）表名t_xxx，非唯一索引名idx_xxx_xxx，唯一索引名uniq_xxx_xxx

三、表设计规范

（10）单实例表数目必须小于500

（11）单表列数目必须小于30

（12）表必须有主键，例如自增主键
解读：
a）主键递增，数据行写入可以提高插入性能，可以避免page分裂，减少表碎片提升空间和内存的使用
b）主键要选择较短的数据类型， Innodb引擎普通索引都会保存主键的值，较短的数据类型可以有效的减少索引的磁盘空间，提高索引的缓存效率
c）无主键的表删除，在row模式的主从架构，会导致备库夯住

（13）禁止使用外键，如果有外键完整性约束，需要应用程序控制
解读：外键会导致表与表之间耦合，update与delete操作都会涉及相关联的表，十分影响sql 的性能，甚至会造成死锁。高并发情况下容易造成数据库性能，大数据高并发业务场景数据库使用以性能优先

四、字段设计规范

（14）必须把字段定义为NOT NULL并且提供默认值
解读：

• null的列使索引/索引统计/值比较都更加复杂，对MySQL来说更难优化
• null 这种类型MySQL内部需要进行特殊处理，增加数据库处理记录的复杂性；同等条件下，表中有较多空字段的时候，数据库的处理性能会降低很多
• null值需要更多的存储空，无论是表还是索引中每行中的null的列都需要额外的空间来标识
• 对null 的处理时候，只能采用is null或is not null，而不能采用=、in、<、<>、!=、not in这些操作符号。如：where name!=’shenjian’，如果存在name为null值的记录，查询结果就不会包含name为null值的记录

（15）禁止使用TEXT、BLOB类型
解读：会浪费更多的磁盘和内存空间，非必要的大量的大字段查询会淘汰掉热数据，导致内存命中率急剧降低，影响数据库性能

（16）禁止使用小数存储货币
解读：使用整数吧，小数容易导致钱对不上

（17）必须使用varchar(20)存储手机号
解读：
a）涉及到区号或者国家代号，可能出现±() b）手机号会去做数学运算么？
c）varchar可以支持模糊查询，例如：like“138%”

（18）禁止使用ENUM，可使用TINYINT代替
解读：
a）增加新的ENUM值要做DDL操作
b）ENUM的内部实际存储就是整数，你以为自己定义的是字符串？

五、索引设计规范

（19）单表索引建议控制在5个以内

（20）单索引字段数不允许超过5个
解读：字段超过5个时，实际已经起不到有效过滤数据的作用了

（21）禁止在更新十分频繁、区分度不高的属性上建立索引
解读：
a）更新会变更B+树，更新频繁的字段建立索引会大大降低数据库性能
b）“性别”这种区分度不大的属性，建立索引是没有什么意义的，不能有效过滤数据，性能与全表扫描类似

（22）建立组合索引，必须把区分度高的字段放在前面
解读：能够更加有效的过滤数据

六、SQL使用规范

（23）禁止使用SELECT *，只获取必要的字段，需要显示说明列属性
解读：
a）读取不需要的列会增加CPU、IO、NET消耗b）不能有效的利用覆盖索引

（24）禁止使用INSERT INTO t_xxx VALUES(xxx)，必须显示指定插入的列属性
解读：容易在增加或者删除字段后出现程序BUG

（25）禁止使用属性隐式转换
解读：SELECT uid FROM t_user WHERE phone=13812345678 会导致全表扫描，而不能命中phone索引

（26）禁止在WHERE条件的属性上使用函数或者表达式
解读：SELECT uid FROM t_user WHERE from_unixtime(day)>=‘2017-02-15’ 会导致全表扫描
正确的写法是：SELECT uid FROM t_user WHERE day>= unix_timestamp(‘2017-02-15 00:00:00’)

（27）禁止负向查询，以及%开头的模糊查询
解读：
a）负向查询条件：NOT、!=、<>、!<、!>、NOT IN、NOT LIKE等，会导致全表扫描b）%开头的模糊查询，会导致全表扫描

（28）禁止大表使用JOIN查询，禁止大表使用子查询
解读：会产生临时表，消耗较多内存与CPU，极大影响数据库性能

（29）禁止使用OR条件，必须改为IN查询
解读：旧版本Mysql的OR查询是不能命中索引的，即使能命中索引，为何要让数据库耗费更多的CPU帮助实施查询优化呢？

（30）应用程序必须捕获SQL异常，并有相应处理

总结：大数据量高并发的互联网业务，极大影响数据库性能的都不让用，不让用哟。