MySQL-05.MySQL杂谈

1. 一些常用的 MySQL 命令

#连接MySQL
mysql -h 127.0.0.1 -u UserName -p  pwd -P 3306
#创建新用户
CREATE USER 'username'@'host' IDENTIFIED BY 'password';
#赋权限,%表示所有(host)：
grant all privileges on *.* to 'username'@'%';
#修改密码
update user set password=password(”123456″) where user=’root’;
#查看当前用户的权限
show grants for root@"%";
#显示所有数据库
show databases; 
#打开数据库
use dbname； 
#查看库中有哪些表
show tables
#显示表mysql数据库中user表的列信息）
describe user
#查看连接（包括用户、正在执行的操作、状态等）
show processlist 
#刷新连接
flush privileges
#关闭某连接
kill id
#查询库中所有的表
select * from information_schema.tables where table_schema='zhebase';
#查询表信息（字段，字段类型，是否为空，编码，备注等）
select * from information_schema.columns where table_schema='zhebase' and table_name='student_inndb';
#查看MySQL权限 Host列表示那个Ip可以连接，User表示用户，后面的字段是权限
select * from mysql.user;
#查看全局服务器关闭非交互连接之前等待活动的秒数
show global variables like "wait_timeout";
#设置全局服务器关闭非交互连接之前等待活动的秒数（默认8小时不发送命令自动断连）
set global wait_timeout=28800; 

开发当中我们大多数时候用的都是长连接，把连接放在Pool内进行管理，但是长连接有时候会导致 MySQL 占用内存飙升，这是因为 MySQL 在执行过程中临时使用的内存是管理在连接对象里面的。这些资源会在连接断开的时候才释放。所以如 果长连接累积下来，可能导致内存占用太大，被系统强行杀掉（OOM），从现象看就是 MySQL 异常重启了。 怎么解决这类问题呢？
1、定期断开长连接。 使用一段时间，或者程序里面判断执行过一个占用内存的大查询后，断开连接，之后要查询再重连。
2、如果你用的是 MySQL 5.7 或更新版本，可以在每次执行一个比较大的操作后，通过执行 mysql_reset_connection 来重新初始化连接资源。 这个过程不需要重连和重新做权限验证，但是会将连接恢复到刚刚创建完时的状态。

SQL执行过程

1.客户端提交一条语句
2.先在查询缓存（相当于一个Map，SQL语句是Key，结果集是Map）查看是否存在对应的缓存数据，如有则直接返回(一般有的可能性极小，因此一般建议关闭查询缓存)。MySQL 8.0开始取消了缓存器，5.0默认关闭
3.交给解析器处理，解析器会将提交的语句生成一个解析树。
4.预处理器会处理解析树，形成新的解析树。这一阶段存在一些SQL改写的过程。
5.改写后的解析树提交给查询优化器。查询优化器生成执行计划。
6.执行计划交由执行引擎调用存储引擎接口，完成执行过程。这里要注意，MySQL的Server层和Engine层是分离的。
7.最终的结果由执行引擎返回给客户端，如果开启查询缓存的话，则会缓存

为什么说MySQL查询缓存是否鸡肋？

• 使用场景极少，表一改动就需要重新维护
• innerDB，Myisam等引擎层有buffer_pool 会自动缓存查询频繁的数据
• 可以使用第三方中间件代替
• LRU淘汰策略

#my.cnf配置文件中，一般将my.cnf参数 query_cache_type 设置成 DEMAND
query_cache_type有3个值 0代表关闭查询缓存OFF，1代表开启ON，2（DEMAND）代表当sql语句中有SQL_CACHE 关键词时才缓存

2.MySQL的内部组件结构

连接MySQL的过程：
1.完成经典的 TCP 握手建立连接
2.验证用户登录用户名密码
3.验证连接权限，是否运行改Ip连接（User表中的Host字段）
4.开辟专属 session 空间，连接后默认长连接，无操作8小时有效
5.将user表权限加入专属空间
6.每次执行命令在专属空间中查找是否有权限进行操作（权限修改后，如不重写连接，权限仍然不会改变，即使刷新连接也是如此）

MySQL优化器与执行计划

工作过程：
1.词法分析、语法分析、语义检查
2.预处理阶段(查询重写等)
3.查询优化阶段(可详细划分为逻辑优化、物
理优化两部分)
4.查询优化器优化依据，来自于代价估算器估
算结果(它会调用统计信息作为计算依据)
5.交由执行器执行

词法分析器原理

词法分析器分成6个主要步骤完成对sql语句的分析
1、词法分析
2、语法分析
3、语义分析
4、构造执行树
5、生成执行计划
6、计划的执行

查询优化器

• 负责生成 SQL 语句的有效执行计划的数据库组件
• 优化器是数据库的核心价值所在，它是数据库的“大脑”
• 优化SQL，某种意义上就是理解优化器的行为
• 优化的依据是执行成本（CBO）
• 优化器工作的前提是了解数据，工作的目的是解析SQL，生成执行计划
• 只要有WHERE的地方就会用到重写优化器，并非SELECT独有

举例：

Select  EMPLOYEE.Name , WELFARE .Bonus From  EMPLOYEE , WELFARE  Where  EMPLOYEE.Seniority > 5  And  EMPLOYEE.Seniority = WELFARE  .Seniority ;

Select  EMPLOYEE.Name , WELFARE .Bonus From  EMPLOYEE , WELFARE  Where  EMPLOYEE.Seniority > 5  And  EMPLOYEE.Seniority = WELFARE  .Seniority   And  EMPLOYEE.Seniority > 5;

查询重写：
因为第一条将EMPLOYEE中Seniority>5的行与WELFARE中的所有行作外连接再来找Seniority相等的行，而第二条则是将EMPLOYEE中Seniority>5的行和WELFARE中Seniority>5的行作外连接再来找Seniority相等的行，第二条语句只有更少的行参与外连接，效率更高。写SQL时查询优化器自动重写。

4. SQL执行顺序

(7) SELECT (8) DISTINCT <select_list>
(1) FROM <left_table>
(3) <join_type> JOIN <right_table>
(2) ON <join_condition>
(4) WHERE <where_condition>
(5) GROUP <group_by_list>
(6) HAVING <having_condition>
(9) ORDER BY <order_by_list>
(10) LIMIT <limit_number>

5.MySQL数据类型选择

       在设计表示，选择数据类型时一般先确定大的类型（数字，字符串，时间，二进制），然后再根据有无符号、取值范围、是否定长等确定具体的数据类型。在设计时，尽量使用更小的数据类型以达到更优的性能。并且在定义时尽量使用NOT NULL，避免NULL值。

1、数值类型

**首先了解：**

• 1byte = 8 bit (1字节等于8位，当需要符号时，符号占用1位)
• float的指数位有8位，尾数位有23位，符号位1位，float的指数范围，为-127~+128，按补码的形式来划分。有效位数7位
• double 有效位数15位
• 对DECIMAL(M,D) ，如果M>D，为 M+2否则为D+2字节
  

类型	大小	范围（有符号）	范围（无符号）	用途
TINYINT	1 字节	$[2^7,2^7-1]$	$[0,2^8-1]$	小整数值
SMALLINT	2 字节	$[2^{15},2^{15}-1]$	$[0,2^{16}-1]$	大整数值
MEDIUMINT	3 字节	$[2^{23},2^{23}-1]$	$[0,2^{24}-1]$	大整数值
INT/INTEGER	4 字节	$[2^{31},2^{31}-1]$	$[0,2^{32}-1]$	大整数值
BIGINT	8 字节	$[2^{63},2^{63}-1]$	$[0,2^{64}-1]$	极大整数值
FLOAT	4 字节	约-3.40E+38 ~ 3.40E+38	约0~3.40E+38	单精度浮点数值
DOUBLE	8 字节	约1.7E-308～1.7E+308	约0~1.7E+308	双精度浮点数值
DECIMAL	DECIMAL(M,D)	依赖于M和D的值	依赖于M和D的值	小数值

建议：

1. 如果整型数据没有负数，如ID号，建议指定为UNSIGNED无符号类型，容量可以扩大一倍。
2. 建议使用TINYINT代替ENUM、BITENUM、SET。
3. 避免使用整数的显示宽度，不要用INT(10)类似的方法指定字段显示宽度，直接用 INT。使用显示宽度后会不足自动填充0，但对查询无影响，查询结果不会自动填充0。
4. DECIMAL最适合保存准确度要求高，而且用于计算的数据，比如价格。但是在使用DECIMAL类型的时候，注意长度设置。
5. 建议使用整型类型来运算和存储实数。
6. 整数通常是最佳的数据类型，因为它速度快，并且能使用AUTO_INCREMENT。

1、日期和时间

建议：

1. MySQL能存储的最小时间粒度为秒。
2. 建议用DATE数据类型来保存日期。MySQL中默认的日期格式是yyyy-mm-dd。
3. 用MySQL的内使用类型DATE、TIME、DATETIME来存储时间，而不是使用字符串。
4. 当数据格式为TIMESTAMP和DATETIME时，可以用CURRENT_TIMESTAMP作为默认（MySQL5.6以后）， MySQL会自动返回记录插入的确切时间。
5. TIMESTAMP是UTC时间戳，与时区相关。
6. DATETIME的存储格式是一个YYYYMMDD HH:MM:SS的整数，与时区无关。
7. 除非有特殊需求，一般的公司建议使用TIMESTAMP，比DATETIME更节约空间，大公司使用DATETIME，因为不用考虑TIMESTAMP将来的时间上限（1970-2037）问题。
8. 不要使用Unix的时间戳保存为整数值，处理起来极其不方便。

3、字符串

类型	大小	用途
CHAR	0-255字节	定长字符串，char(n)当插入的字符串实际长度不足n时， 插入空格进行补充保存。在进行检索时，尾部的空格会被去掉。
VARCHAR	0-65535 字节	变长字符串，varchar(n)中的n代表最大列长度，插入的字符串实际长度不足n时不会补充空格
TINYBLOB	0-255字节	不超过 255 个字符的二进制字符串
TINYTEXT	0-255字节	短文本字符串
BLOB	0-65535字节	二进制形式的长文本数据
TEXT	0-65535字节	长文本数据
MEDIUMBLOB	0-16777215字节	二进制形式的中等长度文本数据
MEDIUMTEXT	0-16777215字节	中等长度文本数据
LONGBLOB	0-4 294967295字节	二进制形式的极大文本数据
LONGTEXT	0-4 294967295字节	极大文本数据

建议

1. 字符串的长度相差较大用VARCHAR；字符串短，且所有值都接近一个长度用CHAR。
2. CHAR和VARCHAR适用于包括人名、邮政编码、电话号码和不超过255个字符长度的任意字母数字组合。那些 要用来计算的数字不要用VARCHAR类型保存，因为可能会导致一些与计算相关的问题。换句话说，可能影响到计 算的准确性和完整性。
3. 尽量少用BLOB和TEXT，如果实在要用可以考虑将BLOB和TEXT字段单独存一张表，用id关联。
4. BLOB系列存储二进制字符串，与字符集无关。TEXT系列存储非二进制字符串，与字符集相关。
5. BLOB和TEXT都不能有默认值。

6.MySQL优化

MySQL优化分类

减少磁盘IO
全表扫描
临时表
日志、数据块fsync

减少网络带宽
返回数据过多
交互次数过多

降低CPU消耗
排序分组：order by, group by
聚合函数：max,min,count,sum…
逻辑读

优化方法

• 创建索引减少扫描量 • 调整索引减少计算量
• 索引覆盖（减少不必访问的列，避免回表查询）
• SQL改写
• 干预执行计划

SQL优化原则

减少访问量： 数据存取是数据库系统最核心功能，所以IO是数据库系统中最容易出现性能瓶颈，减少SQL访 问IO量是SQL优化的第一步；数据块的逻辑读也是产生CPU开销的因素之一。

• 减少访问量的方法：创建合适的索引、减少不必访问的列、使用索引覆盖、语句改写。

减少计算操作： 计算操作进行优化也是SQL优化的重要方向。SQL中排序、分组、多表连接操作等计算操作都是十分消耗CPU的。

• 减少SQL计算操作的方法：排序列加入索引、适当的列冗余、SQL拆分、计算功能拆分。

EXPLAIN 查看执行计

type列，连接类型。一个好的SQL语句至少要达到range级别。杜绝出现all级别。

1. system：表只有一行记录，const类型的特例，基本不会出现，可以忽略
2. const：通过索引一次就查询出来了，const用于比较primary key或者unique索引。只需匹配一行数据，所有很快。如果将主键置于where列表中，mysql就能将该查询转换为一个const
3. eq_ref：唯一性索引扫描，对于每个索引键，表中只有一条记录与之匹配。常见于主键 或 唯一索引扫描。
4. ref：非唯一性索引扫描，返回匹配某个单独值的所有行。本质是也是一种索引访问，它返回所有匹配某个单独值的行，然而他可能会找到多个符合条件的行，所以它应该属于查找和扫描的混合体。
5. range：只检索给定范围的行，使用一个索引来选择行。key列显示使用了那个索引。一般就是在where语句中出现了bettween、<、>、in等的查询。这种索引列上的范围扫描比全索引扫描要好。只需要开始于某个点，结束于另一个点，不用扫描全部索引
6. index：Full Index    Scan，index与ALL区别为index类型只遍历索引树。这通常为ALL块，应为索引文件通常比数据文件小。（Index与ALL虽然都是读全表，但index是从索引中读取，而ALL是从硬盘读取）
7. all：Full Table Scan，遍历全表以找到匹配的行

key列，使用到的索引名。如果没有选择索引，值是NULL。
key_len列，索引长度。
rows列，扫描行数。该值是预估值。
extra列，详细说明。注意，常见的不太友好的值，如下：Using filesort，Using temporary。

processlist干预执行计划

• show [full] processlist
• information_schema.processlist
  copy to tmp table： 出现在某些alter table语句的copy table操作
  Copying to tmp table on disk： 由于临时结果集大于tmp_table_size，正在将临时表从内存存储转为磁盘存储以此节省内存
  converting HEAP to MyISAM： 线程正在转换内部MEMORY临时表到磁盘MyISAM临
  时表
  Creating sort index： 正在使用内部临时表处理select查询
  Sorting index： 磁盘排序操作的一个过程
  Sending data ： 正在处理SELECT查询的记录，同时正在把结果发送给客户端
  Waiting for table metadata lock: 等待元数据锁

1.SELECT语句务必指明字段名称

	SELECT*增加很多不必要的消耗（CPU、IO、内存、网络带宽）；增加了使用覆盖索引的可能性；所以直接应该select后面
接上字段名称。

2.如果排序字段没有用到索引，就尽量少排序

3.分页时要选择合理的方式

select id,name from customer limit 100000, 10 //查询从十万条开始的20条数据

	上述代码，随着分页的后移，效率越来越慢，优化方法如下：可以取上一页的最大行数的id（前提是ID递增，且非联合主键，
一般不建议设置联合主键，主键前面都可以加上ID作为主键），然后根据这个最大的id来限制下一页的起点。

select id,name from customer where id> 100000 limit 10

4.合理使用in和exits

select * from A where id in (select id from B)
select * from A where exists(select id from B where id=A.id)

	in先执行子查询再执行主查询，exits先执行主查询再执行子查询。如果子查询得出的结果集记录较少，主查询中的表较大
且又有索引时应该用in反之如果外层的主查询记录较少，子查询中的表大，又有索引时使用exists

原则：小表驱动大表

5.关于not in 和not exists

如果查询语句使用了not in 那么内外表都会放弃索引进行全表扫描；而not extsts 的子查询依然
能用到表上的索引。所以not exists都比not in要快。也可以使用一些方法转换逻辑来进行优化，如下：	

//原SQL语句：
select name from A where A.id not in (select B.id from B)
//优化后的SQL语句：
select name from A Left join B on where A.id = A.id where B.id is null

6.order by排序字段和where条件要匹配（关于联合索引）

	当where条件和order by排序字段不匹配时，即使where条件中用到了索引，但执行order by
时仍然会进行全表扫描（索引只能生效一个，且遵循最左匹配原则）;
	order by后的索引生效时（索引本质是倒排表）效率会得到极大的提升。

select a,b,c from customer where a = 'xxx' and b = 'xxx' order by c;

	1.最左前缀匹配原则：在MySQL建立联合索引时会遵守最左前缀匹配原则，即最左优先，在检索数据时从联合索引的最左边
开始匹配。
	2.当a,b,c为联合索引时遵循最左匹配原则，即：a,ab,abc索引都会生效,但b,c,bc,ac等不会生效（执行计划会使用到，
type列为index，扫描索引树，效率相对于最左匹配的索引效率极低），所以定要注意索引顺序，最常用的最段要放在最前面。
	3.例如，创建一个a,b联合索引，它的索引树图如下。
		由图可以看出a值是有序的（1，1，2，2，3，3），b值是无序的，但是在a值相等的情况下b值又是有序的。由此可以看
	出MySQL创建联合索引时首先会对联合索引的最左边第一个字段排序，在第一个字段的排序基础上，然后在对第二个字段进
	行排序。所以b单独作为条件时，索引是无效的。
	4.当a,b,c三个索引都用到时，只有全匹配，无论顺序如何，索引是有效的，MySQL执行计划会对其进行优化，自动使用最优
	方案执行。

7.不建议使用%前缀模糊查询

	使用like '%name%'或者like '%name'会导致索引失效而导致全表扫描。但使用like 'name%'
不会。
	解决方法：
	1.使用全文索引 
	2.使用Elasticsearch等搜索工具（不怎么修改的字段才建议使用，实际是倒排索引）

注意：
1.全文索引的存储引擎一定是Myisam,InnoDB没有全文索引
2.全文索引对中文不太友好

//创建全文索引
ALTER TABLE cust ADD FULLTEXT INDEX idx_cust_address ('cust_address');
//使用全文索引
select name from cust where match(cust_address) against('湖南');

	倒排索引是一种索引数据结构：从文本数据内容中提取出不重复的单词进行分词，每1个单词对应1个ID对单词进行区分，还
对应1个该单词在那些文档中出现的列表 把这些信息组建成索引。倒排索引还记录了该单词在文档中出现位置、频率（次数/TF）
用于快速定位文档和对搜素结果进行排序。

8.关于范围查询

	对于联合索引来说，如果存在范围查询，比如between、>、<等条件时，会造成后面的索引字段失效

9.避免在where子句中对字段进行null值判断及!=和<>

	对于null的判断以及!=和<>会导致引擎放弃使用索引而进行全表扫描。

10.关于OR

	尽量使用union all或者是union方式来代替or。
	union和union all的区别主要是union需要将结果集合并后再进行过滤操作过滤掉重复数据，这就会涉及到排序，增加大量的
	CPU运算，加大资源消耗及延迟。使用union all的前提条件是两个结果集没有重复数据。

11.只需要一条数据的时候，使用limit 1

可以使EXPLAIN中type列达到const类型

12.分段查询

	在一些用户选择页面中，可能一些用户选择的时间范围过大，造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通
过程序，分段进行查询，循环遍历，将结果合并处理进行展示。

13.避免在where子句中对字段进行表达式及函数操作

	应避免在where子句中对字段进行函数等操作，这将导致引擎放弃使用索引而进行全表扫描。

比如：

//原SQL
select id,name from customer where salary/2 > 5000;
//优化后
select id,name from customer where salary > 5000*2;

14.尽量使用inner join，避免left join

		参与联合查询的表至少为2张表，一般都存在大小之分。如果连接方式是inner join，在没有其他过滤条件的情况下
MySQL会自动选择小表作为驱动表，但是left join在驱动表的选择上遵循的是左边驱动右边的原则，即left join左边的表名为
驱动表。

15.IN包含的值不应过多

	MySQL对于IN做了相应的优化，即将IN中的常量全部存储在一个数组里面，而且这个数组是排好序的。但是如果数值较多，
产生的消耗也是比较大的。再例如：select id from t where num in(1,2,3) 对于连续的数值，能用between就不要用in了。
或者使用连接来替换。

16.关于索引

	1.对查询进行优化，应尽量避免全表扫描，首先应考虑在 where 及 order by 涉及的列上建立索引。
	2.并不是所有索引对查询都有效，SQL是根据表中数据来进行查询优化的。当数据列差不多时（如男、女等）索引也无法优化
	查询效率。
	3.索引并不是越多越好，经常进行查询的列建议添加索引，但经常进行修改的列不建议添加索引。在增删改操作会对索引进
	行维护，降低执行效率，且索引需要占用数据库资源。