MySQL中的两种临时表

MySQL中的两种临时表

MySQL 临时表在我们需要保存一些临时数据时是非常有用的。临时表只在当前连接可见，当关闭连接时，MySQL会自动删除表并释放所有空间。
使用其他MySQL客户端程序连接MySQL数据库服务器来创建临时表，那么只有在关闭客户端程序时才会销毁临时表，当然也可以手动删除。

一、MySQL中的两种临时表

• 外部临时表
  通过CREATE TEMPORARY TABLE 创建的临时表，这种临时表称为外部临时表。这种临时表只对当前用户可见，当前会话结束的时候，该临时表会自动关闭。这种临时表的命名与非临时表可以同名（同名后非临时表将对当前会话不可见，直到临时表被删除）。

• 内部临时表

  1. 内部临时表是一种特殊轻量级的临时表，用来进行性能优化。这种临时表会被MySQL自动创建并用来存储某些操作的中间结果。这些操作可能包括在优化阶段或者执行阶段。这种内部表对用户来说是不可见的，但是通过EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了内部临时表用来帮助完成某个操作。内部临时表在SQL语句的优化过程中扮演着非常重要的角色， MySQL中的很多操作都要依赖于内部临时表来进行优化。但是使用内部临时表需要创建表以及中间数据的存取代价，所以用户在写SQL语句的时候应该尽量的去避免使用临时表。
  2. 内部临时表有两种类型：一种是HEAP临时表，这种临时表的所有数据都会存在内存中，对于这种表的操作不需要IO操作。另一种是OnDisk临时表，顾名思义，这种临时表会将数据存储在磁盘上。OnDisk临时表用来处理中间结果比较大的操作。如果HEAP临时表存储的数据大于MAX_HEAP_TABLE_SIZE，HEAP临时表将会被自动转换成OnDisk临时表。

二、外部临时表的常见用法

外部临时表是通过CREATE TEMPORARY TABLE及DROP TABLE来操作的，但是SHOW TABLES命令显示数据表列表时，你将无法看到自己创建的临时表的。并且在退出当前会话后，临时表就会被自动销毁。当然也可以手动（DROP TABLE）销毁。

1 引擎类型：只能是：memory（heap）、myisam、merge、innodb ，不支持mysql cluster(簇)。

2 外部临时表使用时注意几点：

• 自己所用的数据库账号要有建立临时表的权限；

• 在同一条sql中，不能关联2次相同的临时表，不然，就会报如下错误；

  mysql> select * from temp_table, temp_table as t2;
  　error 1137: can't reopen table: 'temp_table'
  

• 临时表在建立连接时可见，关闭时会清除空间，删除临时表；
• show tables 不会列出临时表；
• 不能使用rename重命名临时表。只能使用alter table old_tp_table_name rename new_tp_table_name;
• 影响使用replication功能；
• 如果你为一个表声明了别名，当你指向这个表的时候，就必须使用这个别名

示例：

mysql> CREATE TEMPORARY TABLE SalesSummary (
     product_name VARCHAR(50) NOT NULL
    , total_sales DECIMAL(12,2) NOT NULL DEFAULT 0.00
     , avg_unit_price DECIMAL(7,2) NOT NULL DEFAULT 0.00
     , total_units_sold INT UNSIGNED NOT NULL DEFAULT 0
);
Query OK, 0 rows affected (0.00 sec)

mysql> INSERT INTO SalesSummary
     (product_name, total_sales, avg_unit_price, total_units_sold)
     VALUES
    ('cucumber', 100.25, 90, 2);

mysql> SELECT * FROM SalesSummary;
+--------------+-------------+----------------+------------------+
| product_name | total_sales | avg_unit_price | total_units_sold |
+--------------+-------------+----------------+------------------+
| cucumber     |      100.25 |          90.00 |                2 |
+--------------+-------------+----------------+------------------+
1 row in set (0.00 sec)

mysql> DROP TABLE SalesSummary;  
mysql>  SELECT * FROM SalesSummary;  
ERROR 1146: Table 'RUNOOB.SalesSummary' doesn't exist  

3 mybatis中临时表操作

<update id="createTempTable">
   CREATE TEMPORARY TABLE IF NOT EXISTS temp 
   SELECT * FROM settlement_temp
    WHERE settle_date=#{settleDate} AND LENGTH(operator) IN(16,32) AND  pay_status IN ('01','06') 
    ORDER BY settle_date,merchant_no
</update>
<!-- 4、删除临时表 -->
<update id="dropTempTable">  
    DROP TEMPORARY TABLE IF EXISTS settlement_temp;
</update>

三、 内部临时表的常见用法

如果用户在书写SQL语句的时候能够尽量少的使用内部临时表进行查询优化，将有效的提高查询执行的效率。

首先我们定义一个表t1

CREATE TABLE t1( a int, b int); 
INSERT INTO t1 VALUES(1,2),(3,4);

下面所有的操作都是基于表t1进行举例的。

• 在SQL语句中使用SQL_BUFFER_RESULT hint

SQL_BUFFER_RESULT主要用来让MySQL尽早的释放表上的锁。因为如果数据量很大的话，需要较长时间将数据发送到客户端，通过将数据缓冲到临时表中可以有效的减少读锁对表的占用时间。

例如：

mysql> explain format=json select SQL_BUFFER_RESULT * from t1;

• 如果SQL语句中包含了DERIVED_TABLE。

在5.7中，由于采用了新的优化方式，我们需要使用 set optimizer_switch=’derived_merge=off’来禁止derived table合并到外层的Query中。

例如：

mysql> explain format=json select * from (select * from t1) as tt;

• 如果我们查询系统表的话，系统表的数据将被存储到内部临时表中。

我们当前不能使用EXPLAIN来查看是否读取系统表数据需要利用到内部临时表，但是可以通过SHOW STATUS来查看是否利用到了内部临时表。

例如：

mysql> select * from information_schema.character_sets;
mysql> show status like 'CREATE%';

• 如果DISTINCT语句没有被优化掉，即DISTINCT语句被优化转换为GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 内部临时表将会被使用。

mysql> explain format=json select distinct a from t1;

• 如果查询带有ORDER BY语句，并且不能被优化掉。

下面几种情况会利用到内部临时表缓存中间数据，然后对中间数据进行排序。

1 如果连接表使用BNL（Batched Nestloop）/BKA(Batched Key Access)
例如：

• BNL默认是打开的

  mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
  

• 关掉BNL后，ORDER BY将直接使用filesort。

  mysql> set optimizer_switch='block_nested_loop=off';
  mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
  

2 ORDER BY的列不属于执行计划中第一个连接表的列。
例如：

mysql> explain format=json select * from t as t1, t as t2 order by t2.a;

3 如果ORDER BY的表达式是个复杂表达式。

那么什么样的ORDER BY表达式，MySQL认为是复杂表达式呢？

• 如果排序表达式是SP或者UDF。
  例如：

  drop function if exists func1;
  
  create function func1(x int)
  returns int deterministic
  begin
  declare z1, z2 int;
  set z1 = x;
  set z2 = z1+2;
  return z2;
  end;
  
  explain format=json select * from t1 order by func1(a);
  

• ORDER BY的列包含聚集函数

为了简化执行计划，我们利用INDEX来优化GROUP BY语句。
例如：

create index idx1 on t1(a);
explain format=json SELECt a FROM t1 group by a order by sum(a);
drop index idx1 on t1;

• ORDER BY的列中包含有SCALAR SUBQUERY,当然该SCALAR SUBQUERY没有被优化掉。

explain format=json select (select rand() from t1 limit 1) as a from t1 order by a;        

4 如果查询既带有ORDER BY同时也有GROUP BY语句，但是两个语句使用的列不相同。

注意: 如果是5.7，我们需要将sql_mode设置为非only_full_group_by模式，否则会报错。

同样为了简化执行计划，我们利用INDEX来优化GROUP BY语句。

set sql_mode='';
create index idx1 on t1(b);
explain format=json select t1.a from t1 group by t1.b order by 1;
drop index idx1 on t1;

• 如果查询带有GROUP BY语句，并且不能被优化掉。

下面几种情况会利用到内部临时表缓存中间数据，然后对中间数据进行GROUP BY。

1 如果连接表使用BNL（Batched Nestloop）/BKA(Batched Key Access)。

explain format=json select t2.a from t1, t1 as t2 group by t1.a;

2 如果GROUP BY的列不属于执行计划中的第一个连接表。

explain format=json select t2.a from t1, t1 as t2 group by t2.a;

3 如果GROUP BY语句使用的列与ORDER BY语句使用的列不同。
set sql_mode=’’;
explain format=json select t1.a from t1 group by t1.b order by t1.a;

4 如果GROUP BY带有ROLLUP并且是基于多表外连接。

explain format=json select sum(t1.a) from t1 left join t1 as t2 on true group by t1.a with rollup;

5 如果GROUP BY语句使用的列来自于SCALAR SUBQUERY，并且没有被优化掉。

explain format=json select (select avg(a) from t1) as a from t1 group by a;

IN表达式转换为semi-join进行优化

• 如果semi-join执行方式为Materialization

  set optimizer_switch='firstmatch=off,duplicateweedout=off';
  explain format=json select * from t1 where a in (select b from t1);
  

• 如果semi-join执行方式为Duplicate Weedout

  set optimizer_switch='firstmatch=off';
  	explain format=json select * from t1 where a in (select b from t1);
  

如果查询语句带有UNION，MySQL将利用内部临时表帮助UNION操作消除重复。

explain format=json select * from t1 union select * from t1;

如果查询语句使用多表更新。
这里Explain不能看到内部临时表被利用，所以需要查看status。

update t1, t1 as t2 set t1.a=3;
show status like 'CREATE%';

如果聚集函数中包含如下函数，内部临时表也会被利用。

• count(distinct *)

explain format=json select count(distinct a) from t1;

• group_concat

explain format=json select group_concat(b) from t1;

总之，上面列出了10种情况，MySQL将利用内部临时表进行中间结果缓存，如果数据量比较大的话，内部临时表将会把数据存储在磁盘上，这样显然会对性能有所影响。为了尽可能的减少性能损失，我们需要尽量避免上述情况的出现。

MySQL在以下几种情况会创建临时表：

1. UNION查询；
2. 用到TEMPTABLE算法或者是UNION查询中的视图；
3. ORDER BY和GROUP BY的子句不一样时；
4. 表连接中，ORDER BY的列不是驱动表中的；
5. DISTINCT查询并且加上ORDER BY时；
6. SQL中用到SQL_SMALL_RESULT选项时；
7. FROM中的子查询；
8. 子查询或者semi-join时创建的表；
   EXPLAIN 查看执行计划结果的 Extra 列中，如果包含 Using Temporary 就表示会用到临时表。

当然了，如果临时表中需要存储的数据量超过了上限（ tmp-table-size 或 max-heap-table-size 中取其大者），这时候就需要生成基于磁盘的临时表了。

在以下几种情况下，会创建磁盘临时表：

1. 数据表中包含BLOB/TEXT列；
2. 在 GROUP BY 或者 DSTINCT 的列中有超过 512字符 的字符类型列（或者超过 512字节的 二进制类型列，在5.6.15之前只管是否超过512字节）；
3. 在SELECT、UNION、UNION ALL查询中，存在最大长度超过512的列（对于字符串类型是512个字符，对于二进制类型则是512字节）；
4. 执行SHOW COLUMNS/FIELDS、DESCRIBE等SQL命令，因为它们的执行结果用到了BLOB列类型。

从5.7.5开始，新增一个系统选项 internal_tmp_disk_storage_engine 可定义磁盘临时表的引擎类型为 InnoDB，而在这以前，只能使用 MyISAM。而在5.6.3以后新增的系统选项 default_tmp_storage_engine 是控制 CREATE TEMPORARY TABLE 创建的临时表的引擎类型，在以前默认是MEMORY，不要把这二者混淆了。