• MySQL中的两种临时表


    外部临时表

    通过 CREATE TEMPORARY TABLE 创建的临时表,这种临时表称为外部临时表。这种临时表只对当前用户可见,当前会话结束的时候,该临时表会自动关闭。这种临时表的命名与非临时表可以同名(同名后非临时表将对当前会话不可见,直到临时表被删除)。

    内部临时表

    MySQL内部临时表是一种特殊轻量级的临时表,用来进行性能优化。这种临时表会被MySQL自动创建并用来存储某些操作的中间结果。这些操作可能包括在优化阶段或者执行阶段。这种内部表对用户来说是不可见的,但是通过EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了内部临时表用来帮助完成某个操作。内部临时表在SQL语句的优化过程中扮演着非常重要的角色, MySQL中的很多操作都要依赖于内部临时表来进行优化。但是使用内部临时表需要创建表以及中间数据的存取代价,所以用户在写SQL语句的时候应该尽量的去避免使用临时表。

    内部临时表有两种类型:一种是HEAP临时表,这种临时表的所有数据都会存在内存中,对于这种表的操作不需要IO操作。另一种是OnDisk临时表,顾名思义,这种临时表会将数据存储在磁盘上。OnDisk临时表用来处理中间结果比较大的操作。如果HEAP临时表存储的数据大于MAX_HEAP_TABLE_SIZE(详情请参考MySQL手册中系统变量部分),HEAP临时表将会被自动转换成OnDisk临时表。OnDisk临时表在5.7中可以通过INTERNAL_TMP_DISK_STORAGE_ENGINE系统变量选择使用MyISAM引擎或者InnoDB引擎。

    本篇文章主要介绍哪些操作可能会利用到内部临时表。如果用户在书写SQL语句的时候能够尽量少的使用内部临时表进行查询优化,将有效的提高查询执行的效率。

    首先我们定义一个表t1:

    CREATE TABLE t1( a int, b int); 

    INSERT INTO t1 VALUES(1,2),(3,4);

    下面所有的操作都是基于表t1进行举例的。

    1. 在SQL语句中使用SQL_BUFFER_RESULT hint

    SQL_BUFFER_RESULT主要用来让MySQL尽早的释放表上的锁。因为如果数据量很大的话,需要较长时间将数据发送到客户端,通过将数据缓冲到临时表中可以有效的减少读锁对表的占用时间。

    例如:

    mysql> explain format=json select SQL_BUFFER_RESULT * from t1;
    EXPLAIN{
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "1.40"
        },
        "buffer_result": {
          "using_temporary_table": true,
          "table": {
            "table_name": "t1",
            "access_type": "ALL",
            "rows_examined_per_scan": 2,
            "rows_produced_per_join": 2,
            "filtered": "100.00",
            "cost_info": {
              "read_cost": "1.00",
              "eval_cost": "0.40",
              "prefix_cost": "1.40",
              "data_read_per_join": "32"
            },
            "used_columns": [
              "a",
              "b"
            ]
          }
        }
      }
    } 

    2. 如果SQL语句中包含了DERIVED_TABLE

    在5.7中,由于采用了新的优化方式,我们需要使用 set optimizer_switch=’derived_merge=off’ 来禁止derived table合并到外层的Query中。

    例如:

    mysql> explain format=json select * from (select * from t1) as tt;
    EXPLAIN{
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "10.50"
        },
        "table": {
          "table_name": "tt",
          "access_type": "ALL",
          "rows_examined_per_scan": 2,
          "rows_produced_per_join": 2,
          "filtered": "100.00",
          "cost_info": {
            "read_cost": "10.10",
            "eval_cost": "0.40",
            "prefix_cost": "10.50",
            "data_read_per_join": "32"
          },
          "used_columns": [
            "a",
            "b"
          ],
          "materialized_from_subquery": {
            "using_temporary_table": true,
            "dependent": false,
            "cacheable": true,
            "query_block": {
              "select_id": 2,
              "cost_info": {
                "query_cost": "1.40"
              },
      ……

    3. 如果我们查询系统表的话,系统表的数据将被存储到内部临时表中

    我们当前不能使用EXPLAIN来查看是否读取系统表数据需要利用到内部临时表,但是可以通过SHOW STATUS来查看是否利用到了内部临时表。

    例如:

    mysql> show status like 'CREATE%';
    mysql> select * from information_schema.character_sets;      
    mysql> show status like 'CREATE%';

    可以看到 Created_tmp_tables 的值会在 select 之后增加 1 。

    4. 如果DISTINCT语句没有被优化掉,即DISTINCT语句被优化转换为GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 内部临时表将会被使用

    例如:

    mysql> explain format=json select distinct a from t1;
    EXPLAIN{
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "1.40"
        },
        "duplicates_removal": {
          "using_temporary_table": true,
          "using_filesort": false,
      ……

    5. 如果查询带有ORDER BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行排序

    1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)

    • BNL默认是打开的
    mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "7.20"
        },
        "ordering_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "cost_info": {
            "sort_cost": "4.00"
          },
        ……
    • 关掉BNL后,ORDER BY将直接使用 filesort
    set optimizer_switch='block_nested_loop=off';
    mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
    EXPLAIN{
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "7.20"
        },
        "ordering_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "cost_info": {
            "sort_cost": "4.00"
          },
        ……

    注意:这里设置了 block_nested_loop=off ,但结果与  block_nested_loop=on 。

    2)ORDER BY的列不属于执行计划中第一个连接表的列

    例如:

    mysql> explain format=json select * from t as t1, t as t2 order by t2.a;
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "7.20"
        },
        "ordering_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
        ……

    3)如果ORDER BY的表达式是个复杂表达式

    那么什么样的ORDER BY表达式,MySQL认为是复杂表达式呢?

    • 如果排序表达式是SP或者UDF

    例如:

    mysql> delimiter //  
    mysql> create function func1(x int)  
        -> returns int deterministic  
        -> begin  
        -> declare z1, z2 int;  
        -> set z1 = x;  
        -> set z2 = z1+2;  
        -> return z2;  
        -> end//
    Query OK, 0 rows affected (0.07 sec)
    
    mysql> delimiter ; 
    mysql> explain format=json select * from t1 order by func1(a);
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "3.40"
        },
        "ordering_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
        ……
    • ORDER BY的列包含聚集函数

    为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

    例如:

    mysql> show index from t1;
    mysql> explain format=json SELECt a FROM t1 group by a order by sum(a);
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "1.40"
        },
        "ordering_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "grouping_operation": {
            "using_filesort": false,
        ……
    • ORDER BY的列中包含有SCALAR SUBQUERY,当然该SCALAR SUBQUERY没有被优化掉

    例如:

    mysql> explain format=json select (select rand() from t1 limit 1) as a from t1 order by a; 
    EXPALIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "1.40"
        },
        "ordering_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
        ……

    4) 如果查询既带有ORDER BY同时也有GROUP BY语句,但是两个语句使用的列不相同

    注意:如果是5.7,我们需要将sql_mode设置为非 only_full_group_by 模式,否则会报错。

    同样为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

    例如:

    mysql> set sql_mode='';
    mysql> create index idx1 on t1(b);
    mysql> explain format=json select t1.a from t1 group by t1.b order by 1;
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "1.40"
        },
        "ordering_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "grouping_operation": {
            "using_filesort": false,
        ……

    6. 如果查询带有GROUP BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行GROUP BY

    1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)

    例如:

    mysql> explain format=json select t2.a from t1, t1 as t2 group by t1.a;
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "7.20"
        },
        "grouping_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "cost_info": {
            "sort_cost": "4.00"
          },
        ……

    2) 如果GROUP BY的列不属于执行计划中的第一个连接表

    例如:

    mysql> explain format=json select t2.a from t1, t1 as t2 group by t2.a;
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "7.20"
        },
        "grouping_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "cost_info": {
            "sort_cost": "4.00"
          },
          "nested_loop": [
            {
        ……

    3) 如果GROUP BY语句使用的列与ORDER BY语句使用的列不同

    例如:

    mysql> set sql_mode='';
    mysql> explain format=json select t1.a from t1 group by t1.b order by t1.a;
    EXPLAIN  {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "1.40"
        },
        "ordering_operation": {
          "using_filesort": true,
          "grouping_operation": {
            "using_temporary_table": true,
            "using_filesort": false,
        ……

    4) 如果GROUP BY带有ROLLUP并且是基于多表外连接

    例如:

    mysql> explain format=json select sum(t1.a) from t1 left join t1 as t2 on true group by t1.a with rollup;
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "7.20"
        },
        "grouping_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "cost_info": {
            "sort_cost": "4.00"
          },
        ……

    5) 如果GROUP BY语句使用的列来自于SCALAR SUBQUERY,并且没有被优化掉

    例如:

    mysql> explain format=json select (select avg(a) from t1) as a from t1 group by a;
    EXPLAIN {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "3.40"
        },
        "grouping_operation": {
          "using_temporary_table": true,
          "using_filesort": true,
          "cost_info": {
            "sort_cost": "2.00"
          },
        ……

    7. IN表达式转换为semi-join进行优化

    1) 如果semi-join执行方式为Materialization

    例如:

    mysql> set optimizer_switch='firstmatch=off,duplicateweedout=off';
    EXPLAIN  {
      "query_block": {
        "select_id": 1,
        "cost_info": {
          "query_cost": "5.60"
        },
        ……
        "materialized_from_subquery": {
                "using_temporary_table": true,
      ……

    2) 如果semi-join执行方式为Duplicate Weedout

    例如:

    mysql> set optimizer_switch='firstmatch=off';
    mysql> explain format=json select * from t1 where a in (select b from t1);
    EXPLAIN {
        ……
         "materialized_from_subquery": {
                "using_temporary_table": true,
                "query_block": {
        ……

    8. 如果查询语句带有UNION,MySQL将利用内部临时表帮助UNION操作消除重复

    例如:

    mysql> explain format=json select * from t1 union select * from t1;
    EXPLAIN {
      "query_block": {
        "union_result": {
          "using_temporary_table": true,
          "table_name": "<union1,2>",
          "access_type": "ALL",
        ……

    9. 如果查询语句使用多表更新。这里Explain不能看到内部临时表被利用,所以需要查看status

    例如:

    mysql> show status like 'CREATE%';
    mysql> update t1, t1 as t2 set t1.a=3;
    mysql> show status like 'CREATE%';

    10. 如果聚集函数中包含如下函数,内部临时表也会被利用

    1) count(distinct *)  

    例如:      

    explain format=json select count(distinct a) from t1;  

    2) group_concat

    例如:

    explain format=json select group_concat(b) from t1;

    总之,上面列出了10种情况,MySQL将利用内部临时表进行中间结果缓存,如果数据量比较大的话,内部临时表将会把数据存储在磁盘上,这样显然会对性能有所影响。为了尽可能的减少性能损失,我们需要尽量避免上述情况的出现。

    本文摘自:阿里云数据库内核组讲解MySQL中的两种临时表

  • 相关阅读:
    10 Unit Testing and Automation Tools and Libraries Java Programmers Should Learn
    nginx unit java 试用
    Oracle Trace文件生成及查看
    记录数过亿条的表数据维护-数据删除
    对于上千万甚至上亿的数据,如何正确的删除?
    怎么快速删除大数据量表
    如何启动或关闭oracle的归档(ARCHIVELOG)模式
    oracle清理归档日志(缓存)
    HTTP和HTTPS协议,看一篇就够了
    HTTP与HTTPS对访问速度(性能)的影响
  • 原文地址:https://www.cnblogs.com/waynechou/p/mysql_tmp_table.html
Copyright © 2020-2023  润新知