千万级数据库使用索引查询速度更慢的疑惑-数据回表问题

  • 环境

    • 数据库:TiDB数据库(和mysql数据库极其相似的数据库)

    • 表名:index_basedata

    • 表数据:13 000 000条数据

    • 表索引:包含一个普通索引,索引列 ”year“

    • 测试sql:

      • SQL1 : select brand from index_basedata where year = 2018 group by day  limit 5; 

      • SQL2 : select brand from index_basedata where month = 201807 group by day  limit 5; 

      • SQL3 : select brand from index_basedata where year = 2018  limit 5;  

      • SQL4 : select brand from index_basedata where month = 201807  limit 5; 

      • sql1与sql2对比 , sql3与sql4对比

  • 问题

    • 测试sql执行时间

      • SQL1 : 23.6s

      • SQL2 : 4.5s

      • SQL3 : 0.007s

      • SQL4 : 1.4s

    • explain解释: 了解TiDB数据库相关与explain请移步:https://pingcap.com/docs-cn/overview/#tidb-%e6%95%b4%e4%bd%93%e6%9e%b6%e6%9e%84

      • sql1:select brand from xcar_index_basedata_noprice where year = 2018 group by day  limit 5; 

      • sql2:select brand from xcar_index_basedata_noprice where month = 201807 group by day  limit 5; 

      • sql3:select brand from xcar_index_basedata_noprice where year = 2018  limit 5;  

      • sql4:select brand from xcar_index_basedata_noprice where month = 201807  limit 5; 

    • 从图中可以看出,sql1和sql3使用了索引,sql2和sql4没有使用索引。

    • 对于sql1和sql2,本应该使用所以的查询时间少,但是使用了索引的sql1使用的时间是没有使用索引的sql2查询时间的5倍,为什么?

    • 对于sql3和sql4,恢复了正常,使用索引比不使用索引查询速度快,为什么上述两个现象会相差如此之大?

  • 解答(以下为个人理解,不同理解请不吝指教)

    • 在sql1和sql2中,sql1索引列获取数据的速度大于sql2中获得数据的速度。但是在group by时在sql1中,使用索引得到的地址,需要回表才可以得到真实的数据,需要根据地址去获取数据,数据回表问题严重。

    • 在sql2中获取的是直接数据,group by 不需要回表。

    • sql2,sql3,sql4表现正常。

  • 什么是回表?

    • 通俗的讲:如果索引的列在select所需获得列中就不需要回表(因为在mysql中索引是根据索引列的值进行排序的,所以索引节点中存在该列中的部分值),如果select所需获得列中有大量的非索引列,索引就需要到表中找到相应的列的信息,这就叫回表。

    • 案例

    • 测试环境:与上述相同

    • 测试sql:

      • sql1:select brand from index_basedata where year = 2018 group by day limit 5;

      • 执行时间:21.8s

      • explain一下:

      • 使用了索引“year”, 则索引列为year,但是select brand from..中brand并不是索引列,就需要回表(通过图也可以看出,进行了tablescan,另外其中的IndexLookUp也说明了进行了回表),所以花费时间长

      • sql2:select brand from index_basedata where year = 2018 group by year limit 5;

      • 执行时间:21.7s

      • explain一下:

      • 使用了索引“year”, 则索引列为year,但是select brand from..中brand并不是索引列,就需要回表(通过图也可以看出,进行了tablescan,另外其中的IndexLookUp也说明了进行了回表),所以花费时间长,另外,对于sql2中的group by使用的是索引列,所以使用的StreamAgg,不同于sql1

      • sql3:select year from index_basedata where year = 2018 group by year limit 5;

      • 执行时间:2.5s

      • explain一下:

      • 可以看到:没有tablescan,也没有使用IndexLookUp而是IndexReader说明直接从索引中读取索引列并使用。

    • 总结:在上述案例中,sql3使用了索引列,没有进行回表,sql1与sql2进行了回表,所以花费时间长。所以说,发生严重的回表的时候,查询速度比不使用索引还慢。

  • 那么,下面的5个sql执行时间能不能理解呢?

    • select year from xcar_index_basedata_noprice where year = 2018 group by year limit 5;

    • select month from xcar_index_basedata_noprice where month = 201807 group by month limit 5

    • select brand_id from xcar_index_basedata_noprice where month = 201807 group by month limit 5;

    • select brand_id from xcar_index_basedata_noprice where year = 2018 group by year limit 5;

    • select brand_id from xcar_index_basedata_noprice where year = 2018 group by month limit 5;

    • 对应执行时间:


 点击「文章最下方-Geek Tech」或搜索「Geek Tech」公众号可免费获取多种PDF技术文档:Java、shell、Git、算法、单元测试等PDF! 还有每天的技术文章推送和每月免费送书抽奖!

  • 《一文教会你写90%的Shell脚本》PDF:发送消息“shell
  • 《Git常用操作和Git底层原理全集》PDF:发送消息“git
  • 《图解-图数据库系列合集》PDF:发送消息“图数据库
  • 《近百页数据库和sql基础知识整理》PDF:发送消息“数据库
  • HRM人事管理系统+经典飞机大战+像素鸟源码+:关注后发送消息“源码
  • 更多免费pdf和资源可关注公众号查看!

「点击下方公众号Tab栏关注我们,专注于程序员的技术公众号!」

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值