解决MySQL使用limit偏移量较大效率慢的问题

问题描述

在MySQL中,LIMIT OFFSET偏移量特别大时,效率会非常低

如果说LIMIT 1000,10,一个偏移量很小的值,一般是没有问题的。但是,比如说,LIMIT 10000000,10时就有些费劲了,让你等到花儿都谢了是没有问题的。


原因分析:

究其原因,是因为MySQL的查询并非先跳过10000000条,再查询10条,而是先查询再跳过。所以上面例子,要先查询出10000000行之后,再取10条,速度当然很慢,并且跳过的行数越多,会越慢。


解决方案:

  • 方法A,使用索引
    可以使用 id > 10000000的方式诱导MySQL使用主键索引。

    这样的Where语句MySQL是非常喜欢并且乐于执行的,因为你给到MySQL的是一个范围,它最容易执行的就是有序和范围的查询,这对它来说易如反掌。

    当然,使用这个方法需要注意,id最好是连续的,中间的记录没有被物理删除过。如果其中有数据被物理删除过,用在分页场景的话,就看起来不是那么的优雅。当然,大部分数据库的参与者都倾向于逻辑删除。即便是物理删除的话,也可以使用程序去做区分显示,这不是问题。

  • 方法B,迂回战术-延迟关联技巧
    这个方法在《高性能MySQL》中也有提到,所谓延迟关联(deferred join),就是通过使用覆盖索引查询返回需要的主键,再根据主键关联原表获得需要的数据。原理还是想方设法利用索引的速度,方可以柔克刚。

    假设,有一张表保存了学生的名字,然后要执行这样的sql:

    select id,name from student limit 1000000,10;

    这样执行的效率必然会很慢

    将SQL改写:

    SELECT id,name FROM student INNER JOIN (SELECT id FROM student LIMIT 1000000,10) stu ON student.id = stu.id;

    可以看到,在上述语句的子查询中,“SELECT id FROM student LIMIT 1000000,10”只查询了主键id一个字段,对于这样的索引覆盖情况,查询速度还是可以接受的。就等于说,该子查询只返回了10个id给上级查询。

    上级查询接收到这10个id之后,迅速的查询出了“name”字段,速度得到了极大提升。

  • 3
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MySQL偏移量过大指的是在使用LIMIT语句时,偏移量的值过大,导致查询效率降低。具体优化方案如下: 1. 使用索引:首先要确认查询语句中的字段是否创建了索引,索引可以提高查询效率。在需要使用偏移量查询时,尽量使用覆盖索引,即查询语句中只包含索引列。 2. 分页优化:尽量避免在大表上使用偏移量查询,因为MySQL在执行偏移量查询时需要先定位到偏移量位置,这个过程是逐行扫描的,效率较低。可以考虑使用分页查询,每次查询包含固定数量的数据,例如每页查询100条记录。 3. 缓存查询结果:如果查询结果不会频繁变动,可以将查询结果缓存起来,避免每次查询都执行相同的查询操作。 4. 避免跨页查询:当查询偏移量较大时,如果只需要获取部分数据,可以通过调整查询条件来避免跨页查询。例如,将偏移量设置为某页第一条记录的ID,然后使用LIMIT语句查询该ID之后的固定数量的数据。 5. 优化查询语句:检查并优化查询语句是否存在多余的排序、过滤条件等,可以通过调整查询字段和条件,减少查询的数据量,提高查询效率。 6. 增加硬件资源:如果以上优化措施仍然不能满足需求,可以考虑增加服务器的硬件资源,例如增加内存、CPU等,提升MySQL的处理能力。 综上所述,优化MySQL偏移量过大的方法包括使用索引、分页查询、缓存查询结果、避免跨页查询、优化查询语句以及增加硬件资源等,根据具体情况选择合适的方法进行优化。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值