延迟加载解决offset过大导致的分页性能问题

最新推荐文章于 2023-10-01 13:45:00 发布

chunyangli1995

最新推荐文章于 2023-10-01 13:45:00 发布

阅读量1.7k

点赞数 3

分类专栏： mysql 索引文章标签： mysql 数据库

本文链接：https://blog.csdn.net/lcy824963750/article/details/71634438

版权

本文探讨了MySQL中分页查询的性能问题，特别是offset过大时的效率低下。通过对比基于offset和基于id的分页，提出了id分页的优势，即减少不必要的数据访问。同时，为了解决不能直接跳转指定页的问题，文章提出了一种延迟加载的解决方案，将查询拆分为两步，显著提高了查询速度。

摘要由CSDN通过智能技术生成

当我们展示一个列表中的内容时，难免会遇到分页问题，因为列表中的内容数量可能很多，但是用户能一次看到的界面大小是有限的，不可能一个界面展示所有的内容，从后端一次性取太多的数据也会给后端造成额外的压力。

一般来说，存储在Mysql中的数据我们有两种分页方式：基于id的分页和基于offset的分页。

下面以我在实际生产环境中遇到的一个sql为例，相关字段因为保密问题均用A、B、C……代替。

SELECT
  *
FROM
  table_A USE INDEX (index_A)
WHERE
  A = xxx
  AND B = xxx
  AND C IN (xxx)
ORDER BY
  D DESC
LIMIT
  33380, 11

KEY `index_A` (`A`,`B`,`D`,`C`)

mysql使用offset分页的时候会首先去二级索引(index_A)中找出满足条件的offset＋limit行记录的id，然后根据id去聚簇索引中找到对应的行记录，取出offset+limit行数据，最后丢掉offset行，只保留limit行，这样效率在offset很大的时候很差，因为去聚簇索引中访问了太多不必要的数据。

上面这个语句的执行时间大概是8s，而id分页和上面有什么不同呢？id分页就是每次去后端请求数据时，带上前一页最后一个id，这样的话我们在去mysql捞数据的时候where条件里加上一个id>last_id，limit 33380, 11换成limit 11，按照id来order_by。这样可以少去聚簇索引中拿很多数据。上面的例子就可以少拿3w多条，只拿需要的1