Mysql分页实现及优化

最新推荐文章于 2024-08-31 09:19:46 发布
最新推荐文章于 2024-08-31 09:19:46 发布
阅读量1.1k 收藏
点赞数
分类专栏： Mysql

通常，我们会采用ORDER BY LIMIT start, offset 的方式来进行分页查询。例如下面这个SQL：

SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 100, 10;

或者像下面这个不带任何条件的分页SQL：

SELECT * FROM `t1` ORDER BY id DESC LIMIT 100, 10;

一般而言，分页SQL的耗时随着 start 值的增加而急剧增加，我们来看下面这2个不同起始值的分页SQL执行耗时：

yejr@imysql.com> SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 500, 10;
…

10 rows in set (0.05 sec)


yejr@imysql.com> SELECT * FROM `t1` WHERE ftype=6 ORDER BY id DESC LIMIT 935500, 10;
…

10 rows in set (2.39 sec)

可以看到，随着分页数量的增加，SQL查询耗时也有数十倍增加，显然不科学。今天我们就来分析下，如何能优化这个分页方案。 一般滴，想要优化分页的终极方案就是：没有分页，哈哈哈~~~，不要说我讲废话，确实如此，可以把分页算法交给Sphinx、Lucence等第三方解决方案，没必要让MySQL来做它不擅长的事情。 当然了，有小伙伴说，用第三方太麻烦了，我们就想用MySQL来做这个分页，咋办呢？莫急，且待我们慢慢分析，先看下表DDL、数据量、查询SQL的执行计划等信息：

yejr@imysql.com> SHOW CREATE TABLE `t1`;
CREATE TABLE `t1` (
 `id` int(10) unsigned NOT NULL AUTO_INCREMENT,
...
 `ftype` tinyint(3) unsigned NOT NULL,
...
 PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

yejr@imysql.com> select count(*) from t1;
+----------+
| count(*) |
+----------+
| 994584 |
+----------+

yejr@imysql.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 500, 10\G
*************************** 1. row ***************************
 id: 1
 select_type: SIMPLE
 table: t1
 type: index
possible_keys: NULL
 key: PRIMARY
 key_len: 4
 ref: NULL
 rows: 510
 Extra: Using where

yejr@imysql.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500, 10\G
*************************** 1. row ***************************
 id: 1
 select_type: SIMPLE
 table: t1
 type: index
possible_keys: NULL
 key: PRIMARY
 key_len: 4
 ref: NULL
 rows: 935510
 Extra: Using where

可以看到，虽然通过主键索引进行扫描了，但第二个SQL需要扫描的记录数太大了，而且需要先扫描约935510条记录，然后再根据排序结果取10条记录，这肯定是非常慢了。 针对这种情况，我们的优化思路就比较清晰了，有两点：

1、尽可能从索引中直接获取数据，避免或减少直接扫描行数据的频率
2、尽可能减少扫描的记录数，也就是先确定起始的范围，再往后取N条记录即可

据此，我们有两种相应的改写方法：子查询、表连接，即下面这样的：

#采用子查询的方式优化，在子查询里先从索引获取到最大id，然后倒序排，再取10行结果集
#注意这里采用了2次倒序排，因此在取LIMIT的start值时，比原来的值加了10，即935510，否则结果将和原来的不一致
yejr@imysql.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC\G
*************************** 1. row ***************************
 id: 1
 select_type: PRIMARY
 table: <derived2>
 type: ALL
possible_keys: NULL
 key: NULL
 key_len: NULL
 ref: NULL
 rows: 10
 Extra: Using filesort
*************************** 2. row ***************************
 id: 2
 select_type: DERIVED
 table: t1
 type: ALL
possible_keys: PRIMARY
 key: NULL
 key_len: NULL
 ref: NULL
 rows: 973192
 Extra: Using where
*************************** 3. row ***************************
 id: 3
 select_type: SUBQUERY
 table: t1
 type: index
possible_keys: NULL
 key: PRIMARY
 key_len: 4
 ref: NULL
 rows: 935511
 Extra: Using where

#采用INNER JOIN优化，JOIN子句里也优先从索引获取ID列表，然后直接关联查询获得最终结果，这里不需要加10
yejr@imysql.com> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G
*************************** 1. row ***************************
 id: 1
 select_type: PRIMARY
 table: <derived2>
 type: ALL
possible_keys: NULL
 key: NULL
 key_len: NULL
 ref: NULL
 rows: 935510
 Extra: NULL
*************************** 2. row ***************************
 id: 1
 select_type: PRIMARY
 table: t1
 type: eq_ref
possible_keys: PRIMARY
 key: PRIMARY
 key_len: 4
 ref: t2.id
 rows: 1
 Extra: NULL
*************************** 3. row ***************************
 id: 2
 select_type: DERIVED
 table: t1
 type: index
possible_keys: NULL
 key: PRIMARY
 key_len: 4
 ref: NULL
 rows: 973192
 Extra: Using where

然后我们来对比下这2个优化后的新SQL执行时间：

yejr@imysql.com> SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) T ORDER BY id DESC;
...
rows in set (1.86 sec)
#采用子查询优化，从profiling的结果来看，相比原来的那个SQL快了：28.2%

yejr@imysql.com> SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500,10) t2 USING (id);
...
10 rows in set (1.83 sec)
#采用INNER JOIN优化，从profiling的结果来看，相比原来的那个SQL快了：30.8%

我们再来看一个不带过滤条件的分页SQL对比：

#原始SQL
yejr@imysql.com> EXPLAIN SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10\G
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: t1
         type: index
possible_keys: NULL
          key: PRIMARY
      key_len: 4
          ref: NULL
         rows: 935510
        Extra: NULL

yejr@imysql.com> SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10;
...
10 rows in set (2.22 sec)

#采用子查询优化
yejr@imysql.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC;
*************************** 1. row ***************************
           id: 1
  select_type: PRIMARY
        table: <derived2>
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 10
        Extra: Using filesort
*************************** 2. row ***************************
           id: 2
  select_type: DERIVED
        table: t1
         type: ALL
possible_keys: PRIMARY
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 973192
        Extra: Using where
*************************** 3. row ***************************
           id: 3
  select_type: SUBQUERY
        table: t1
         type: index
possible_keys: NULL
          key: PRIMARY
      key_len: 4
          ref: NULL
         rows: 935511
        Extra: Using index

yejr@imysql.com> SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC;
…
10 rows in set (2.01 sec)
#采用子查询优化，从profiling的结果来看，相比原来的那个SQL快了：10.6%


#采用INNER JOIN优化
yejr@imysql.com> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1`ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G
*************************** 1. row ***************************
           id: 1
  select_type: PRIMARY
        table: 
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 935510
        Extra: NULL
*************************** 2. row ***************************
           id: 1
  select_type: PRIMARY
        table: t1
         type: eq_ref
possible_keys: PRIMARY
          key: PRIMARY
      key_len: 4
          ref: t1.id
         rows: 1
        Extra: NULL
*************************** 3. row ***************************
           id: 2
  select_type: DERIVED
        table: t1
         type: index
possible_keys: NULL
          key: PRIMARY
      key_len: 4
          ref: NULL
         rows: 973192
        Extra: Using index

yejr@imysql.com> SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1`ORDER BY id DESC LIMIT 935500,10) t2 USING (id);
…
10 rows in set (1.70 sec)
#采用INNER JOIN优化，从profiling的结果来看，相比原来的那个SQL快了：30.2%

至此，我们看到采用子查询或者INNER JOIN进行优化后，都有大幅度的提升，这个方法也同样适用于较小的分页，虽然LIMIT开始的 start 位置小了很多，SQL执行时间也快了很多，但采用这种方法后，带WHERE条件的分页分别能提高查询效率：24.9%、156.5%，不带WHERE条件的分页分别提高查询效率：554.5%、11.7%，各位可以自行进行测试验证。单从提升比例说，还是挺可观的，确保这些优化方法可以适用于各种分页模式，就可以从一开始就是用。 我们来看下各种场景相应的提升比例是多少：

  大分页，带WHERE 大分页，不带WHERE 大分页平均提升比例 小分页，带WHERE 小分页，不带WHERE 总体平均提升比例
子查询优化 28.20% 10.60% 19.40% 24.90% 554.40% 154.53%
INNER JOIN优化 30.80% 30.20% 30.50% 156.50% 11.70% 57.30%

结论：这样看就和明显了，尤其是针对大分页的情况，因此我们优先推荐使用INNER JOIN方式优化分页算法。

上述每次测试都重启mysqld实例，并且加了SQL_NO_CACHE，以保证每次都是直接数据文件或索引文件中读取。如果数据经过预热后，查询效率会一定程度提升，但但上述相应的效率提升比例还是基本一致的。

代老师的编程课
关注
专栏目录
MySQL分页性能优化
12-14
在对大表进行分页时，如果在服务端实现分页，大多数情况采用SQL的limit语法来实现。但是当页数越来越大时，性能很可能成为问题，尤其是需要查询表的所有字段。 　1. 索引与非索引字段 　在查询的结果集中，如果只...
如果面试官问你如何优化mysql分页查询，请把这篇文章甩给他！
流星007
03-22 2831
mysql limit优化，分页优化
分页查询优化
Soil_Three_66的博客
09-28 943
分页查询优化
MySQL分页查询的三种常用方法
最新发布
Yong.Sunshine
08-31 571
LIMIT在处理数据库查询时，我们经常需要对结果进行分页，以便在用户界面上提供更好的浏览体验。MySQL提供了几种不同的方法来实现这一功能，其中最常见的是使用LIMIT子句。以下是三种使用LIMIT进行分页的基本方法。
数据量过大时的深度分页优化以及前端优化
qq_36896711的博客
08-11 1580
1.首先我想到的第一种方法是内嵌子查询，查出符合条件的所有id，然后通过id来查询所要的数据，由于id是主键，这样就能走最快的聚簇索引，提高查询速度，优化后的sql查询语句为select * from task where id in (select id from (select id from task where publisherId = 5 limit 1000000,10) as a) order by id。4.另外，还有种更快的优化方式，就是不用limit?
1、如何优化百万数据sql带查询的分页查询（实战优化深分页）浅分页和深分页的思考
分享java学习路上的一些笔记，不足之处多多见谅。
06-30 2436
分析： 深分页 分析： 情况是一样的但是执行时间会有不同 浅分页1.2s深分页2.0s思考：为什么浅分页的查询时间短，而深分页查询时间长？原理：其中浅分页我们的偏移量小，而我们的深分页偏移量大，其中偏移量大扫描的行数就会比浅分页要多，所以就时间更长 分析 我们就发现其中key走了索引，然后type就是index了，extra也为空，那么也就是没有执行额外的任务了我们再看深分页（出现问题了） 分析：还是全表扫描，也有额外执行任务，没走索引 浅分页用时，0.38s深分页用时，1.91s思考：为什么浅分页查询得
分页查询慢的优化方式
Java程序媛，欢迎大家一起交流学习~
05-26 3590
分页查询也是我们项目中经常使用的查询方式，那么如何优化呢？
MySQL优化案例系列-mysql分页优化
09-10
优化MySQL分页查询的关键在于减少需要扫描的记录数，这可以通过以下几种方式来实现： 1. **使用索引进行数据检索**：确保查询中涉及的字段上有索引，尤其是排序字段和过滤条件字段，以便数据库可以直接利用索引来...
MySQL分页优化
09-10
本文将深入探讨MySQL分页优化的原理、问题及解决方案。 首先，我们要理解MySQL分页的基本实现。通常，我们会使用`LIMIT`关键字配合`OFFSET`或直接指定开始位置和结束位置来实现分页。然而，这种简单的方法存在效率...
Mysql百万级分页优化技巧
09-09
在MySQL中，最常用的分页方式是通过`LIMIT`子句实现。例如，获取第2页的20条记录，通常会写成这样的SQL： ```sql SELECT * FROM user LIMIT 1, 20; ``` 这种做法的问题在于，当数据量很大时，MySQL需要从第一条记录...
mysql 分页优化解析
09-14
对于MySQL，可以考虑使用`ROW_NUMBER()`函数配合`PARTITION BY`来实现分页，但这需要MySQL 8.0及以上版本。 7. **索引优化**：确保`WHERE`子句涉及的列和`ORDER BY`子句的列都有合适的索引，可以显著提升查询速度。...
分页优化的四种方式
追求专业
12-26 485
翻译背景： 在大数据量的情况下，原本很简单的分页如果没有处理好，你会发现分页的请求会消耗你大量的数据库时间。如果你遇到了这个问题，文章给了你几个很好的解决的方案。当然，初学者若能看完这篇文章，那么它会指导你写出更具有扩展性的分页代码。 全文概述： 文中提到了分页的办法总结如下： 全部缓存查询结果。把查询结果全部缓存起来(例如文件缓存、静态化结果页面等)。 不详细显示总共有多少分页。这...
MySQL 深度分页优化
Songbl_的博客
08-15 599
分页使用limit ，前提是要排序好的数据，这时候，就推荐使用带索引的字段排序，因为索引是天然有序的，不需要像是无序的字段一样，全表扫描，如果太大的话，还filesort ，利用文件排序，排序完成之后，才能分页，很慢。但是，如果分页过深的话，比如limit100万，仍然无需要查询到100万数据，中间有大量的io操作（回表查询其它字段），这时候考虑用上子查询，先查到100万位置的往后10条数据（直接用id主键查，因为没有回表，直接索引查，所以很快），然后再关联10条数据，取得完整的数据。
分页优化
Mr_Melody的专栏
04-21 628
转载至原文：http://imysql.com/2014/07/26/mysql-optimization-case-paging-optimize.shtml 通常，我们会采用ORDER BY LIMIT start, offset 的方式来进行分页查询。例如下面这个SQL： SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT
MySQL性能调优与深度分页优化策略
小码农的博客
07-09 2897
在现代的Web应用和大数据环境中，MySQL作为一款广泛使用的开源关系数据库管理系统，其性能直接影响着应用程序的响应时间和用户体验。尤其是在面对海量数据的深度分页查询时，性能问题尤为突出。本文旨在探讨MySQL的性能调优策略以及深度分页查询的优化方法。MySQL性能调优是一个复杂的过程，涉及到数据库配置、查询优化、系统资源管理等多个方面。而深度分页查询的优化则需要结合具体的应用场景和数据特性，采用灵活的策略来实现高效的数据检索。通过上述的优化措施，可以显著提升MySQL在高并发和大数据环境下的表现。
MYSQL深度分页的常见优化方案
白云
02-28 2547
MYSQL深度分页的常见优化方案
千万级数据深度分页如何优化
kai_666666的博客
03-11 1262
报表系统：涉及订单数据全量查询，千万级数据深度分页性能优化其他应用场景：1、查询文章列表，一直滑动翻页，不用跳转到指定页数（移动端瀑布流效果）。2、从数据库查询百万客户数据写入到redis。3、访问某小程序的积分商城查看商品，一直滑动翻页，不用跳转到指定页数。4、ETL大数据量，数据拆分。设计客户表结构，插入1000万数据。批量插入一千万数据limit m，n查询过程是先回表查询m+n条记录，然后丢掉前m条，取后面n条结果返回。
大表分页的优化方法？
Gemini1995的博客
07-10 642
分页查询的优化方法有很多种，可以根据具体的业务需求和数据库情况选择适合的方法。常见的优化手段包括使用索引、延迟关联、覆盖索引、预计算表、缓存等。合理地使用这些方法，可以显著提高大表分页查询的性能。
Mysql大数据量分页优化
热门推荐
胖虎儿的博客
11-29 1万+
mysql分页还在用传统的 limit offset分页么？是否发现了大数据下分页卡顿？来看看分页到底该怎么做
PHP MySQL分页类实现及代码示例
在PHP中，处理大量数据时，分页是一种常见的优化手段，它可以提高用户体验，避免一次性加载过多的数据导致页面加载缓慢。本资源提供了一个基于PHP和MySQL的分页类，由作者yytcpt（无影）于2008年创建，并在d5s.cn上...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值