MySQL大数据量分页查询方法

使用数据库提供的SQL语句

MySQL中,可用如下方法: SELECT * FROM 表名称 LIMIT M,N

select * from dept limit 800000, 20   36.34秒

适用于数据量较少的情况(元组百/千级)
全表扫描,速度会很慢 且 有的数据库结果集返回不稳定(如某次返回1,2,3,另外的一次返回2,1,3). Limit限制的是从结果集的M位置处取出N条输出,其余抛弃

 

建立主键或唯一索引, 利用索引

Mysql中,可用如下方法: SELECT * FROM 表名称 WHERE id_pk > (pageNum*10) LIMIT M
适用于数据量多的情况(元组数上万)
索引扫描,速度会很快. 有朋友提出: 因为数据查询出来并不是按照pk_id排序的，所以会有漏掉数据的情况，只能方法3

基于索引再排序
MySQL中,可用如下方法: SELECT * FROM 表名称 WHERE id_pk > (pageNum*10) ORDER BY id_pk ASC LIMIT M
适用于数据量多的情况(元组数上万). 最好ORDER BY后的列对象是主键或唯一所以,使得ORDERBY操作能利用索引被消除但结果集是稳定的(稳定的含义,参见方法1)

以上方法使用MySQL的排序操作,只有ASC，DESC查询的数据发生错误，并且id必须连续并且增长，如果中断就会遗漏数据。

 

使用子查询进行分页

既然上面的方法需要保证主键的连续性，可以使用子查询查询出首条数据的id

SELECT * FROM dept WHERE deptno>=(SELECT deptno FROM dept LIMIT 3,1) ORDER BY deptno ASC LIMIT 4

相当于

SELECT * FROM dept  limilt 3,4

但是在数据量大的时候还能具有很好的性能，但是id必须是增长的。

另一种写法使用联表查询

SELECT * FROM dept a JOIN (SELECT deptno FROM dept LIMIT 3,4 ) b ON a.deptno = b.deptno