一千万条数据怎么快速查询
普通分页查询
当我们在日常工作中遇到大数据查询的时候,第一反应就是使用分页查询。
mysql支持limit语句来选取指定的条数数据,而oracle可以使用rownum来选取
mysql分页查询语句如下:
SELECT * FROM table LIMIT [offset,] rows | rows OFFSET offset
-
第一个参数用来指定第一个返回记录行的偏移量
-
第二个参数指定返回记录行的最大数目
当相同的偏移量时,数据量越大,花费时间越长
当相同的数据量时,偏移量越大,花费时间越长
如何优化
经过上面的总结,我们可以很清晰的看到当偏移量大,数据量大的时候,查询的时间还是挺多的,所以我们就针对这两种来着手优化
偏移量大
采用子查询方式
我们可以先定位偏移位置的id,然后再查询数据
select * from test limit 1000000,10
select id from test limit 1000000,1
select * from test where id>=(select id from test limit 1000000,1)limit 10
通过执行我们可以发现,第一条花费时间最大,第三条比第一条稍微好一点,而且子查询使用索引速度更快。
但是只是适用于id递增的情况
采用id限定方式
这种方法要求更高,id必须是连续递增,而且还得计算id的范围,然后使用between,sql如下:
select * from test where id between 1000000 and 1000100 limit 100;
select * from test where id>=1000000 limit 100
结果很快
这里limit是限制了条数,没有采用偏移量
优化数据量大问题
返回结果的数据量也会直接影响速度
减少不需要的列,查询效率会明显提升
最后
- 如果觉得看完有收获,希望能给我点个赞,这将会是我更新的最大动力,感谢各位的支持
- 欢迎各位关注我的公众号【java冢狐】,专注于java和计算机基础知识,保证让你看完有所收获,不信你打我
- 如果看完有不同的意见或者建议,欢迎多多评论一起交流。感谢各位的支持以及厚爱。