[小技巧]分批取数据库数据

        在有些业务场景中需要分批去取数据库表中的全部数据来进行处理，最简单的方法就是使用分页查询语句（偷懒以mysql为例）：

select * from datatable limit offset,amount

        这里就会有一个问题，随着offset值的越来越大，这条sql要扫描的表数据就会越来越多，因为要定位到offset这一行就需要扫描比offset小的所有行。显然在一张大数据量的表中，去这样做，性能就会出问题。为了避免这样的情形出现，我们自然会想到使用索引来解决，比如使用自增序列id进行分批取：

select * from datatable where id >= start and id<start+batchCount

        这样我们对id建索引，然后分批去取，显然效果会高很多，但是如果自增序列由于删除等操作变得不是连续，就会出现空执行和多执行的情况出现。要解决这个方法，我们就需要结合使用索引和分页的优势来处理：

select * from datatable where id >= start limit batchCount

        然后每次取回来我们再计算出起始id值，再去取下一批数据。这样就可以既避免了第一种不走索引，查询性能低下的问题，又解决了第二种id不连续，导致取回来的数据量不稳定导致浪费的问题了。