mongodb分页优化

转载 2015年07月07日 18:48:27

现在参与一个项目的开发,需要用java查询mongodb数据库,在这里分页用的skip sort 和limit结合,查询语句如下(已经在相关字段建立索引)

  1. DBCursor cursor = collection.find(query).skip((skip - 1) * PAGESIZE).sort(new BasicDBObject("starttime", -1)).limit(PAGESIZE);//PAGESIZE=10  

由于分页,这里需获取符合条件的总数 语句如下

int count = cursor.count()

根据count和PAGESIZE的两个数据来分页。由于带条件的count()方法执行起来特别耗时,我用二百万的数据测试了一下,cursor.count()就耗时6.5s多,mongodb权威指南这不书也指出count()方法随着查询条件越多,执行速度越慢。

现在问题出来了,现在模拟一下操作

1)点击查询执行查询方法queryLists()(这是我代码中的方法名)并执行耗时的count()方法获取符合条件的数量,进行分页

2)点击下一页或者点击某一页时,同样执行queryLists()方法,同样也需要执行该方法体中的count()方法,这样count方法又耗去一部分时间

显然用户体验不是很好,每次点击查询时就很耗时了,点击下一页或者某一页时同样还得等待,这样的话谁都受不了


下面是我的优化方案

1)设置一个变量clickQuery,当用户点击查询按钮时 clickQuer赋值为0.当点击下一页或者上一页或者跳转页面时clickQuery=1.

     也就是说用clickQuery来判断用户是否点击查询按钮

2)既然点击查询时已经获取了count,何必再点击下一页时在执行cursor.count()方法呢?所以我的做法就是把点击查询的时候获取的count保存起来

    当用户点击下一页的时候,直接读取已经保存的count,而不是执行耗时的cursor.count()方法


方法优点:

      点击下一页或者某一页或者跳转页面时,由于已经保存过查询时的count,所以速度很快

方法缺点:

    用户点击查询按钮时,因为要执行cursor.count方法,所以还是很慢。


代码实现如下

  1. int count = 0;  
  2. if (click.equals("0")) {// 如果点击查询  
  3.     count = cursor.count();//获取符合条件的数量  
  4.     // 序列化,保存count2  
  5.    Seria.serializable(new BtnClick(count), Seria.ACTIVITY_COUNT_FILE);  
  6.    System.out.println("点击查询");//Seria是我自己定义的一个类,来序列化数据  
  7. else {// 如果点击下一页或者跳转页  
  8.   // 读取序列化信息  
  9.   BtnClick btnClick = Seria.reverseSer(Seria.ACTIVITY_COUNT_FILE);  
  10.   count= btnClick.getCount();  
  11.    System.out.println("点击下一页");  
  12. }  
  13. ///分页处理略  


  1. /** 
  2.  * 序列化 
  3.  */  
  4. public static void serializable(BtnClick btnClick,String file) {  
  5.     try {  
  6.           
  7.         File serFile = new File(file);  
  8.         // 判断序列化文件是否存在, 不存在则创建  
  9.         if (!serFile.exists())  
  10.             serFile.createNewFile();  
  11.         //打开serFile的输出流  
  12.         FileOutputStream fos = new FileOutputStream(serFile);  
  13.         ObjectOutputStream oos = new ObjectOutputStream(fos);  
  14.         // 将上下文对象写到序列化文件中  
  15.         oos.writeObject(btnClick);  
  16.         oos.close();  
  17.         fos.close();  
  18.     } catch (Exception e) {  
  19.         e.printStackTrace();  
  20.     }  
  21. }  
  22.   
  23. /** 
  24.  * 反序列化 
  25.  */  
  26. public static BtnClick reverseSer(String file) {  
  27.     File serFile = new File(file);  
  28.     BtnClick btnClick = null;  
  29.     if (!serFile.exists())  
  30.         return null;  
  31.     try {  
  32.         // 得到文件输入流  
  33.         FileInputStream fis = new FileInputStream(serFile);  
  34.         ObjectInputStream ois = new ObjectInputStream(fis);  
  35.         // 设置ContextHolder的DownloadContext  
  36.         btnClick = (BtnClick) ois.readObject();  
  37.         ois.close();  
  38.         fis.close();  
  39.     } catch (Exception e) {  
  40.         e.printStackTrace();  
  41.     }  
  42.   
  43.     return btnClick;  
  44. }  


我的问题:因为用skip方法查询大量数据的时候速度慢,不知道有什么方法可以优化一下,mongodb权威指南的那个方法,只适合一页一页的调整而不适合跨页跳转,所以大家如果有好的查询方案,可以和小弟在此说一下,谢谢。

相关文章推荐

mongodb查询分页优化(二)

项目中需要用mongodb来进行数据测存储和查询,其中涉及到分页:分页的要求如下 1)每页显示10条 由于数据量太大,cursor.count()获取的符合条件的数据量也很大,导致分页得分好几万页,...

java操作mongodb(分页优化)

前面我们提到过,大数据量分页时,skip如果跳过大量的数据会很慢,这里针对这一情况,我们优化一下分页。 看代码: /** * 大数据量数据分页优化 * @param page * @par...

java MongoDB分页优化

最近项目在做网站用户数据新访客统计,数据存储在MongoDB中,统计的数据其实也并不是很大,1000W上下,但是公司只配给我4G内存的电脑,让我程序跑起来气喘吁吁...很是疲惫不堪。     最常见的...

mongodb的小例子,增删改查,分页

  • 2015年04月29日 16:59
  • 4.46MB
  • 下载

Spring Data MongoDB 五:进阶文档查询(分页、Morphia)(二)

SpringData MongoDB提供了org.springframework.data.mongodb.core.MongoTemplate对MongoDB的find的操作,我们上一篇介绍了基本...

MongoDB数据查询,分页,排序

MongoDB数据查询数据准备:persons.jsonvar persons = [{ name:"jim", age:25, email:"75431457@qq.com"...

MongoDB 学习笔记(三):分页、排序与游标

一、分页 1、limit返回指定条数的数据 2、skip指定跨度 3、limit与skip结合,进行分页 二、排序 1、sort排序:指定排序的key,1为升序,-1为降序。 2、排序的先后:...
  • cdu09
  • cdu09
  • 2013年10月09日 23:39
  • 4187

C# MongoDB 查询,分组,聚合,排序,条件,分页

先下载个C#的驱动。MongoDB提供各种主流与非主流预言的开发驱动。 C# Driver 下载地址:这里 CSharp Driver Tutorial:这里 下载文件安装或者解压缩包 如果您...

mongodb-find、分页、排序

mongodb的find操作

mongodb系列之三:java分页

转载自:http://blog.csdn.net/maosijunzi/article/details/42082703 使用skip+limit的方式实现分页。直接上代码(依赖的代码在上一篇博...
  • lkx94
  • lkx94
  • 2015年04月12日 20:50
  • 376
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:mongodb分页优化
举报原因:
原因补充:

(最多只允许输入30个字)