MongoDB的MapReduce用法及php示例代码

MongoDB虽然不像我们常用的mysql,sqlserver,oracle等关系型数据库有group by函数那样方便分组,但是MongoDB要实现分组也有3个办法:

 * Mongodb三种分组方式:

 * 1、group(先筛选再分组,不支持分片,对数据量有所限制,效率不高)   http://php.net/manual/zh/mongocollection.group.php

 * 2、mapreduce(基于js引擎,单线程执行,效率较低,适合用做后台统计等)

 * 3、aggregate(推荐) (如果你的PHP的mongodb驱动版本需>=1.3.0,推荐你使用aggregate,性能要高很多,并且使用上要简单些,不过1.3的目前还不支持账户认证模式,可以通过http://pecl.php.net/package/mongo查看更新日志和Bug)   http://php.net/manual/zh/mongocollection.aggregate.php


下面就来看下mapreduce方式:


Mongodb官网对MapReduce介绍:

Map/reduce in MongoDB is useful for batch processing of data and aggregation operations. It is similar in spirit to using something like Hadoop with all input coming from a collection and output going to a collection. Often, in a situation where you would have used GROUP BY in SQL, map/reduce is the right tool in MongoDB.

大致意思是: Mongodb中的Map/reduce主要是用来对数据进行批量处理和聚合操作,有点类似于使用Hadoop对集合数据进行处理,所有输入数据都是从集合中获取,而MapReduce后输出的数据也都会写入到集合中。通常类似于我们在SQL中使用Group By语句一样。
使用MapReduce要实现两个函数:Map和Reduce。Map函数调用emit(key,value)遍历集合中所有的记录,将key与value传给Reduce函数进行处理。Map函数和Reduce函数是使用Javascript编写的,并可以通过db.runCommand或mapreduce命令来执行MapReduce操作。

MapReduce命令如下:
[javascript] view plain copy
  1. db.runCommand(  
  2. { mapreduce : <collection>,  
  3.    map : <mapfunction>,  
  4.    reduce : <reducefunction>  
  5.    [, query : <query filter object>]  
  6.    [, sort : <sort the query.  useful for optimization>]  
  7.    [, limit : <number of objects to return from collection>]  
  8.    [, out : <output-collection name>]  
  9.    [, keeptemp: <true|false>]  
  10.    [, finalize : <finalizefunction>]  
  11.    [, scope : <object where fields go into javascript global scope >]  
  12.    [, verbose : true]  
  13.  }  
  14. );  

参数说明:

mapreduce:要操作的目标集合

map:映射函数(生成键值对序列,作为Reduce函数的参数) 

reduce:统计函数

query:目标记录过滤

sort:对目标记录排序

limit:限制目标记录数量

out:统计结果存放集合(如果不指定则使用临时集合,在客户端断开后自动删除)

keeptemp:是否保留临时集合

finalize:最终处理函数(对reduce返回结果执行最终整理后存入结果集合)

scope:向map、reduce、finalize导入外部变量

verbose:显示详细的时间统计信息


map函数
map函数调用当前对象,并处里对象的属性,传值给reduce,map方法使用this来操作当前对象,最少调用一次emit(key,value)方法来向reduce提供参数,其中emit的key为最终数据的id。

reduce函数
接收一个值和数组,根据需要对数组进行合并分组等处理,reduce的key就是emit(key,value)的key,value_array是同个key对应的多个value数组。

Finalize函数
此函数为可选函数,可在执行完map和reduce后执行,对最后的数据进行统一处理。

看完基本介绍,我们再来看一个实例:

已知集合feed,测试数据如下:
[javascript] view plain copy
  1. {  
  2.    "_id": ObjectId("50ccb3f91e937e2927000004"),  
  3.    "feed_type": 1,  
  4.    "to_user": 234,  
  5.    "time_line""2012-12-16 01:26:00"  
  6. }  
  7.   
  8. {  
  9.    "_id": ObjectId("50ccb3ef1e937e0727000004"),  
  10.    "feed_type": 8,  
  11.    "to_user": 123,  
  12.    "time_line""2012-12-16 01:26:00"  
  13. }  
  14.   
  15. {  
  16.    "_id": ObjectId("50ccb3e31e937e0a27000003"),  
  17.    "feed_type": 1,  
  18.    "to_user": 123,  
  19.    "time_line""2012-12-16 01:26:00"  
  20. }  
  21.   
  22. {  
  23.    "_id": ObjectId("50ccb3d31e937e0927000001"),  
  24.    "feed_type": 1,  
  25.    "to_user": 123,  
  26.    "time_line""2012-12-16 01:26:00"  
  27. }  

我们按动态类型feed_type和用户to_user进行分组统计,实现结果:

feed_typeto_usercout
12341
81231
11232








实现代码:

  1. //编写map函数  
  2. $map = '  
  3.      function() {  
  4.       var key = {to_user:this.to_user,feed_type:this.feed_type};  
  5.       var value = {count:1};  
  6.       emit(key,value);  
  7.     } ';   
  8.   
  9. //reduce 函数  
  10. $reduce = '  
  11.      function(key, values) {  
  12.          var ret = {count:0};  
  13.      for(var i in values) {  
  14.           ret.count += 1;  
  15.       }  
  16.       return ret;  
  17.       }';  
  18.   
  19. //查询条件  
  20. $query = null;  //本实例中没有查询条件,设置为null  
  1. $mongo = new Mongo('mongodb://root:root@127.0.0.1: 28017/'); //链接mongodb,账号和密码为root,root  
  2. $instance = $mongo->selectDB("testdb");  
  3.   
  4. //执行此命令后,会创建feed_temp_res的临时集合,并将统计后的数据放在该集合中  
  5. $cmd = $instance->command(array(  
  6.         'mapreduce' => 'feed',  
  7.         'map'       => $map,  
  8.         'reduce'    => $reduce,  
  9.         'query' => $query,  
  10.         'out' => 'feed_temp_res'  
  11. ));  
  12.   
  13. //查询临时集合中的统计数据,验证统计结果是否和预期结果一致  
  14. $cursor = $instance->selectCollection('feed_temp_res')->find();  
  15. $result = array();  
  16. try {  
  17.     while ($cursor->hasNext())  
  18.     {  
  19.         $result[] = $cursor->getNext();  
  20.     }  
  21. }  
  22. catch (MongoConnectionException $e)  
  23. {  
  24.     echo $e->getMessage();  
  25. }  
  26. catch (MongoCursorTimeoutException $e)  
  27. {  
  28.     echo $e->getMessage();  
  29. }  
  30. catch(Exception $e){  
  31.     echo $e->getMessage();  
  32. }  
  33.   
  34. //test  
  35. var_dump($result);  

下面是输出的结果,和预期结果一致

[javascript] view plain copy
  1. {  
  2.    "_id": {  
  3.      "to_user": 234,  
  4.      "feed_type": 1   
  5.   },  
  6.    "value": {  
  7.      "count": 1   
  8.   }   
  9. }  
  10.   
  11. {  
  12.    "_id": {  
  13.      "to_user": 123,  
  14.      "feed_type": 8   
  15.   },  
  16.    "value": {  
  17.      "count": 1   
  18.   }   
  19. }  
  20.   
  21. {  
  22.    "_id": {  
  23.      "to_user": 123,  
  24.      "feed_type": 1   
  25.   },  
  26.    "value": {  
  27.      "count": 2   
  28.   }   
  29. }  


以上只是简单的统计实现,你可以实现复杂的条件统计编写复杂的reduce函数,可以增加查询条件,排序等等。

附上mapReduce数据库处理函数(简单封装)
  1. /** 
  2.  * mapReduce分组 
  3.  *  
  4.  * @param string $table_name 表名(要操作的目标集合名) 
  5.  * @param string $map 映射函数(生成键值对序列,作为 reduce 函数参数)  
  6.  * @param string $reduce 统计处理函数 
  7.  * @param array  $query 过滤条件 如:array('uid'=>123) 
  8.  * @param array  $sort 排序 
  9.  * @param number $limit 限制的目标记录数 
  10.  * @param string $out 统计结果存放集合 (不指定则使用tmp_mr_res_$table_name, 1.8以上版本需指定) 
  11.  * @param bool   $keeptemp 是否保留临时集合 
  12.  * @param string $finalize 最终处理函数 (对reduce返回结果进行最终整理后存入结果集合) 
  13.  * @param string $scope 向 map、reduce、finalize 导入外部js变量 
  14.  * @param bool   $jsMode 是否减少执行过程中BSON和JS的转换,默认true(注:false时 BSON-->JS-->map-->BSON-->JS-->reduce-->BSON,可处理非常大的mapreduce,//true时BSON-->js-->map-->reduce-->BSON) 
  15.  * @param bool   $verbose 是否产生更加详细的服务器日志 
  16.  * @param bool   $returnresult 是否返回新的结果集 
  17.  * @param array  &$cmdresult 返回mp命令执行结果 array("errmsg"=>"","code"=>13606,"ok"=>0) ok=1表示执行命令成功 
  18.  * @return  
  19.  */  
  20. function mapReduce($table_name,$map,$reduce,$query=null,$sort=null,$limit=0,$out='',$keeptemp=true,$finalize=null,$scope=null,$jsMode=true,$verbose=true,$returnresult=true,&$cmdresult){  
  21.     if(empty($table_name) || empty($map) || empty($reduce)){  
  22.         return null;  
  23.     }  
  24.     $map = new MongoCode($map);  
  25.     $reduce = new MongoCode($reduce);  
  26.     if(empty($out)){  
  27.         $out = 'tmp_mr_res_'.$table_name;  
  28.     }  
  29.     $cmd = array(  
  30.             'mapreduce' => $table_name,  
  31.             'map'       => $map,  
  32.             'reduce'    => $reduce,  
  33.             'out'       =>$out  
  34.     );  
  35.     if(!empty($query) && is_array($query)){  
  36.         array_push($cmdarray('query'=>$query));  
  37.     }  
  38.     if(!empty($sort) && is_array($sort)){  
  39.         array_push($cmdarray('sort'=>$query));  
  40.     }  
  41.     if(!empty($limit) && is_int($limit) && $limit>0){  
  42.         array_push($cmdarray('limit'=>$limit));  
  43.     }  
  44.     if(!empty($keeptemp) && is_bool($keeptemp)){  
  45.         array_push($cmdarray('keeptemp'=>$keeptemp));  
  46.     }  
  47.     if(!empty($finalize)){  
  48.         $finalize = new Mongocode($finalize);  
  49.         array_push($cmdarray('finalize'=>$finalize));  
  50.     }  
  51.     if(!empty($scope)){  
  52.         array_push($cmdarray('scope'=>$scope));  
  53.     }  
  54.     if(!empty($jsMode) && is_bool($jsMode)){  
  55.         array_push($cmdarray('jsMode'=>$jsMode));  
  56.     }  
  57.     if(!empty($verbose) && is_bool($verbose)){  
  58.         array_push($cmdarray('verbose'=>$verbose));  
  59.     }  
  60.     $dbname = $this->curr_db_name;  
  61.     $cmdresult = $this->mongo->$dbname->command($cmd);  
  62.     if($returnresult){  
  63.         if($cmdresult && $cmdresult['ok']==1){  
  64.             $result = $this->find($outarray());  
  65.         }  
  66.     }  
  67.     if($keeptemp==false){  
  68.         //删除集合  
  69.         $this->mongo->$dbname->dropCollection($out);  
  70.     }  
  71.     return $result;  
  72. }  


MongoDB官方网站介绍:

Aggregation介绍  http://docs.mongodb.org/manual/aggregation/
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值