mapreduce分组统计_大数据技术之mongodb中使用mapreduce进行分组统计

本篇文章探讨了大数据技术之mongodb中使用mapreduce进行分组统计，希望阅读本篇文章以后大家有所收获，帮助大家对相关内容的理解更加深入。

最近在统计某一个时间段的url去重数，由于数据量巨大导致报错，提示：distinct failed: {

"errmsg" : "exception: distinct too big, 16mb cap",

"code" : 17217,

"ok" : 0

} at src/mongo/shell/collection.js:1108

最终通过mapreduce来解决如下：//定义map函数

map=function(){

emit(this.url,{"count":1});

}//定义reduce函数

reduce=function(key,values){

var total=0;

for(var i=0; i 

total+=values[i].count;

}

return {count:total}

}//执行mapreduce函数,其中out的值是存储执行结果的集合

db.runCommand({"mapreduce":"visit","map":map,"reduce":reduce,"query":{"vtime":{"$gte":1412611200,"$lte":1413907119}},"out":"test.tmp"});

关于mapreduce的选项解释如下："out":{replace:"collection name"} -- mapreduce输出结果会替换掉原来的collection,collection不存在则创建

"out":{merge:"collection name"} -- 将新老数据进行合并，新的替换旧的，没有的添加进去

"out":{reduce:"collection name"}-- 存在老数据时，在原来的基础上加新的数据(即new value=old value+mapreduce value)

"out":{inline:1} -- 不会创建collection，结果保存在内存里面，只限于结果小于16MB的情况

本文由职坐标整理发布，学习更多的相关知识，请关注职坐标IT知识库！