mongodb中使用mapreduce进行分组统计

发布时间:2020-07-29 12:51:20 作者:990653058
来源:网络 阅读:1463

最近在统计某一个时间段的url去重数,由于数据量巨大导致报错,提示:

distinct failed: {
"errmsg" : "exception: distinct too big, 16mb cap",
"code" : 17217,
"ok" : 0
} at src/mongo/shell/collection.js:1108

最终通过mapreduce来解决如下:

//定义map函数
map=function(){
    emit(this.url,{"count":1});
}
//定义reduce函数
reduce=function(key,values){
    var total=0;
    for(var i=0; i < values.length; i++){
        total+=values[i].count;
    }
    return {count:total}
}
//执行mapreduce函数,其中out的值是存储执行结果的集合
db.runCommand({"mapreduce":"visit","map":map,"reduce":reduce,"query":{"vtime":{"$gte":1412611200,"$lte":1413907119}},"out":"test.tmp"});

关于mapreduce的选项解释如下:

"out":{replace:"collection name"} -- mapreduce输出结果会替换掉原来的collection,collection不存在则创建
"out":{merge:"collection name"} -- 将新老数据进行合并,新的替换旧的,没有的添加进去
"out":{reduce:"collection name"}-- 存在老数据时,在原来的基础上加新的数据(即new value=old value+mapreduce value)
"out":{inline:1} -- 不会创建collection,结果保存在内存里面,只限于结果小于16MB的情况


推荐阅读:
  1. MapReduce单词统计
  2. mongodb 分组 topN

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

mapreduce mongodb distinct too big

上一篇:用Python写猜数字游戏的方法

下一篇:MySQLdb查询有中文关键字查不到数据

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》