MapReduce映射怎么定义

发布时间:2022-01-04 14:56:42 作者:iii
来源:亿速云 阅读:142

本篇内容主要讲解“MapReduce映射怎么定义”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“MapReduce映射怎么定义”吧!

  1. 定义

    map:俗称--映射,map之后元素个数不变

    如:

    x  --> (x,1) 
    y  --> (y,1)
    z  --> (z,1)

    reduce:俗称--规约,reduce之后元素个数<=当前个数(把key相同的元素,拉倒一起)

    如:

    x --> (x,1)  
    x --> (x,1)    -->>(x,1+1+1)
    x --> (x,1)

  2. mapReduce架构

    MR job提交到Yarn的工作流程==Yarn架构设计==Yarn工作流程

  3. shuffle

    map->shuffle->reduce

    理解:key相同的元素通过网络IO放到一起,进行业务计算


  4. 常用命令

    mapred

到此,相信大家对“MapReduce映射怎么定义”有了更深的了解,不妨来实际操作一番吧!这里是亿速云网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!

推荐阅读:
  1. MapReduce如何实现自定义排序
  2. MapReduce实现自定义分区的方法

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

mapreduce

上一篇:YARN和MapReduce的内存优化怎么配置

下一篇:JS的script标签属性有哪些

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》