您好,登录后才能下订单哦!
这篇文章将为大家详细讲解有关Mapreduce中怎么设置Map的数量,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。
描述如下:
在新版MapReduce 中即 MR on yarn中,不支持设置Map数量。
Map的数量是由MinInputSplitSize决定的,公式:
Map的数量 = TotalSize / MinInputSplitSize
要想控制Map的数量,可以通过控制MinInputSplitSize大小来控制Map数量。
如果设置的MinInputSplitSize大于BlockSize,MinInputSplitSize即为设置的值; 反之设置的MinInputSplitSize小于BlockSize,MinInputSplitSize的值会置为BlockSize。
如果保持默认设置的话,MinInputSplitSize则为BlockSize,
关于Mapreduce中怎么设置Map的数量就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。