Mapreduce中怎么设置Map的数量

这篇文章将为大家详细讲解有关Mapreduce中怎么设置Map的数量,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。

让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:域名申请、网络空间、营销软件、网站建设、勐海网站维护、网站推广。

描述如下:

    在新版MapReduce 中即 MR on yarn中,不支持设置Map数量。

    Map的数量是由MinInputSplitSize决定的,公式:

    Map的数量 = TotalSize / MinInputSplitSize

    要想控制Map的数量,可以通过控制MinInputSplitSize大小来控制Map数量。

        如果设置的MinInputSplitSize大于BlockSize,MinInputSplitSize即为设置的值; 反之设置的MinInputSplitSize小于BlockSize,MinInputSplitSize的值会置为BlockSize。

        如果保持默认设置的话,MinInputSplitSize则为BlockSize,

关于Mapreduce中怎么设置Map的数量就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。


分享标题:Mapreduce中怎么设置Map的数量
URL地址:http://scjbc.cn/article/jpceog.html

其他资讯