• mapreduce map 的个数


      在map阶段读取数据前,FileInputFormat会将输入文件分割成split。split的个数决定了map的个数。影响map个数(split个数)的主要因素有:

      1) 文件的大小。当块(dfs.block.size)为128m时,如果输入文件为128m,会被划分为1个split;当块为256m,会被划分为2个split。

      2) 文件的个数。FileInputFormat按照文件分割split,并且只会分割大文件,即那些大小超过HDFS块的大小的文件。如果HDFS中dfs.block.size设置为128m,而输入的目录中文件有100个,则划分后的split个数至少为100个。

      3) splitsize的大小。分片是按照splitszie的大小进行分割的,一个split的大小在没有设置的情况下,默认等于hdfs block的大小。但应用程序可以通过两个参数来对splitsize进行调节

        InputSplit=Math.max(minSize, Math.min(maxSize, blockSize)

        其中:

          minSize=mapred.min.split.size

          maxSize=mapred.max.split.size

        我们可以在MapReduce程序的驱动部分添加如下代码:

          TextInputFormat.setMinInputSplitSize(job,1024L); // 设置最小分片大小

          TextInputFormat.setMaxInputSplitSize(job,1024×1024×10L); // 设置最大分片大小

    看下源码:

    hadooop提供了一个设置map个数的参数mapred.map.tasks,我们可以通过这个参数来控制map的个数。但是通过这种方式设置map的个数,并不是每次都有效的。原因是mapred.map.tasks只是一个hadoop的参考数值,最终map的个数,还取决于其他的因素。

         为了方便介绍,先来看几个名词:
    block_size : hdfs的文件块大小,默认为128M,可以通过参数dfs.block.size设置
    total_size : 输入文件整体的大小
    input_file_num : 输入文件的个数

    (1)默认map个数

         如果不进行任何设置,默认的map个数是和blcok_size相关的。
         default_num = total_size / block_size;
     
    (2)期望大小
         可以通过参数mapred.map.tasks来设置程序员期望的map个数,但是这个个数只有在大于default_num的时候,才会生效。
         goal_num = mapred.map.tasks;
     
    (3)设置处理的文件大小
         可以通过mapred.min.split.size 设置每个task处理的文件大小,但是这个大小只有在大于block_size的时候才会生效。
         split_size = max(mapred.min.split.size, block_size);
         split_num = total_size / split_size;
    (4)计算的map个数
    compute_map_num = min(split_num,  max(default_num, goal_num))
     
         除了这些配置以外,mapreduce还要遵循一些原则。 mapreduce的每一个map处理的数据是不能跨越文件的,也就是说min_map_num >= input_file_num。 所以,最终的map个数应该为:
         final_map_num = max(compute_map_num, input_file_num)
     
         经过以上的分析,在设置map个数的时候,可以简单的总结为以下几点:
    (1)如果想增加map个数,则设置mapred.map.tasks 为一个较大的值。
    (2)如果想减小map个数,则设置mapred.min.split.size 为一个较大的值。
    (3)如果输入中有很多小文件,依然想减少map个数,则需要将小文件merger为大文件,然后使用准则2。

    一起交流进步.扫描下方QQ二维码即可

  • 相关阅读:
    centos6.5+mono+nginx跑asp.net
    YYHS-手机信号
    NOIP2017提高组初赛
    BZOJ-4915-简单的数字题
    BZOJ-5055-膜法师(离散化+树状数组)
    YYHS-Super Big Stupid Cross(二分+扫描线+平衡树)
    BZOJ-1008-[HNOI2008]越狱(快速幂)
    BZOJ-1192-[HNOI2006]鬼谷子的钱袋
    POJ-2417-Discrete Logging(BSGS)
    BZOJ-1010-[HNOI2008]玩具装箱toy(斜率优化)
  • 原文地址:https://www.cnblogs.com/bj-xiaodao/p/10025781.html
Copyright © 2020-2023  润新知