• Hadoop基础(十九):MapReduce工作流程


    1.流程示意图,如图4-64-7所示

    4-6  MapReduce详细工作流程(一)

    4-7  MapReduce详细工作流程(二)

     

    2.流程详解

     

    上面的流程是整个MapReduce最全工作流程,但是Shuffle过程只是从7步开始16结束,具体Shuffle过程详解如下:

     

    1)MapTask收集我们的map()方法输出的kv对,放到内存缓冲区中

     

    2)从内存缓冲区不断溢出本地磁盘文件,可能会溢出多个文件

     

    3)多个溢出文件会被合并成大的溢出文件

     

    4)在溢出过程及合并的过程中,都要调用Partitioner进行分区和针对key进行排序

     

    5ReduceTask根据自己的分区号,去各个MapTask机器上取相应的结果分区数据

     

    6ReduceTask会取到同一个分区的来自不同MapTask的结果文件,ReduceTask会将这些文件再进行合并(归并排序)

     

    7)合并成大文件后,Shuffle的过程也就结束了,后面进入ReduceTask的逻辑运算过程(从文件中取出一个一个的键值对Group,调用用户自定义的reduce()方法)

    3注意

    Shuffle中的缓冲区大小会影响到MapReduce程序的执行效率,原则上说,缓冲区越大,磁盘io的次数越少,执行速度就越快。

    缓冲区的大小可以通过参数调整,参数:io.sort.mb默认100M

     

     

     

  • 相关阅读:
    env文件的作用
    Ubuntu 卸载wine
    Linux配置yaf3.x.x环境
    yaf中使用Cli模式,也就是定时器
    Yaf 在Bootstrap中注册变量,然后在其他地方进行使用!
    yaf 查看配置
    yaf配置通用函数
    一个严谨的接口调用
    后台基础表
    tensorflow环境搭建
  • 原文地址:https://www.cnblogs.com/qiu-hua/p/13337843.html
Copyright © 2020-2023  润新知