• Yarn工作机制


    Yarn工作机制

    概述

    (0)Mr 程序提交到客户端所在的节点。
    (1)Yarnrunner 向 Resourcemanager 申请一个 Application。
    (2)rm将该应用程序的资源路径和ApplicationId返回给 yarnrunner。
    (3)该程序将运行所需资源提交到 HDFS 上。
    (4)程序资源提交完毕后,申请运行 mrAppMaster。
    (5)RM 将用户的请求初始化成一个 task。
    (6)其中一个 NodeManager 领取到 task 任务。
    (7)该 NodeManager 创建容器 Container,并产生 MRAppmaster。
    (8)Container 从 HDFS 上拷贝资源到本地。
    (9)MRAppmaster 向 RM 申请运行 maptask 资源。
    (10)RM 将运行 maptask 任务分配给另外两个 NodeManager,另两个 NodeManager 分
    别领取任务并创建容器。
    (11)MR 向两个接收到任务的 NodeManager 发送程序启动脚本,这两个 NodeManager
    分别启动 maptask,maptask 对数据分区排序。
    (12)MrAppMaster 等待所有 maptask 运行完毕后,向 RM 申请容器,运行 reduce task。
    (13)reduce task 向 maptask 获取相应分区的数据。
    (14)程序运行完毕后,MR 会向 RM 申请注销自己。
    

    本博客仅为博主学习总结,感谢各大网络平台的资料。蟹蟹!!

  • 相关阅读:
    win10 uwp 如何判断一个对象被移除
    win10 uwp 如何判断一个对象被移除
    上传代码 CodePlex
    上传代码 CodePlex
    如何使用 Q#
    让 AE 输出 MPEG
    让 AE 输出 MPEG
    解决 vs 出现Error MC3000 给定编码中的字符无效
    解决 vs 出现Error MC3000 给定编码中的字符无效
    PHP date_date_set() 函数
  • 原文地址:https://www.cnblogs.com/shaofeer/p/11154306.html
Copyright © 2020-2023  润新知