• hadoop删除节点


    1.修改Master节点Hdfs-site.xml,增加dfs.hosts.exclude参数

    eg:

    <property>

    <name>dfs.hosts.exclude</name>

    <value>url/excludes(created file)</value>(如果集群slave机器少于3台,记得把副本改为2默认是3,因为多出来没用)

    </property>

    2.修改Master节点的yarn-site.xml,增加yarn.resourceManager.nodes.exclude-path参数

    <property>

    <name>yarn.resourceManager.nodes.exclude-path</name>

    <value>url/excludes(created file)</value>

    </property>

    3.修改Master的mapred-site.xml,增加mapreduce.jobtracker.hosts.exclude.filename(2.0)/1.0 是mapred.hosts.exclude

    <property>

    <name>mapreduce.jobtracker.hosts.exclude.filename</name>

    <value>url/excludes(created file)</value>

    </property>

    4.新建excludes文件添加需要删除的主机名

    create file(touch excludes 并且增加删除节点的hostname)

    5.执行refreshNodes使配置生效

    hdfs dfsadmin -refreshNodes(hdfs dfsadmin 可以查看帮助)

    yarn rmadmin -refreshNodes(yarn 可以查看帮助)

    hafs dfs -ls /url (查看文件副本数目和信息)

    刷新设置副本数hdfs dfs -setrep -w 2 -R /URL(该目录下)

    查询 hdfs dfs -ls -R /XX

  • 相关阅读:
    Attacklab markup
    Bomblab markup
    Diary & Solution Set 多校度假
    Solution 「CF 590E」Birthday
    MySQL 避坑宝典 来自小米的开源工具
    Hive SQL语法Explode 和 Lateral View
    「Ynoi2006」rsrams
    「Gym103069C」Random Shuffle
    「UOJ498」新年的追逐战
    「Nowhere」Helesta
  • 原文地址:https://www.cnblogs.com/yaohaitao/p/5793262.html
Copyright © 2020-2023  润新知