• Hadoop 启动/停止集群和节点的命令


    集群
    启动/停止Hadoop集群:start-all.sh    stop-all.sh

    1) 启动NameNode, DataNode

    2) 启动JournalNode, JournalNode在hdfs-site.xml中指定edits log存储的位置,主备NameNode共享数据,方便同步

    3) 启动DFSZKFailoverController, HA会启用ZooKeeper Failover Controller

    4) 启动YARN守护进程ResourceManager, NodeManager

    启动/停止HDFS集群:start-dfs.sh    stop-dfs.sh

    1) 启动NameNode, DataNode

    2) 启动JournalNode, JournalNode在hdfs-site.xml中指定edits log存储的位置,主备NameNode共享数据,方便同步

    3) 启动DFSZKFailoverController, HA会启用ZooKeeper Failover Controller

    启动/停止YARN集群:start-yarn.sh    stop-yarn.sh

    据说如果ResourceManager和NameNode不在同一台机器上,那NameNode上无法直接使用start-yarn.sh启动ResourceManager,但NodeManager可以启动,ResourceManager需要在ResourceManager节点上启动,这一点待考证

    节点
    启动NameNode: hadoop-daemon.sh start namenode

    启动DataNode: hadoop-daemon.sh start datanode

    启动JournalNode节点: hadoop-daemon.sh start journalnode

    启动zkfc节点:hadoop-daemon.sh start zkfc

    启动ResourceManager: yarn-daemon.sh start resourcemanager

    启动NodeManager: yarn-daemon.sh start nodemanager

    启动ZooKeeper节点:zkServer.sh start    启动QuorumPeerMain进程

    查看ZooKeeper节点状态:zkServer.sh status    查看leader和follower状态

    格式化HDFS: hdfs namenode -format

    格式化ZKFC:hdfs zkfc -formatZK

    查看NameNode和DataNode信息: hdfs dfsadmin -report

    查看高可用NameNode状态: hdfs haadmin -getServiceState nn1 (active/standby)

    Web界面端口
    NameNode 50070

    DataNode 50075

    ResourceManager 8088

    NodeManager 8042

    更多端口参考

    安装,查看等常用命令 

    查看进程:jps

    kill进程:kill -9 pid

    内容追加到文件:echo content > file, 如 echo 1 > myid

    SSH拷贝:scp,如scp -r /usr/local/hadoop master:/usr/local

    关闭防火墙:

    查看状态systemctl status firewalld

    关闭防火墙systemctl stop firewalld

    开机禁用防火墙systemctl disable firewalld

    配置免登录:

    ssh-keygen -t rsa

    ssh-copy-id -i host01

    Hadoop Shell命令   http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html
     
    原文链接:https://blog.csdn.net/weixin_42129080/article/details/80738631

  • 相关阅读:
    定时器Timer的使用
    Queue和BlockingQueue的使用以及使用BlockingQueue实现生产者-消费者
    ReentrantReadWriteLock读写锁的使用
    利用Lucene与Nutch构建简单的全文搜索引擎
    再见了,DM
    互联网公司高并发图片(缩略图)处理中间层服务架构设计一
    poj 3131 双向搜索+hash判重
    [置顶] linux常用命令大全
    堆排序
    iOS UIView非常用方法及属性详解
  • 原文地址:https://www.cnblogs.com/isme-zjh/p/11558181.html
Copyright © 2020-2023  润新知