• HADOOP 配置Tip 配置hadoop.tmp.dir


       先说说,场景,在开发环境中,由于意外断电.重新启动HADOOP MASTER 结点.

    启动HADOOP START-ALL.SH

    grid$ start-all.sh

    查看http:\\hdnode1m:50070\ 无法打开网页, HADOOP 启动失败,回过头去看日志文件。

    打开 ${hadoop_home}\logs\hadoop-grid-namenode-hdnode1m.log

    出现如下错误:

    View Code
    2012-10-12 10:06:54,804 INFO org.apache.hadoop.hdfs.server.common.Storage: Storage directory /tmp/hadoop-grid/dfs/name does not exist.
    2012-10-12 10:06:54,806 ERROR org.apache.hadoop.hdfs.server.namenode.FSNamesystem: FSNamesystem initialization failed.
    org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-grid/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible.
        at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:290)
        at org.apache.hadoop.hdfs.server.namenode.FSDirectory.loadFSImage(FSDirectory.java:87)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.initialize(FSNamesystem.java:311)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.<init>(FSNamesystem.java:292)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:201)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:279)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:956)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:965)
    2012-10-12 10:06:54,819 INFO org.apache.hadoop.ipc.Server: Stopping server on 9000

    很清楚了 ,/tmp/hadoop-grid/dfs/name is in an inconsistent state: storage directory does not exist,

    1.具体愿因是 LINUX 系统,在服务重启后,/tmp 下的目录被清空,Hadoop无法找到dfs/name 这个dfs文件系统的域名空间文件。

     hadoop.tmp.dir 是 hadoop文件系统依赖的基本配置,很多配置路径都依赖它,它的默认位置在/tmp/{$user}下面。

    2.解决办法:

     在core-site.xml中配置 hadoop.tmp.dir 路径到持久化目录。

    View Code
    <configuration>
    <property>
    <name>fs.default.name</name>
    <value>hdfs://hdnode1m:9000</value>
    </property>
    <property>
    <name>hadoop.tmp.dir</name>
    <value>/home/grid/disk</value>
    </property>
    </configuration>
    ~

    3.由于重新配置了hadoop.tmp.dir 目录,意味着,必须重新格式hdfs

    #bin/hadoop namenode -format

    4.后果

    重新格式化了文件系统,自己想想吧,以前所有的文件都没有了。

    强烈建议大家,在安装配置HADOOP的时候,一定要更改hadoop.tmp.dir .

  • 相关阅读:
    Redis大集群扩容性能优化实践
    INET_ATON(expr)
    无类别域间路由 Classless Inter-Domain Routing CIDR 可变长子网掩码 VLSM Variable Length Subnet Mask
    把[]byte转成string
    不用 H5,闲鱼 Flutter 如何玩转小游戏?
    重度使用Flutter研发模式下的页面性能优化实践
    Flutter 打包与转译 编译 Flutter 即将占领整个 Web 开发
    interface {} is uint, not []uint8
    MySQL查看数据库性能常用命令_Running_Tiger的博客-CSDN博客_mysql 查看数据库 https://blog.csdn.net/qq_41455420/article/details/82802090
    vivo全球商城时光机
  • 原文地址:https://www.cnblogs.com/jerryxing/p/2721019.html
Copyright © 2020-2023  润新知