• Hadoop分布式平台搭建


    环境:CentOS 7.4 (1708  DVD)

    工具:MobaXterm

    一、 安装

    1. 将hadoop安装包上传到/usr/local目录下,将其解压并重命名。

    2. 配置hadoop的环境变量并source。

    二、 基本配置

    1. 切换到配置文件目录下。

    2. 修改hadoop-env.sh文件。配置JAVA_HOME为jdk的安装目录。

    3. 修改core-site.xml文件。hadoop.tmp.dir为缓存目录。配置完成后手动创建hdfs/dir目录(理论上会自动创建)。

    4. 修改hdfs-site.xml文件。配置完成后手动创建name和data目录(理论上会自动创建)。

    5. 修改mapre-site.xml文件。初始状态下该文件只有模板,将其改名后进行修改。

    6. 修改yarn-site.xml文件。

    7. 修改slaves文件。

    三、 分发文件

    1. 使用scp命令将hadoop安装目录和profile一并复制到slave1和slave2上,在slave1和slave2上source一下新的profile。

    四、 启动

    1. 对三台主机进行初始化操作。

    2. 启动。master使用start-dfs.sh命令,slave2使用start-yarn.sh命令。也可以直接在master上start-all.sh。反之使用stop-all.sh关闭平台。

    3. 在三台主机上使用jps命令验证启动结果。

  • 相关阅读:
    MySql数据库水平扩展过程
    (转)MySQL数据库水平切分的实现原理解析
    SVN安装使用
    servlet基础
    数据库读写分离的性能分析
    java的可变长参数
    java消息服务
    static/final成员与多态
    商业软件与开源软件
    托管堆
  • 原文地址:https://www.cnblogs.com/charon233/p/13683470.html
Copyright © 2020-2023  润新知