• 如何在Ubuntu 20.04 LTS上安装Apache Hadoop?


    在本教程中,我们将向您展示如何在香港服务器www.a5idc.net的Ubuntu 20.04 LTS系统上安装Apache Hadoop。Apache Hadoop是一个开放源代码框架,用于分布式存储以及在商用硬件上运行的计算机集群上的大数据的分布式处理。库本身不依赖于硬件来提供高可用性,而是被设计用来检测和处理应用程序层的故障,因此可以在计算机集群的顶部提供高可用性服务,而每台计算机都容易出现故障。
    步骤1.首先,通过apt在终端中运行以下命令来确保所有系统软件包都是最新的。
    sudo apt update
    sudo apt upgrade
    步骤2.安装Java。
    为了运行Hadoop,您需要在计算机上安装Java 8。为此,请使用以下命令:
    sudo apt install default-jdk default-jre
    安装后,可以使用以下命令验证Java的安装版本:
    java -version
    步骤3.创建Hadoop用户。
    首先,使用以下命令创建一个名为Hadoop的新用户:
    sudo addgroup hadoopgroup
    sudo adduser —ingroup hadoopgroup hadoopuser
    接下来,使用Hadoop用户登录并使用以下命令生成SSH密钥对:
    su - hadoopuser
    ssh-keygen -t rsa
    cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
    chmod 0600 ~/.ssh/authorized_keys
    之后,使用以下命令验证无密码的SSH:
    ssh localhost
    在没有密码的情况下登录后,可以继续执行下一步。
    步骤4.在Ubuntu 20.04上安装Apache Hadoop。
    现在,我们下载Apache Hadoop的最新稳定版本,在撰写本文时,它是3.3.0版本:
    su - hadoop
    wget https://downloads.apache.org/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz
    tar -xvzf hadoop-3.3.0.tar.gz
    接下来,将提取的目录移至:/usr/local/
    sudo mv hadoop-3.3.0 /usr/local/hadoop
    sudo mkdir /usr/local/hadoop/logs
    我们将Hadoop目录的所有权更改为Hadoop:
    sudo chown -R hadoop:hadoop /usr/local/hadoop
    步骤5.配置Apache Hadoop。
    设置环境变量。编辑 ~/.bashrc 文件,并在文件末尾添加以下数值。
    nano ~/.bashrc
    添加以下行:
    export HADOOP_HOME=/usr/local/hadoop
    export HADOOP_INSTALL=$HADOOP_HOME
    export HADOOP_MAPRED_HOME=$HADOOP_HOME
    export HADOOP_COMMON_HOME=$HADOOP_HOME
    export HADOOP_HDFS_HOME=$HADOOP_HOME
    export YARN_HOME=$HADOOP_HOME
    export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
    export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin
    export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib/native"
    将环境变量应用于当前运行的会话:
    source ~/.bashrc
    接下来,您需要在hadoop-env.sh中定义Java环境变量,以配置YARN、HDFS、MapReduce和Hadoop相关项目设置。
    sudo nano $HADOOP_HOME/etc/hadoop/hadoop-env.sh
    添加以下行:
    export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64
    export HADOOP_CLASSPATH+=" $HADOOP_HOME/lib/*.jar"
    现在,您可以使用以下命令来验证Hadoop版本:
    hadoop version
    步骤6.配置文件。core-site.xml
    在文本编辑器中打开文件:core-site.xml
    sudo nano $HADOOP_HOME/etc/hadoop/core-site.xml
    添加以下行:
    <configuration>
    <property>
    <name>fs.default.name</name>
    <value>hdfs://0.0.0.0:9000</value>
    <description>The default file system URI</description>
    </property>
    </configuration>
    步骤7.配置文件。hdfs-site.xml
    使用以下命令打开文件进行编辑:hdfs-site.xml
    sudo nano $HADOOP_HOME/etc/hadoop/hdfs-site.xml
    添加以下行:
    <configuration>
    <property>
    <name>dfs.replication</name>
    <value>1</value>
    </property>

    <property>
    <name>dfs.name.dir</name>
    <value>file:///home/hadoop/hdfs/namenode</value>
    </property>

    <property>
    <name>dfs.data.dir</name>
    <value>file:///home/hadoop/hdfs/datanode</value>
    </property>
    </configuration>
    步骤8.配置文件。mapred-site.xml
    使用以下命令访问文件:mapred-site.xml
    sudo nano $HADOOP_HOME/etc/hadoop/mapred-site.xml
    添加以下行:
    <configuration>
    <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
    </property>
    </configuration>
    步骤9.配置文件。yarn-site.xml
    在文本编辑器中打开文件:yarn-site.xml
    sudo nano $HADOOP_HOME/etc/hadoop/yarn-site.xml
    添加以下行:
    <configuration>
    <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
    </property>
    </configuration>
    步骤10.格式化HDFS NameNode。
    现在,我们以Hadoop用户身份登录,并使用以下命令格式化HDFS NameNode:
    su - hadoop
    hdfs namenode -format
    步骤11.启动Hadoop集群。
    现在,使用以下命令启动NameNode和DataNode:
    start-dfs.sh
    然后,启动YARN资源和节点管理器:
    start-yarn.sh
    你应该观察输出,以确定它是否尝试在从属节点上逐个启动数据节点。使用'jps'命令检查所有的服务是否被启动。
    jps
    步骤12.访问Apache Hadoop。
    默认端口号为9870,您可以访问Hadoop NameNode用户界面:http://您的服务器-ip:9870

    默认端口9864用于直接从浏览器访问单个DataNodes。http://your-server-ip:9864

    YARN资源管理器可以通过8088端口访问。http://your-server-ip:808

    至此,您已成功安装Hadoop。

  • 相关阅读:
    开发者和设计师:为何我们不能好好相处?(转载)
    PHP ACCESS
    来自腾讯的session跨域,跨服代码
    php大括号妙用。
    php mysql 记录集的操作
    开始我的代码笔记
    收藏一个php用的一个页码按钮类
    修改过后的数字英文字符生成图片代码
    搜藏一点php session 常用方法
    php包含漏洞收集程序代码
  • 原文地址:https://www.cnblogs.com/a5idc/p/14072080.html
Copyright © 2020-2023  润新知