• Ubuntu上搭建Hadoop环境(单机模式+伪分布模式)


    首先要了解一下Hadoop的运行模式:

    单机模式(standalone)
           单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
    伪分布模式(Pseudo-Distributed Mode)
          伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。
          全分布模式(Fully Distributed Mode)
         Hadoop守护进程运行在一个集群上。


    版本:ubuntu 10.04.4,hadoop 1.0.2

    1.添加hadoop用户到系统用户

    安装前要做一件事——添加一个名为hadoop到系统用户,专门用来做Hadoop测试。

    1. ~$ sudo addgroup hadoop  
    2. ~$ sudo adduser --ingroup hadoop hadoop  

    现在只是添加了一个用户hadoop,它并不具备管理员权限,因此我们需要将用户hadoop添加到管理员组:

    1. ~$ sudo usermod -aG admin hadoop  


    2.安装ssh

    由于Hadoop用ssh通信,先安装ssh

    1. ~$ sudo apt-get install openssh-server  

    ssh安装完成以后,先启动服务:

    1. ~$ sudo /etc/init.d/ssh start   

    启动后,可以通过如下命令查看服务是否正确启动:

    1. ~$ ps -e | grep ssh  


    作为一个安全通信协议,使用时需要密码,因此我们要设置成免密码登录,生成私钥和公钥:

    1. hadoop@scgm-ProBook:~$ ssh-keygen -t rsa -P ""  


    因为我已有私钥,所以会提示是否覆盖当前私钥。第一次操作时会提示输入密码,按Enter直接过,这时会在~/home/{username}/.ssh下生成两个文件:id_rsa和id_rsa.pub,前者为私钥,后者为公钥,现在我们将公钥追加到authorized_keys中(authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容):

    1. ~$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys  

    现在可以登入ssh确认以后登录时不用输入密码:

    1. ~$ ssh localhost  

    登出:

    1. ~$ exit  
    修改.ssh目录的权限以及authorized_keys 的权限(这个必须修改,要不然还是需要密码)
     
    sudo chmod 644 ~/.ssh/authorized_keys
     
    sudo chmod 700 ~/.ssh
     

    第二次登录:

    1. ~$ ssh localhost  


    登出:

    1. ~$ exit  

    这样以后登录就不用输入密码了。


    3.安装Java

    1. ~$ sudo apt-get install openjdk-6-jdk  
    2. ~$ java -version  



    4.安装hadoop 1.0.2

    官网下载hadoop源文件,这里选择hadoop 1.0.2

    解压并放到你希望的目录中。我是放到/usr/local/hadoop

    1. ~$ sudo tar xzf hadoop-1.0.2.tar.gz  
    2. ~$ sudo mv hadoop-1.0.2 /usr/local/hadoop  

    要确保所有的操作都是在用户hadoop下完成的:

    1. ~$ sudo chown -R hadoop:hadoop /usr/local/hadoop  


    5.设定hadoop-env.sh(Java 安装路径)

    进入hadoop目录,打开conf目录下到hadoop-env.sh,添加以下信息:
                export JAVA_HOME=/usr/lib/jvm/java-6-openjdk (视你机器的java安装路径而定)
                export HADOOP_HOME=/usr/local/hadoop
                export PATH=$PATH:/usr/local/hadoop/bin



    并且,让环境变量配置生效source

    1. ~$ source /usr/local/hadoop/conf/hadoop-env.sh  

    至此,hadoop的单机模式已经安装成功。



    于是,运行一下hadoop自带的例子WordCount来感受以下MapReduce过程:

    在hadoop目录下新建input文件夹

    1. ~$ mkdir input  

    将conf中的所有文件拷贝到input文件夹中

    1. ~$ cp conf/* input<span style="font-family: Arial, Helvetica, sans-serif; white-space: normal; background-color: rgb(255, 255, 255); "> </span>  

    运行WordCount程序,并将结果保存到output中

    1. ~$ bin/hadoop jar hadoop-0.20.2-examples.jar wordcount input output  


    运行

    1. ~$ cat output/*  

    你会看到conf所有文件的单词和频数都被统计出来。


    下面是伪分布模式需要的一些配置,继续。

    6.设定*-site.xml
    这里需要设定3个文件:core-site.xml,hdfs-site.xml,mapred-site.xml,都在/usr/local/hadoop/conf目录下
    core-site.xml:  Hadoop Core的配置项,例如HDFS和MapReduce常用的I/O设置等。
    hdfs-site.xml:  Hadoop 守护进程的配置项,包括namenode,辅助namenode和datanode等。
    mapred-site.xml: MapReduce 守护进程的配置项,包括jobtracker和tasktracker。    

    首先在hadoop目录下新建几个文件夹

    1. ~/hadoop$ mkdir tmp  
    2. ~/hadoop$ mkdir hdfs  
    3. ~/hadoop$ mkdir hdfs/name  
    4. ~/hadoop$ mkdir hdfs/data  


    接下来编辑那三个文件:

    core-site.xml:

    1. <configuration>  
    2.     <property>  
    3.         <name>fs.default.name</name>  
    4.         <value>hdfs://localhost:9000</value>  
    5.     </property>  
    6.     <property>  
    7.         <name>hadoop.tmp.dir</name>  
    8.         <value>/usr/local/hadoop/tmp</value>  
    9.     </property>  
    10. </configuration>  

    hdfs-site.xml:

    1. <configuration>  
    2.     <property>  
    3.         <name>dfs.replication</name>  
    4.         <value>1</value>  
    5.     </property>  
    6.     <property>  
    7.         <name>dfs.name.dir</name>  
    8.         <value>/usr/local/hadoop/hdfs/name</value>  
    9.     </property>  
    10.     <property>  
    11.         <name>dfs.data.dir</name>  
    12.         <value>/usr/local/hadoop/hdfs/data</value>  
    13.     </property>  
    14. </configuration>  

    mapred-site.xml:

    1. <configuration>  
    2.     <property>  
    3.         <name>mapred.job.tracker</name>  
    4.         <value>localhost:9001</value>  
    5.     </property>  
    6. </configuration>  


    7.格式化HDFS

    通过以上步骤,我们已经设定好Hadoop单机测试到环境,接着就是启动Hadoop到相关服务,格式化namenode,secondarynamenode,tasktracker:

    1. ~$ source /usr/local/hadoop/conf/hadoop-env.sh  
    2. ~$ hadoop namenode -format  




    8.启动Hadoop

    接着执行start-all.sh来启动所有服务,包括namenode,datanode,start-all.sh脚本用来装载守护进程。

    1. hadoop@ubuntu:/usr/local/hadoop$ cd bin  
    2. hadoop@ubuntu:/usr/local/hadoop/bin$ start-all.sh  


    用Java的jps命令列出所有守护进程来验证安装成功

    1. hadoop@ubuntu:/usr/local/hadoop$ jps  

    出现如下列表,表明成功


    9.检查运行状态
    所有的设置已完成,Hadoop也启动了,现在可以通过下面的操作来查看服务是否正常,在Hadoop中用于监控集群健康状态的Web界面:
    http://localhost:50030/     - Hadoop 管理介面
    http://localhost:50060/     - Hadoop Task Tracker 状态
    http://localhost:50070/     - Hadoop DFS 状态

    Hadoop 管理介面:


    Hadoop Task Tracker 状态:


    Hadoop DFS 状态:


    至此,hadoop的伪分布模式已经安装成功,于是,再次在伪分布模式下运行一下hadoop自带的例子WordCount来感受以下MapReduce过程:

    这时注意程序是在文件系统dfs运行的,创建的文件也都基于文件系统:

    首先在dfs中创建input目录

    1. hadoop@ubuntu:/usr/local/hadoop$ bin/hadoop dfs -mkdir input  

    将conf中的文件拷贝到dfs中的input

    1. hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -copyFromLocal conf/* input  

    在伪分布式模式下运行WordCount

    1. hadoop@ubuntu:/usr/local/hadoop$ hadoop jar hadoop-examples-1.0.2.jar wordcount input output  

    可看到以下过程


    显示输出结果

    1. hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -cat output/*  


    当Hadoop结束时,可以通过stop-all.sh脚本来关闭Hadoop的守护进程

    1. hadoop@ubuntu:/usr/local/hadoop$ bin/stop-all.sh   


    10.结语

         在ubuntu上搭建hadoop成功!有点小兴奋,已经迫不及待的想开始做一些相关的开发及深入理解hadoop内核实现,继续加油咯!

    PS:单机模式和伪分布模式均用于开发和调试的目的。真实Hadoop集群的运行采用的是第三种模式,即全分布模式。待续。


    本文参考了这两位同学的文章,感谢分享阿!

    http://blog.sina.com.cn/s/blog_61ef49250100uvab.html

    http://www.cnblogs.com/welbeckxu/category/346329.html

  • 相关阅读:
    _MainTex_TexelSize
    资源处理参考
    unity 判断一个trans在不在sceen内
    DX11 绘制三角形 判断顺时针
    int型转LPCWSTR在MessageBox上显示
    sizeof struct
    buffer和cache
    DX11 三维空间: depth信息与stencil信息
    DX11 纹理的添加
    hlsl SV_POSITION
  • 原文地址:https://www.cnblogs.com/kxdblog/p/4034279.html
Copyright © 2020-2023  润新知