• Ubuntu 12.04搭建hadoop单机版环境


    前言:

      本文章是转载的,自己又加上了一些自己的笔记整理的

      详细地址请查看Ubuntu 12.04搭建hadoop单机版环境

    Hadoop的三种运行模式

    独立模式:无需任何守护进程,所有程序都在单个JVM上执行。

    伪分布模式:Hadoop守护进程运行在本地机器上,模拟一个小规模的集群。

    全分布模式:Hadoop守护进程运行在一个集群中。

    一. 安装Ubuntu;

    二. 在Ubuntu下创建hadoop用户组和用户;

    1. 创建hadoop用户组:

    sudo groupadd hadoop

    如图:

    Ubuntu <wbr>12.04搭建hadoop单机版环境

    2. 创建hadoop用户:

    sudo useradd -ms /bin/bash -g hadoop hadoop

    如图:

    Ubuntu <wbr>12.04搭建hadoop单机版环境

    3. 给hadoop用户添加sudo权限,打开/etc/sudoers文件:

    sudo gedit /etc/sudoers

    按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。

    在root   ALL=(ALL:ALL)   ALL下添加hadoop   ALL=(ALL:ALL)  ALL,

    hadoop  ALL=(ALL:ALL) ALL

    如图:

    Ubuntu <wbr>12.04搭建hadoop单机版环境

    三. 在Ubuntu下安装JDK

    使用如下命令执行即可:

    sudo apt-get install openjdk-6-jre

    (这里我自己下载的jdk,具体的安装方法见我的另一篇Linux下安装JDK和Eclipse)

    如图:

    Ubuntu <wbr>12.04搭建hadoop单机版环境

    四. 修改机器名

    每当ubuntu安装成功时,我们的机器名都默认为:ubuntu ,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。

    1. 打开/etc/hostname文件:

    sudo gedit /etc/hostname

    2. 将/etc/hostname文件中的ubuntu改为你想取的机器名。这里我取"dubin-ubuntu"。 重启系统后才会生效。

    3. 为了彻底的改变你的主机名,还需要更改vim /etc/hosts,将其中的

    127.0.1.1改成和你hostname中一样的名字

    五. 安装ssh服务

    这里ssh可以实现远程登录和管理,具体可以参考其他相关资料。安装ssh的目的就是为了启动守护进行,且必须是无密码登陆的。

    安装openssh-server,

    sudo apt-get install ssh openssh-server

    这时假设您已经安装好了ssh,您就可以进行第六步了哦~

    六、 建立ssh无密码登录本机

    首先要转换成hadoop用户,执行以下命令:

    su - hadoop

    如图:

    Ubuntu <wbr>12.04搭建hadoop单机版环境

    ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

    1. 创建ssh-key,,这里我们采用rsa方式:

    ssh-keygen -t rsa -P ""

    如图:

    Ubuntu <wbr>12.04搭建hadoop单机版环境

    (注:回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的)

    2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的:

    cd ~/.ssh
    cat id_rsa.pub >> authorized_keys

    如图:

    Ubuntu <wbr>12.04搭建hadoop单机版环境

    (完成后就可以无密码登录本机了。)

    3. 登录localhost:

    ssh localhost

    如图:

    ( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)

    4. 执行退出命令:

    exit

    七. 安装hadoop

    这里我的安装版本为:hadoop-1.1.2(http://www.apache.org/dyn/closer.cgi/hadoop/common/  

    1. 假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录 /usr/local/下:

    sudo cp hadoop-1.1.2.tar.gz /usr/local/

    2. 解压hadoop-1.1.2.tar.gz:

    cd /usr/local
    sudo tar -zxf hadoop-1.1.2.tar.gz

    3. 将解压出的文件夹改名为hadoop:

    sudo mv hadoop-1.1.2 hadoop1.1.2

    4. 将该hadoop1.1.2文件夹的属主用户设为hadoop:

    sudo chown -R hadoop:hadoop hadoop1.1.2

    5. 打开hadoop/conf/hadoop-env.sh文件:

    vim hadoop1.1.2/conf/hadoop-env.sh

    6. 配置conf/hadoop-env.sh(找到#export JAVA_HOME=...,去掉#,然后加上本机jdk的路径):

    export JAVA_HOME=/usr/lib/jvm/java-6-openjdk

    这个主要就是为了配置hadoop运行环境的jdk路径

    7. 打开conf/core-site.xml文件:

    sudo gedit hadoop/conf/core-site.xml

    编辑如下:

    
    

    版权声明:本文为博主原创文章,未经博主允许不得转载。

  • 相关阅读:
    dubbo学习总结二 服务端
    dubbo学习总结一 API
    mybatis中的#和$的区别
    Spring boot配置注意事项
    dubbo 学习
    框架发展过程
    使用OkHttp模拟登陆LeetCode
    Java设计模式——建造者模式(创建型模式)
    Java设计模式——单例模式(创建型模式)
    Java中static的用法
  • 原文地址:https://www.cnblogs.com/jamesf/p/4751640.html
Copyright © 2020-2023  润新知