• 64位Ubuntu14.04安装hadoop2.6.0


    在前文中,编译hadoop 是我们几乎已经配置好了jdk环境

    这一文是在上文的基础上继续配置

    1、将编译好的源码中的一些文件复制到我们所下载的hadoop/lib/native下替换掉

    主要是因为下载的hadoop文件是在32位系统下编译的,而本人的是64位系统

    2、配置ssh无密码登陆

    ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

    1. 创建ssh-key,,这里我们采用rsa方式;

    ssh-keygen -t rsa -P ""

    2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;

    cd ~/.ssh  
    cat id_rsa.pub >> authorized_keys

    3. 登录localhost;

    ssh localhost

    登陆后的信息如下:

    Welcome to Ubuntu 14.04.1 LTS (GNU/Linux 3.13.0-32-generic x86_64)
    
     * Documentation:  https://help.ubuntu.com/
    
    274 packages can be updated.
    118 updates are security updates.
    
    Last login: Mon Feb  2 09:54:04 2015 from master

    4. 执行退出命令;

    exit 

    3、将hadoop文件夹复制到/usr/local/

    4、配置环境变量

    sudo gedit ~/.bashrc

    在文件尾添加如下代码

    export HADOOP_INSTALL=/usr/local/hadoop  
      
    export PATH=$PATH:$HADOOP_INSTALL/bin  
      
    export PATH=$PATH:$HADOOP_INSTALL/sbin  
      
    export HADOOP_MAPRED_HOME=$HADOOP_INSTALL  
      
    export HADOOP_COMMON_HOME=$HADOOP_INSTALL  
      
    export HADOOP_HDFS_HOME=$HADOOP_INSTALL  
      
    export YARN_HOME=$HADOOP_INSTALL  
      
    export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_INSTALL/lib/native  
      
    export HADOOP_OPTS="-Djava.library.path=$HADOOP_INSTALL/lib"  

    执行生效

    source ~/.bashrc  

    5、修改一下配置文件

    sudo gedit /usr/local/hadoop/etc/hadoop/hadoop-env.sh

    将JAVA_HOME改为/usr/local/eclipse

    点击保存退出

    6、测试

    进入hadoop文件夹目录

    执行

    bin/hadoop namenode -format

    然后新建一个输入目录,执行wordcount程序

    mkdir input  
    cp README.txt input
     bin/hadoop jar share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.6.0-sources.jar org.apache.hadoop.examples.WordCount input output  

    执行 cat output/*,查看字符统计结果

    问题

    1.ssh中“Host key verification failed.“

    /etc/ssh/ssh_config)中配置:

    StrictHostKeyChecking no

    将ask 改为 no

    并取消注释

     

  • 相关阅读:
    Maven------使用maven新建web项目出现问题 项目名称出现红色交叉
    Strut2------获取界面返回的session,application,parameter
    js之可迭代对象
    js字符串
    js之strict模式
    js系列之js简介
    python私有成员
    python之偏函数
    python之装饰器
    python之匿名函数
  • 原文地址:https://www.cnblogs.com/yulijunzj/p/4267286.html
Copyright © 2020-2023  润新知