在前文中,编译hadoop 是我们几乎已经配置好了jdk环境
这一文是在上文的基础上继续配置
1、将编译好的源码中的一些文件复制到我们所下载的hadoop/lib/native下替换掉
主要是因为下载的hadoop文件是在32位系统下编译的,而本人的是64位系统
2、配置ssh无密码登陆
ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。
1. 创建ssh-key,,这里我们采用rsa方式;
ssh-keygen -t rsa -P ""
2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;
cd ~/.ssh cat id_rsa.pub >> authorized_keys
3. 登录localhost;
ssh localhost
登陆后的信息如下:
Welcome to Ubuntu 14.04.1 LTS (GNU/Linux 3.13.0-32-generic x86_64) * Documentation: https://help.ubuntu.com/ 274 packages can be updated. 118 updates are security updates. Last login: Mon Feb 2 09:54:04 2015 from master
4. 执行退出命令;
exit
3、将hadoop文件夹复制到/usr/local/
4、配置环境变量
sudo gedit ~/.bashrc
在文件尾添加如下代码
export HADOOP_INSTALL=/usr/local/hadoop export PATH=$PATH:$HADOOP_INSTALL/bin export PATH=$PATH:$HADOOP_INSTALL/sbin export HADOOP_MAPRED_HOME=$HADOOP_INSTALL export HADOOP_COMMON_HOME=$HADOOP_INSTALL export HADOOP_HDFS_HOME=$HADOOP_INSTALL export YARN_HOME=$HADOOP_INSTALL export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_INSTALL/lib/native export HADOOP_OPTS="-Djava.library.path=$HADOOP_INSTALL/lib"
执行生效
source ~/.bashrc
5、修改一下配置文件
sudo gedit /usr/local/hadoop/etc/hadoop/hadoop-env.sh
将JAVA_HOME改为/usr/local/eclipse
点击保存退出
6、测试
进入hadoop文件夹目录
执行
bin/hadoop namenode -format
然后新建一个输入目录,执行wordcount程序
mkdir input cp README.txt input
bin/hadoop jar share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.6.0-sources.jar org.apache.hadoop.examples.WordCount input output
执行 cat output/*,查看字符统计结果
问题
1.ssh中“Host key verification failed.“
/etc/ssh/ssh_config)中配置:
StrictHostKeyChecking no
将ask 改为 no
并取消注释