部署hadoop集群
1.下载jdk1.6,从http://www.oracle.com/technetwork/java/javase/downloads/java-archive-downloads-javase6-419409.html获取jdk-6u45-linux-i586.bin。
上传到主机,并增加可执行权限:
chmod a+x jdk-6u45-linux-i586.bin
出现DONE后,表示安装完成。
2.配置java环境变量:
vi /home/hadoop/.bash_profile
export JAVA_HOME=/home/hadoop/jdk1.6.0_45
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib.
export PATH=$PATH:$JAVA_HOME/bin.
生效环境变量:. ./bash_profile
3.配置ssh
在所有结点主机上执行:
ssh-keygen -t rsa 然后一直按回车就OK;
cd .ssh
cp id_rsa.pub authorized_keys
然后把所有主机的authorized_keys复制到其他节点的authorized_keys中;
4.下载hadoop压缩包
在http://mirrors.hust.edu.cn/apache/hadoop/common/上可以下载。目前下载的是hadoop-1.2.1.tar.gz。
上传到master主机上后,解压:tar xzf hadoop-1.2.1.tar.gz
然后开始修改hadoop配置文件,conf/core-site.xml conf/hdfs-site.xml conf/mapred-site.xml
同时需要根据自己主机的情况配置JAVA_HOME和HADOOP_SSH_OPTS。
5.将修改好的hadoop复制到其他结点上,可以使用scp命令:
scp -P 22 hadoop-1.2.1.tar.gz(这个是配置好之后自己重新打包的压缩包) slave1@host1:/home/hadoop
6启动hadoop集群
bin/hadoop namenode -format
bin/start-all.sh
7.停掉hadoop集群
bin/stop-all.sh