hadoop配置

配置文件官网：https://hadoop.apache.org/docs/r2.6.1/ （可以是其他版本）

1、配置JDK

需要配置JDK的有hadoop-env.xml mapred-env.xml yarn-env.xml

分别在对应 的 文件中添加或者更新Java_home路径，export JAVA_HOME=/opt/lagou/servers/jdk1.8.0_231

2、配置core-site.xml 

<property>

<name>fs.defaultFS</name>

<value>hdfs://linux121:9000</value>

</property>

<!-- 指定Hadoop运行时产生文件的存储目录 -->

<property>

<name>hadoop.tmp.dir</name>

<value>/opt/lagou/servers/hadoop-2.9.2/data/tmp</value>

</property>

更多配置见：https://hadoop.apache.org/docs/r2.6.1/hadoop-project-dist/hadoop-common/core-default.xml

 

3、配置hdfs-site.xml

<!-- 指定Hadoop辅助名称节点主机配置 -->

<property>

<name>dfs.namenode.secondary.http-address</name>

<value>linux123:50090</value>

</property>

<!--副本数量 -->

<property>

<name>dfs.replication</name>

<value>3</value>

</property>

更多配置见：https://hadoop.apache.org/docs/r2.6.1/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

4、mapred-site.xml

<!-- 指定MR运行在Yarn上 -->

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

<!-- 历史服务器端地址 -->

<property>

<name>mapreduce.jobhistory.address</name>

<value>linux121:10020</value>

</property>

<!-- 历史服务器web端地址 -->

<property>

<name>mapreduce.jobhistory.webapp.address</name>

<value>linux121:19888</value>

</property>

更多配置见：https://hadoop.apache.org/docs/r2.6.1/hadoop-mapreduce-client/hadoop-mapreduce-client-core/mapred-default.xml

5、配置yarn-site.xml

<!-- 指定YARN的ResourceManager的地址 -->

<property>

<name>yarn.resourcemanager.hostname</name>

<value>linux123</value>

</property>

<!-- Reducer获取数据的方式 -->

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

<property>

<name>yarn.log-aggregation-enable</name>

<value>true</value>

</property>

<!-- 日志保留时间设置7天 -->

<property>

<name>yarn.log-aggregation.retain-seconds</name>

<value>604800</value>

</property>

<property>

<name>yarn.log.server.url</name>

<value>http://linux121:19888/jobhistory/logs</value>

</property>

更多配置见：https://hadoop.apache.org/docs/r2.6.1/hadoop-yarn/hadoop-yarn-common/yarn-default.xml

6、从节点 

指定datanode从节点(修改slaves文件，每个节点配置信息占一行)，需要在etc目录下创建一个slaves文件，文件中添加从节点

如：

linux121

linux122

linux123