• CentOS7 Hadoop 3.1.0 编译安装


    1.配置环境变量

    JAVA_HOME=/jdk1.8.0_131
    ANT_HOME=/apache-ant-1.10.5
    MAVEN_HOME=/apache-maven-3.5.4
    FINDBUGS_HOME=/findbugs-3.0.1
    PATH=$JAVA_HOME/bin:$ANT_HOME/bin:$FINDBUGS_HOME/bin:$MAVEN_HOME/bin:$PATH
    CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar
    
    export JAVA_HOME ANT_HOME MAVEN_HOME FINDBUGS_HOME PATH CLASSPATH

    2.安装必须依赖

    yum -y install lzo-devel zlib-devel autoconf automake libtool cmake openssl-devel patch gcc gcc-c++
    yum -y install protobuf.x86_64 protobuf-devel.x86_64

    3.对于2步骤安装的cmake可能版本过低,如果编译Hadoop源码时,出现cmake错误,可以手动编译安装cmake

    yum remove cmake
    tar
    -zxvf cmake-3.12.0.tar.gz cd cmake-3.12.0 ./configure && make && make install

    4.解压hadoop源码,增加dynamodb-local-oregon repository

    vi hadoop-3.1.0-src/pom.xml
    
    <repositories>
    
        <repository>
    
            <id>dynamodb-local-oregon</id>
    
            <name>DynamoDB Local Release Repository</name>
    
            <url>https://s3-us-west-2.amazonaws.com/dynamodb-local/release</url>
    
        </repository>
    
        ...
    
      </repositories>

    参照amazon网站数据:
    https://docs.aws.amazon.com/amazondynamodb/latest/developerguide/DynamoDBLocal.html#DynamoDBLocal.DownloadingAndRunning

    5.运行maven命令

    pwd
    hadoop-3.1.0-src/
    mvn package -Pdist,native,docs -DskipTests -Dtar 

     注意:

      1.如果findbugs,cmake不好下载安装,或者编译时遇到什么问题,可以添加博客左上角的群,在群中下载或详询遇到的问题。

           2.在用MAVEN进行编译时候,建议用maven的中央仓库作为构建下载仓库。

  • 相关阅读:
    mycat 查询sql 报错
    mysql 主从 binlog
    数据库分库分表思路
    JavaScript数组知识
    JS判断当前页面是在 QQ客户端/微信客户端/iOS浏览器/Android浏览器/PC客户端
    js汉字转换为拼音
    工作中常用到的JS验证
    自动部署服务器代码
    php Excel 导入
    PHP 模拟http 请求
  • 原文地址:https://www.cnblogs.com/dingyingsi/p/9377783.html
Copyright © 2020-2023  润新知