• CDH6.3.x集成flink1.13


    目前能下载到flink1.13的parcel包的资源确实少,有些也需要收费的,我这里采用自己编译的方法。

    1、准备环境

    jdk1.8

    maven3.8.1

    parcel制作工具

    2、制作parcel

    下载制作工具

    git clone https://github.com/pkeropen/flink-parcel.git

    修改配置文件

    cd ./flink-parcel
    vim flink-parcel.properties
    进行相应修改,内容如下:
    #FLINK 下载地址
    FLINK_URL=https://archive.apache.org/dist/flink/flink-1.13.2/flink-1.13.2-bin-scala_2.11.tgz
    
    #flink版本号
    FLINK_VERSION=1.13.2
    
    #扩展版本号
    EXTENS_VERSION=BIN-SCALA_2.11
    
    #操作系统版本,以centos为例
    OS_VERSION=7
    
    #CDH 小版本
    CDH_MIN_FULL=5.2
    CDH_MAX_FULL=6.3.3
    
    #CDH大版本
    CDH_MIN=5
    CDH_MAX=6

     FLINK_URL=https://archive.apache.org/dist/flink/flink-1.13.2/flink-1.13.2-bin-scala_2.11.tgz这个文件也可以先下载好,因为通过脚本下载的话网速比较慢,建议通过迅雷下载,下载好后直接放到flink-parcel目录下

    修改完配置文件后就保存退出

    然后进行build
    ./build.sh  parcel
    下载并打包完成后会在当前目录生成FLINK-1.13.2-BIN-SCALA_2.11_build文件

    构建flink-yarn csd包
    ./build.sh csd_on_yarn
    执行完成后会生成FLINK_ON_YARN-1.13.2.jar

    将FLINK-1.13.2-BIN-SCALA_2.11_build打包
    tar -cvf ./FLINK-1.13.2-BIN-SCALA_2.11.tar ./FLINK-1.13.2-BIN-SCALA_2.11_build/

    将FLINK-1.13.2-BIN-SCALA_2.11.tar
    FLINK_ON_YARN-1.12.0.jar下载,这两个包就是目标包

    其实真正我们需要用到的包就这几个

    3、cdh6.3集群flink

    据说现在cdh官网开始收费了,我这里分享一个链接给大家,供参考

    链接:https://pan.baidu.com/s/1Q_31nH3hKYHwoMQtQP9Y0w
    提取码:oox2

    集成工作我们需要做的就是以下两点:

    (1)将FLINK-1.13.2-BIN-SCALA_2.11_build里的文件放到/opt/cloudera/parcel-repo
    (2) cp FLINK_ON_YARN-1.13.2.jar /opt/cloudera/csd/

    4、在CDH里面配置flink

    按照提示点击分配、激活就可以了

    点击添加服务

    如果没有看到flink的组件,可以通过重启一下cdh,我之前就试过,flink分配、激活成功后,没有看见flink组件的图标,可以通过重启CDH服务,

    在CDH的主节点上执行以下命令

    systemctl stop cloudera-scm-server //停止
    
    systemctl start cloudera-scm-server //启动

    为flink选择机器

    这一步要注意了,这两项安全验证的记得去掉,不然等下会启动失败的,我们不需要安全验证这些,不然会报错缺少安全验证的文件,flink启动失败的,

    还有注意端口号是否被占用,如果还是失败了,可以跳过,到flink的界面的配置项里面把安全验证去掉,再启动

    这样就通过了

    也可以通过这里来修改flink的配置,去掉安全验证的选项,再启动

  • 相关阅读:
    mybatis关键查询
    智能标签
    mybatis注解基础使用
    myBatis基础知识点
    Mybatis框架模糊查询
    python(7):sympy模块
    anaconda中的包如何传到pycharm中使用?
    python(6):Scipy之pandas
    python(5):scipy之numpy介绍
    python(4): regular expression正则表达式/re库/爬虫基础
  • 原文地址:https://www.cnblogs.com/braveym/p/16364148.html
Copyright © 2020-2023  润新知