• Flink 1.3.2 Standalone模式安装


    一、依赖文件安装

        1.1 JDK

             参见博文:http://www.cnblogs.com/liugh/p/6623530.html

    二、文件准备

         2.1 文件名称

             flink-1.3.2-bin-hadoop27-scala_2.11.tgz

         2.2 下载地址

            http://flink.apache.org/downloads.html

    三、工具准备

        3.1 Xshell

          一个强大的安全终端模拟软件,它支持SSH1, SSH2, 以及Microsoft Windows 平台的TELNET 协议。

          Xshell 通过互联网到远程主机的安全连接以及它创新性的设计和特色帮助用户在复杂的网络环境中享受他们的工作。

        3.2 Xftp

         一个基于 MS windows 平台的功能强大的SFTPFTP 文件传输软件。

        使用了 Xftp 以后,MS windows 用户能安全地在UNIX/Linux 和 Windows PC 之间传输文件。

    四、部署图

    五、Flink安装

        以下操作,均使用root用户

       5.1 通过Xftp将下载下来的Flink安装文件上传到Master的/usr目录下

       5.2 通过Xshell连接到虚拟机,在Master上,执行如下命令,解压文件:

            # tar zxvf flink-1.3.2-bin-hadoop27-scala_2.11.tgz

       5.3 在Master上,使用Vi编辑器,设置环境变量

            # vi /etc/profile

            在文件最后,添加如下内容:       

    #Flink Env
    export FLINK_HOME=/usr/flink-1.3.2
    export PATH=$PATH:$FLINK_HOME/bin

       5.4 退出vi编辑器,使环境变量设置立即生效

           # source /etc/profile

           通过scp命令,将/etc/profile拷贝到两个Slave节点:

           #scp /etc/profile root@DEV-SH-MAP-02:/etc

           #scp /etc/profile root@DEV-SH-MAP-03:/etc

           分别在两个Salve节点上执行# source /etc/profile使其立即生效

    六、Flink配置

        以下操作均在Master节点,配置完后,使用scp命令,将所有文件拷贝到两个Worker节点即可。

       切换到/usr/flink-1.3.2/conf目录下,修改如下文件:

       6.1 flink-conf.yaml

    #JobManager的地址
    jobmanager.rpc.address: DEV-SH-MAP-01

    #JobManager Java 堆大小

    jobmanager.heap.mb: 1024

    #TaskManager Java 堆大小

    taskmanager.heap.mb: 1024

    taskmanager.numberOfTaskSlots: 2

       6.2 masters

        这个文件中存放的信息是JobManager的HostName,使用vi编辑器,打开masters,在文件最后,添加如下内容:

    DEV-SH-MAP-01:8081

     6.3 slaves

        这个文件中存放的信息是TaskManager的HostName,使用vi编辑器,打开slaves,在文件最后,添加如下内容:

    DEV-SH-MAP-01
    DEV-SH-MAP-02
    DEV-SH-MAP-03

    6.4 拷贝配置文件到两个Worker节点

       在Master节点,执行如下命令:   

       # scp -r /usr/flink-1.3.2/ root@DEV-SH-MAP-02:/usr/

       # scp -r /usr/flink-1.3.2/ root@DEV-SH-MAP-03:/usr/

    七、Flink使用

       7.1 启动

          Master节点上,执行如下命令:

          #start-cluster.sh

         在Master节点上,使用jps命令,查看Java进程:

    41361 JobManager
    41724 TaskManager

         在Worker节点上,使用jps命令,查看Java进程:

    37723 TaskManager

      7.3 通过浏览器查看Flink信息

        浏览器中,输入http://10.10.0.1:8081

       7.4 停止节点

         #stop-cluster.sh

  • 相关阅读:
    BZOJ3670: [Noi2014]动物园
    BZOJ4424: Cf19E Fairy
    BZOJ1257: [CQOI2007]余数之和
    BZOJ2438: [中山市选2011]杀人游戏
    SDOI2017第一轮
    BZOJ4820: [Sdoi2017]硬币游戏
    NOIP2016
    HDU1848 Fibonacci again and again(SG 函数)
    HDU1517 Multiply Game
    HDU1907 Jhon
  • 原文地址:https://www.cnblogs.com/liugh/p/7446295.html
Copyright © 2020-2023  润新知