一、依赖文件安装
1.1 JDK
参见博文:http://www.cnblogs.com/liugh/p/6623530.html
二、文件准备
2.1 文件名称
flink-1.3.2-bin-hadoop27-scala_2.11.tgz
2.2 下载地址
http://flink.apache.org/downloads.html
三、工具准备
3.1 Xshell
一个强大的安全终端模拟软件,它支持SSH1, SSH2, 以及Microsoft Windows 平台的TELNET 协议。
Xshell 通过互联网到远程主机的安全连接以及它创新性的设计和特色帮助用户在复杂的网络环境中享受他们的工作。
3.2 Xftp
一个基于 MS windows 平台的功能强大的SFTP、FTP 文件传输软件。
使用了 Xftp 以后,MS windows 用户能安全地在UNIX/Linux 和 Windows PC 之间传输文件。
四、部署图
五、Flink安装
以下操作,均使用root用户
5.1 通过Xftp将下载下来的Flink安装文件上传到Master的/usr目录下
5.2 通过Xshell连接到虚拟机,在Master上,执行如下命令,解压文件:
# tar zxvf flink-1.3.2-bin-hadoop27-scala_2.11.tgz
5.3 在Master上,使用Vi编辑器,设置环境变量
# vi /etc/profile
在文件最后,添加如下内容:
#Flink Env
export FLINK_HOME=/usr/flink-1.3.2
export PATH=$PATH:$FLINK_HOME/bin
5.4 退出vi编辑器,使环境变量设置立即生效
# source /etc/profile
通过scp命令,将/etc/profile拷贝到两个Slave节点:
#scp /etc/profile root@DEV-SH-MAP-02:/etc
#scp /etc/profile root@DEV-SH-MAP-03:/etc
分别在两个Salve节点上执行# source /etc/profile使其立即生效
六、Flink配置
以下操作均在Master节点,配置完后,使用scp命令,将所有文件拷贝到两个Worker节点即可。
切换到/usr/flink-1.3.2/conf目录下,修改如下文件:
6.1 flink-conf.yaml
#JobManager的地址
jobmanager.rpc.address: DEV-SH-MAP-01
#JobManager Java 堆大小
jobmanager.heap.mb: 1024
#TaskManager Java 堆大小
taskmanager.heap.mb: 1024
taskmanager.numberOfTaskSlots: 2
6.2 masters
这个文件中存放的信息是JobManager的HostName,使用vi编辑器,打开masters,在文件最后,添加如下内容:
DEV-SH-MAP-01:8081
6.3 slaves
这个文件中存放的信息是TaskManager的HostName,使用vi编辑器,打开slaves,在文件最后,添加如下内容:
DEV-SH-MAP-01 DEV-SH-MAP-02 DEV-SH-MAP-03
6.4 拷贝配置文件到两个Worker节点
在Master节点,执行如下命令:
# scp -r /usr/flink-1.3.2/ root@DEV-SH-MAP-02:/usr/
# scp -r /usr/flink-1.3.2/ root@DEV-SH-MAP-03:/usr/
七、Flink使用
7.1 启动
Master节点上,执行如下命令:
#start-cluster.sh
在Master节点上,使用jps命令,查看Java进程:
41361 JobManager
41724 TaskManager
在Worker节点上,使用jps命令,查看Java进程:
37723 TaskManager
7.3 通过浏览器查看Flink信息
浏览器中,输入http://10.10.0.1:8081
7.4 停止节点
#stop-cluster.sh