Flink官网:Operations | Apache Flink
Flink和Kafka对应关系
访问Maven仓库:https://mvnrepository.com/
查询flink-connector-kafka
本文flink使用版本为:flink-1.15.4-bin-scala_2.12.tgz
所以对应Kafka版本为:
本文使用版本为:
Flink下载地址(全量版本均可下载:Downloads | Apache Flink)
flink-1.15.4-bin-scala_2.12.tgz 国内地址:Index of /apache/flink/flink-1.15.4
flink-1.15.4-bin-scala_2.12.tgz 国外地址:Index of /flink/flink-1.15.4
Maven链接:https://mvnrepository.com/artifact/org.apache.flink/flink-connector-kafka/1.15.4
一、部署环境安装说明
部署环境前提: CentOS7+JDK8
二、解压
本文虚拟机地址为:/usr/local/flink
tar -zxvf flink-1.15.4-bin-scala_2.12.tgz
三、修改配置文件
配置文件位于:/usr/local/flink/flink-1.15.4/conf
jobmanager.rpc.address: node01 JobManager地址
jobmanager.rpc.port: 6123 JobManagerRPC通信端口
jobmanager.heap.size: 1024m JobManager所能使用的堆内存大小
taskmanager.heap.size: 1024m TaskManager所能使用的堆内存大小
taskmanager.numberOfTaskSlots: 2 TaskManager管理的TaskSlot个数,依据当前物理机的
核心数来配置,一般预留出一部分核心(25%)给系统及其他进程使用,一个slot对应一个core。如果
core支持超线程,那么slot个数*2
rest.port: 8081 指定WebUI的访问端口 --单节点放开此选项即可
本文设置:rest.port: 8088
8081与其他服务端口有冲突
四、配置环境变量
vim /etc/profile
export FLINK_HOME=/usr/local/flink/flink-1.15.4
export PATH=$PATH:$FLINK_HOME/bin
环境变量生效
source /etc/profile
五、启动
切换文件夹:
cd /usr/local/flink/flink-1.15.4/bin
启动:
./start-cluster.sh
停止:
./stop-cluster.sh
六、验证
七、可视化界面
访问:http://192.168.2.128:8088/#/overview
如果访问失败:
修改配置文件:/usr/local/flink/flink-1.15.4/conf 下的flink-conf.yaml
修改为:rest.bind-address: 0.0.0.0
重新启动即可。