【内网基于docker部署flink1.13.6 CDC、zeppelin0.10.1、flink-sql-cookbook-on-zeppelin】


本文主要基于centos7单机、docker部署flink cdc和zeppelin,解决了cdc的jar包依赖。

1、基础环境

虚拟化服务器 32GB内存 500GB硬盘 16核
操作系统 centos 7
基础软件 docker

2、部署步骤

包含docker安装(略)、docker-compose文件编写、docker运行、CDC jar包部署、zeppelin运行测试。

2.1 docker安装

请参见互联网相关文献。

2.2 拷贝docker镜像至内网

2.2.1 外网机器下载所有需要镜像

在外网机器运行以下命令

docker pull apache/zeppelin:0.10.1
docker pull flink:1.13.6-scala_2.12-java8

2.2.2 外网机器镜像检查

在外网机器运行以下命令

docker images

应该看到2.2.1中的镜像

2.2.3 外网机器镜像打包

在外网机器运行以下命令

docker save -o apache_zeppelin_0.10.1.tar apache/zeppelin:0.10.1
docker save -o flink_1.13.6-scala_2.12-java8.tar  flink:1.13.6-scala_2.12-java8

2.2.4 拷贝至内网

将2.2.3中的tar包转递至内网服务器

2.2.5 内网加载镜像

在内网服务器执行以下命令

docker load -i  apache_zeppelin_0.10.1.tar
docker load -i  flink_1.13.6-scala_2.12-java8.tar

6.内网镜像查看
在内网服务器执行以下命令

docker images

应看到导入的镜像

顺便执行以下命令,为下边步骤创建相关目录

mkdir /opt/flink1136_cdc/
mkdir /opt/flink1136_cdc/flink
mkdir /opt/flink1136_cdc/jars
echo 'Asia/Shanghai' > /etc/timezone/timezone

2.3 下载flink-sql-cookbook-on-zeppelin

在外网机器执行下面命令,下载cookbook

git clone https://github.com/zjffdu/flink-sql-cookbook-on-zeppelin.git

拷贝flink-sql-cookbook-on-zeppelin文件夹至内网服务器的/opt/flink1136_cdc目录下

2.4 docker-compose文件

将下述代码复制为docker-compose.yml文件,拷贝至内网机器的/opt/flink1136_cdc/目录下。
本文件包含1个flink jobmanager实例、3个flink taskmanager 实例、1个zeppelin示例,并映射了系统的时区,解决docker镜像时区与宿主机器时区不一致的问题。

version: "2.1"
services:
  jobmanager:
    image: flink:1.13.6-scala_2.12-java8
    expose:
      - "6123"
    ports:
      - "8081:8081"
    command: jobmanager
    volumes:
      -
  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值