docker-compose搭建flink

docker-compose搭建flink

环境:centos虚拟机

安装docker

卸载旧的版本

sudo yum remove docker \
                  docker-client \
                  docker-client-latest \
                  docker-common \
                  docker-latest \
                  docker-latest-logrotate \
                  docker-logrotate \
                  docker-engine安装需要的安装包

安装需要的安装包

yum install -y yum-utils

设置镜像的仓库(默认是国外的)

国外镜像服务器
$ sudo yum-config-manager \
    --add-repo \
    https://download.docker.com/linux/centos/docker-ce.repo
    
阿里云镜像服务器
$ sudo yum-config-manager \
    --add-repo \
    http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

安装最新版docker ce–社区版 ee–企业版

$ sudo yum install docker-ce docker-ce-cli containerd.io

启动docker

$ sudo systemctl start docker

hello world

$ sudo docker run hello-world

uninstall docker

$ sudo yum remove docker-ce docker-ce-cli containerd.io		卸载依赖

$ sudo rm -rf /var/lib/docker	删除资源	docker的默认工作路径

华为云镜像加速

运行以下四条命令:

sudo mkdir -p /etc/docker

sudo tee /etc/docker/daemon.json <<-'EOF'
{
"registry-mirrors": ["https://05d51f36428025e40fc5c01e17347a00.mirror.swr.myhuaweicloud.com"]
}
EOF

sudo systemctl daemon-reload

sudo systemctl restart docker

安装docker-compose

运行以下命令以下载 Docker Compose 的特定版本:

curl -L https://github.com/docker/compose/releases/download/1.24.1/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose

要安装其他版本的 Compose,请替换1.24.1

授权

sudo chmod +x /usr/local/bin/docker-compose

创建软链,这样我们就可以在任意目录下使用docker-compose命令啦

sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose

验证

docker-compose --version

出现如下字样则说明你的docker-compose安装成功啦!

docker-compose version 1.25.5, build xxxxx

搭建flink

使用docker拉取镜像

docker pull flink

镜像拉取好之后,检查一下:

docker image

新建文件夹docker-flink,文件夹下新建文件docker-compose.yml,内容如下:

version: "2.1"
services:
  jobmanager:
    image: flink
    expose:
      - "6123"
    ports:
      - "8081:8081"
    command: jobmanager
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
 
  taskmanager:
    image: flink
    expose:
      - "6121"
      - "6122"
    depends_on:
      - jobmanager
    command: taskmanager
    links:
      - "jobmanager:jobmanager"
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager

启动docker-compose

docker-compose up -d

浏览器打开 http://127.0.0.1:8081 可以看到dashboard

在这里插入图片描述

这样环境就搭好了

进入容器中可以查看flink版本:flink --version

  • 3
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
使用docker-compose部署Flink可以简化部署过程,并且能够快速搭建一个Flink集群。以下是使用docker-compose部署Flink的步骤: 步骤一:安装Docker和Docker Compose 首先要确保已经安装了Docker和Docker Compose。可以在官方网站上下载并按照文档进行安装。 步骤二:创建docker-compose.yml文件 在项目的根目录下创建一个docker-compose.yml文件,并添加以下内容: version: '3' services: jobmanager: image: flink:1.12.0 command: jobmanager expose: - "8081" taskmanager: image: flink:1.12.0 command: taskmanager depends_on: - jobmanager 这里使用的是Flink的官方Docker镜像,并定义了一个jobmanager服务和一个taskmanager服务。jobmanager服务使用jobmanager命令启动,并暴露8081端口用于Web UI;taskmanager服务使用taskmanager命令启动,并依赖于jobmanager服务。 步骤三:启动Flink集群 在命令行中进入到docker-compose.yml所在的目录,然后使用以下命令启动Flink集群: docker-compose up -d 这样就会启动一个包含一个jobmanager和多个taskmanager的Flink集群。-d选项是为了在后台运行容器。 步骤四:访问Flink Web UI 在浏览器中输入http://localhost:8081,就可以访问Flink的Web UI了。在Web UI中可以查看Flink集群的状态、提交作业以及监控作业的运行情况。 通过以上步骤,我们就可以使用docker-compose快速部署一个Flink集群。使用Docker的好处是可以方便地管理和扩展集群,并且保证在不同环境下的一致性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值