Flink 安装阿里云docker compose部署及相关组件

Flink 安装脚本文件

version: "2.2"
services:
  jobmanager:
    image: flink:1.15.2-java11
    expose:
      - "6123"
    ports:
      - "8081:8081"
    command: jobmanager
    volumes:
      - /home:/home
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
    privileged: true

  taskmanager:
    image: flink:1.15.2-java11
    expose:
      - "6121"
      - "6122"
    depends_on:
      - jobmanager
    command: taskmanager
    volumes:
      - /home:/home
    links:
      - "jobmanager:jobmanager"
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
    privileged: true

Kafa 安装脚本

先创建docker 网络组 br17218

然后执行如下脚本安装

version: "2"

services:
  zookeeper1:
    image: docker.io/bitnami/zookeeper:3.8
    hostname: zookeeper1
    container_name: zookeeper1
    ports:
      - "2181:2181"
    volumes:
      - "zookeeper_data:/bitnami"
    environment:
      - ALLOW_ANONYMOUS_LOGIN=yes
    networks:
      br17218:
        ipv4_address: 172.16.0.11
  kafka1:
    image: docker.io/bitnami/kafka:3.3
    hostname: kafka1
    container_name: kafa1
    ports:
      - "9092:9092"
    volumes:
      - "kafka_data:/bitnami"
    environment:
      - KAFKA_ADERTISED_HOST_NAME=kafka1
      - KAFKA_ADERTISED_PORT=9092
      - KAFKA_CFG_ZOOKEEPER_CONNECT=zookeeper1:2181
      - ALLOW_PLAINTEXT_LISTENER=yes
      - KAFKA_CFG_LISTENERS=PLAINTEXT://0.0.0.0:9092,
      - KAFKA_CFG_ADVERTISED_LISTENERS=PLAINTEXT://阿里云外网ip:9092
    depends_on:
      - zookeeper1
    networks:
      br17218:
        ipv4_address: 172.16.0.14
  kafka_manager:
    image: hlebalbau/kafka-manager:stable
    ports:
      - 9000:9000
    environment:
      ZK_HOSTS: "zookeeper1:2181"
    depends_on:
      - zookeeper1
      - kafka1
    networks:
      br17218:
        ipv4_address: 172.16.0.17
volumes:
  zookeeper_data:
    driver: local
  kafka_data:
    driver: local

networks:
  br17218:
    external:
      name: br17218

redis 安装

配置redis config 文件

#开启保护
protected-mode no
#开启远程连接
bind 0.0.0.0
#自定义密码
requirepass *****
#端口一般为6379,这里配置6380
port 6380
timeout 60
# 900s内至少一次写操作则执行bgsave进行RDB持久化
save 900 1
save 300 10
save 60 10000
rdbcompression yes
dbfilename dump.rdb
dir /data
appendonly yes
appendfsync everysec

redis 安装脚本

version: '3.8'
services:
  myredis:
    container_name: myredis
    image: redis:6.0.6
    ports:
      - 6380:6380
    privileged: true
    command: redis-server /etc/redis/redis.conf --appendonly yes
    volumes:
      - $PWD/data:/data
      - $PWD/redis.conf:/etc/redis/redis.conf
    networks:
      - myweb

networks:

  myweb:
    driver: bridge

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
使用docker-compose部署Flink可以简化部署过程,并且能够快速搭建一个Flink集群。以下是使用docker-compose部署Flink的步骤: 步骤一:安装DockerDocker Compose 首先要确保已经安装DockerDocker Compose。可以在官方网站上下载并按照文档进行安装。 步骤二:创建docker-compose.yml文件 在项目的根目录下创建一个docker-compose.yml文件,并添加以下内容: version: '3' services: jobmanager: image: flink:1.12.0 command: jobmanager expose: - "8081" taskmanager: image: flink:1.12.0 command: taskmanager depends_on: - jobmanager 这里使用的是Flink的官方Docker镜像,并定义了一个jobmanager服务和一个taskmanager服务。jobmanager服务使用jobmanager命令启动,并暴露8081端口用于Web UI;taskmanager服务使用taskmanager命令启动,并依赖于jobmanager服务。 步骤三:启动Flink集群 在命令行中进入到docker-compose.yml所在的目录,然后使用以下命令启动Flink集群: docker-compose up -d 这样就会启动一个包含一个jobmanager和多个taskmanager的Flink集群。-d选项是为了在后台运行容器。 步骤四:访问Flink Web UI 在浏览器中输入http://localhost:8081,就可以访问Flink的Web UI了。在Web UI中可以查看Flink集群的状态、提交作业以及监控作业的运行情况。 通过以上步骤,我们就可以使用docker-compose快速部署一个Flink集群。使用Docker的好处是可以方便地管理和扩展集群,并且保证在不同环境下的一致性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值