【云原生】Docker-compose部署flink

16 篇文章 0 订阅
13 篇文章 5 订阅

Apache Flink的数据流编程模型在有限和无限数据集上提供单次事件(event-at-a-time)处理。在基础层面,Flink程序由流和转换组成。

Apache Flink的API:有界或无界数据流的数据流API、用于有界数据集的数据集API、表API。 [3]
数据流的运行流程

Flink程序在执行后被映射到流数据流,每个Flink数据流以一个或多个源(数据输入,例如消息队列或文件系统)开始,并以一个或多个接收器(数据输出,如消息队列、文件系统或数据库等)结束。Flink可以对流执行任意数量的变换,这些流可以被编排为有向无环数据流图,允许应用程序分支和合并数据流。

Flink的数据源和接收器
Flink提供现成的源和接收连接器,包括Apache Kafka、Amazon Kinesis、HDFS和Apache Cassandra等。

Flink程序可以作为集群内的分布式系统运行,也可以以独立模式或在YARN、Mesos、基于Docker的环境和其他资源管理框架下进行部署。

1、在服务器创建/data/flink目录

mkdir -p /data/flink

2、docker-compose.yml脚本创建

vim /data/flink/docker-compose.yml
version: "2.1"
services:
  jobmanager:
    image: flink:1.14
    expose:
      - "6123"
    ports:
      - "8081:8081"
    command: jobmanager
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
  taskmanager:
    image: flink:1.14
    expose:
      - "6121"
      - "6122"
    depends_on:
      - jobmanager
    command: taskmanager
    links:
      - "jobmanager:jobmanager"
    environment:
      - JOB_MANAGER_RPC_ADDRESS=jobmanager
 

3、启动flink

(1)后台运行 一 > 一般推荐生产环境下使用该选项。

docker-compose up -d

(2)前台运行 一 > 控制台将会同时打印所有容器的输出信息,可以很方便进行调试。

docker-compose up

4、浏览器上查看页面dashboard

http://IP:8081
  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
使用docker-compose部署Flink可以简化部署过程,并且能够快速搭建一个Flink集群。以下是使用docker-compose部署Flink的步骤: 步骤一:安装DockerDocker Compose 首先要确保已经安装了DockerDocker Compose。可以在官方网站上下载并按照文档进行安装。 步骤二:创建docker-compose.yml文件 在项目的根目录下创建一个docker-compose.yml文件,并添加以下内容: version: '3' services: jobmanager: image: flink:1.12.0 command: jobmanager expose: - "8081" taskmanager: image: flink:1.12.0 command: taskmanager depends_on: - jobmanager 这里使用的是Flink的官方Docker镜像,并定义了一个jobmanager服务和一个taskmanager服务。jobmanager服务使用jobmanager命令启动,并暴露8081端口用于Web UI;taskmanager服务使用taskmanager命令启动,并依赖于jobmanager服务。 步骤三:启动Flink集群 在命令行中进入到docker-compose.yml所在的目录,然后使用以下命令启动Flink集群: docker-compose up -d 这样就会启动一个包含一个jobmanager和多个taskmanager的Flink集群。-d选项是为了在后台运行容器。 步骤四:访问Flink Web UI 在浏览器中输入http://localhost:8081,就可以访问Flink的Web UI了。在Web UI中可以查看Flink集群的状态、提交作业以及监控作业的运行情况。 通过以上步骤,我们就可以使用docker-compose快速部署一个Flink集群。使用Docker的好处是可以方便地管理和扩展集群,并且保证在不同环境下的一致性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

苏书QAQ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值