Flink+Kafka:构建日志采集+流式处理分析日志

1 篇文章 0 订阅

        Flink和Kafka的配合难点在于版本的适配,本文提供已适配版本,并且提供docker镜像、docker启动脚本以及k8s多副本部署Flink和Kafka的部署脚本。

一、版本选择

        Flink:1.10.0-scala_2.12

        Kafka:2.12-2.3.1

        wurstmeister/zookeeper:3.4.6

        版本资源、docker部署脚本以及k8s多副本方式部署脚本(包含k8s各个pod之间的动态通信脚本)请到Flink+Kafka搭建流式处理框架(内涵docker部署脚本和k8s多副本部署脚本)-flink文档类资源-CSDN下载flink搭配kafka,构建流式采集框架,提供了docker部署方式脚本和k8s多副本方式部署脚本更多下载资源、学习资料请访问CSDN下载频道.https://download.csdn.net/download/jdk819/36732717获取。

二、Docker版本部署

        下面图片贴出了部署脚本deploy.sh,其中flink的docker-compose.yml编排脚本,请去上面的资源路径获取。

  • 如果需要部署多个kafka的docker容器,可以复制Kafka容器的部署命令,并修改对外映射端口号和容器名称即可

 三、Kubernetes版本部署

        k8s采用多副本方式部署,难点在于解决各个pod之前的通信问题,比如zookeeper和kafka之间的通信等。

        废话不多说,放出部署成功的截图,资源请去上面的链接中获取。

  • k8s中三副本部署zookeeper和Kafka

  • k8s中三副本部署flink

  • flink对外接口

        k8s的主节点为10.21.70.183,通过http://10.21.70.183:30328/访问flink页面如下:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Flink是一个开源的流处理框架,而Kafka是一个分布式消息队列系统。在Flink中使用Kafka的Java API可以实现将Kafka中的数据作为输入源或将处理结果输出到Kafka中。 在Flink中使用Kafka Java API的步骤通常如下: 1. 引入Kafka的依赖:首先需要将Kafka的Java API的依赖添加到Flink的工程中。 2. 创建Kafka消费者:使用Kafka的Java API创建一个消费者实例,可以指定消费者的一些配置如Kafka的地址、消费者组ID等。通过调用消费者的`assign()`方法或`subscribe()`方法来指定要消费的Kafka主题。 3. 创建Flink的DataStream:使用Flink的DataStream API实例化一个用于接收Kafka数据的DataStream对象。可以使用`addSource()`方法来将Kafka消费者作为数据源。可以在创建DataStream时指定Kafka消息的反序列化方式、数据类型等。 4. 执行数据处理逻辑:可以在DataStream上应用各种Flink的算子,如map、filter、reduce等,对Kafka中的数据进行处理。 5. 创建Kafka生产者:使用Kafka的Java API创建一个生产者实例,可以指定生产者的一些配置。通过调用生产者的`send()`方法将处理后的结果数据发送到Kafka中。 6. 提交任务并启动Flink作业:将处理逻辑应用到Flink的任务上,并将任务提交给Flink集群进行执行。 通过以上步骤,就可以在Flink中使用Kafka的Java API进行数据的输入和输出。这种方式将Kafka作为Flink的一个数据源或数据目的,使得数据可以在流处理中被实时地处理分析。同时,由于Kafka的分布式特性,也可以保证数据的可靠性和高吞吐量。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值