
Kafka
文章平均质量分 66
飝鱻.
这个作者很懒,什么都没留下…
展开
-
【Flink Kafka】Flink程序连接Kafka没输出也不报错
Flink程序连接Kafka没输出也不报错本人最近在使用Kafka作为数据源输出数据到Flink时遇到一个问题,那就是既没有结果输出,也没有报错代码如下package Sourceimport org.apache.flink.api.common.serialization.SimpleStringSchemaimport org.apache.flink.streaming.api.scala.StreamExecutionEnvironmentimport org.apache.flin原创 2022-03-25 08:29:47 · 2778 阅读 · 3 评论 -
【Kafka】使用Flume对接Kafka
使用Flume对接Kafka本篇需要用到Kafka与Flume,需要提前安装好两个软件,若还没安装,推荐先浏览下面推荐内容Kafka的安装与基本命令的使用.Flume的初步认识.思考:为什么要将Kafka与Flume对接起来?答:在实际工作中,Flume主要是用来采集日志文件的,并且用户文件一般不是单单的只给一个用户,可能会发送给多个用户。发送给的用户数可能也是不固定的,需要随时变换,而Flume却不能做到动态的增加、减少,所以我们可以使用Kafka配合着Flume来解决这一问题。在原创 2021-12-31 07:05:46 · 934 阅读 · 0 评论 -
【Kafka】使用Eagle来监控Kafka
使用Eagle来监控Kafka修改配置文件启动与登录Eagle的使用本篇需要使用到的工具有Kafka、EagleKafka下载链接: 点击下载.Eagle下载链接: 点击下载.修改配置文件修改Kafka启动命令bin/kafka-server-start.sh将其中的if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"fi修改为if [ "x$KAFKA_HEAP_OPTS" =原创 2021-12-30 18:50:11 · 1273 阅读 · 0 评论 -
【Kafka】Kafka的框架与运行原理
Kafka的基本简绍一、Kafka概述消息队列Kafka基础架构本篇只讲述Kafka的基本框架和原理,不描述搭建,想了解Kafka的搭建与基本命令的使用可以点击链接: Kafka的安装与基本命令的使用一、Kafka概述定义:Kafka 是一个分布式的基于发布/订阅模式的消息队列(Message Queue),主要应用于大数据实时处理领域。消息队列消息队列的同步和异步使用消息队列的好处解耦 :允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。可恢复性:系统的原创 2021-12-30 16:52:37 · 987 阅读 · 0 评论 -
【Kafka】Kafka配置参数详解
Kafka配置参数详解Kafka得安装与基本命令Kafka配置参数kafka生产者配置参数kafka消费者配置参数本篇文章只是做一个转载的作用以方便自己的阅读,文章主要转载于: Kafka核心配置参数与机制一文版权声明:本文为CSDN博主「张行之」的原创文章,遵循CC 4.0 BY-SA版权协议Kafka得安装与基本命令可以点击链接: Kafka的安装与基本命令的使用Kafka配置参数broker.id:broker的id,id是唯一的非负整数,集群的broker.id不能重复。原创 2021-12-30 14:27:15 · 9122 阅读 · 0 评论 -
【Error】Error while executing topic command : Replication factor: 1 larger than available brokers: 0
今天在使用Kafka创建topic时,出现了以下一个错误【Error】Error while executing topic command : Replication factor: 1 larger than available brokers: 0提示我broker少于副本数,可是明明有三个broker并且只设置了2个replication我们可以使用下列命令去zookeeper中查看启动了了几台broker{zookeeper_home}/bin/zkCli.sh使用ls /broke原创 2021-12-30 09:29:50 · 2647 阅读 · 0 评论 -
【Error】 WARN [Producer clientId=console-producer] Error while fetching metadata wit
今天在使用Kafka生产数据时出现一个错误,具体报错如下2021-12-29 18:17:50,662] WARN [Producer clientId=console-producer] Error while fetching metadata with correlation id 3 : {first=LEADER_NOT_AVAILABLE} (org.apache.kafka.clients.NetworkClient)这边提供几种思路来解决第一种:很有可能是网络防火墙的问题,关闭或者原创 2021-12-29 18:57:07 · 6975 阅读 · 5 评论 -
【Kafka】Kafka的安装
Kafka的安装准备工作正式安装Kafka命令行操作准备工作定义:Kafka 是一个分布式的基于发布/订阅模式的消息队列(Message Queue),主要应用于大数据实时处理领域。首先我们先去下载Kafka,官网链接: 点击下载下载包的选择Kafka在安装前需要先安装zookeeper并启动,具体步骤 请访问正式安装集群规划节点名称abc安装程序zkzkzk安装程序kafkakafkakafka将压缩包解压到指定文原创 2021-12-29 18:48:57 · 1063 阅读 · 0 评论