kafka

已于 2023-03-04 23:01:59 修改
阅读量2.6k 收藏
点赞数
文章标签： kafka Powered by 金山文档
于 2023-03-04 22:20:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhangzhangjava/article/details/129339568
版权

  1. 安装jdk;

  1. 下载zookeepe并启动；

下载地址：

https://archive.apache.org/dist/zookeeper/zookeeper-3.5.8/apache-zookeeper-3.5.8-bin.tar.gz

将conf目录下的zoo_sample.cfg复制一份重命名为zoo.cfg。

启动：

  1. 下载kafka并启动；

下载地址：

https://archive.apache.org/dist/kafka/2.4.1/kafka_2.11-2.4.1.tgz

修改server.properties配置文件

启动：

  1. 创建一个topic;

kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic myTopicName

查看topic

kafka-topics.bat --list --zookeeper localhost:2181

  1. 创建生产者

kafka-console-producer.bat --broker-list localhost:9092 --topic myTopicName

  1. 创建消费者

kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic myTopicName

待解决：第四条消息，中文乱码了

happy是一头小猪
关注
查询Kafka集群中消费组（group）信息和对应topic的消费情况
weixin_44976692的博客
06-18 4万+
通过上述方法，可以方便地查询Kafka集群中的消费组信息和topic的消费情况，从而更好地管理和监控Kafka集群的运行状态。希望这篇博客对你有所帮助！如果有更多问题，欢迎留言讨论。
Doris 数据集成 Kafka
04-26 5万+
这是我们Doris 数据集成篇的第二篇，前面我们介绍过通过 Catalog进行集成的例子目前公司的很多数据服务都开始使用Doris 了，目前使用下来感觉还是很方便的，比起Hadoop 那一套少了很多运维的成本，而且整体的效率也不错，现在也要把ELK 那一套日志分析的替换掉，后面日志分析也走Doris。关于如何使用Doris做日志分析，可以参考之前的文章，不过第一步也不是日志分析，而是如何对接Kafka ，因为目前日志数据是在kafka 里的，这里我调研了一下使用Flink 和 Doris 的。
SpringBoot集成kafka全面实战
热门推荐
Felix
03-28 20万+
本文是SpringBoot+Kafka的实战讲解，如果对kafka的架构原理还不了解的读者，建议先看一下《大白话kafka架构原理》、《秒懂kafka HA（高可用）》两篇文章。 一、生产者实践 普通生产者 带回调的生产者 自定义分区器 kafka事务提交 二、消费者实践 简单消费 指定topic、partition、offset消费 ...
【Kafka】Windows下安装Kafka（图文记录详细步骤）
tttzzzqqq2018的博客
08-06 3万+
(一)、Kafka是由Apache软件基金会开发的一个开源流处理平台，由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者在网站中的所有动作流数据。 (二)、Kafka 本质上是⼀个消息队列。与zeromq不同的是，Kafka是一个独立的框架而不是一个库。通过O(1)的磁盘数据结构提供消息的持久化，这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能。高吞吐量 ：即使是非常普通的硬件Kafka也可以支持每秒数百万的消息。
查询Kafka生产者是否连接到Kafka服务
weixin_44976692的博客
06-22 4万+
java领域优质创作者🌐。
Kafka 副本
02-11 3万+
follower发生故障后会被临时踢出ISR，待该follower恢复后，follower会读取本地磁盘记录的上次的HW，并将log文件高于HW的部分截取掉（HW之前每个节点都有，故安全），从HW开始向leader进行同步。leader发生故障之后，会从ISR中选出一个新的leader，之后，为保证多个副本之间的数据一致性，其余的follower会先将各自的log文件高于HW的部分截掉，然后从新的leader同步数据。HW：指的是消费者能见到的最大的offset，ISR队列中最小的LEO。
kafka常用命令
zhangmuqiang的博客
07-05 9035
bin/kafka-consumer-groups.sh --bootstrap-server $nodes --group $groupname --reset-offsets --all-topics --to-earliest --execute # 重设消费者组位移(待验证)bin/kafka-console-consumer.sh --bootstrap-server $nodes --topic $topicName --from-beginning # 使用消费者。
使用 JMX 监控 Kafka 集群性能指标
weixin_44976692的博客
06-05 3万+
在大规模的生产环境中，实时监控 Kafka 集群的性能指标是确保系统稳定运行的重要手段。本文将介绍如何使用 JMX（Java Management Extensions）监控 Kafka 集群，并展示一些常用的 JMX 指令和指标。通过使用 JMX 监控 Kafka 集群的性能指标，我们可以更好地了解系统的运行状况，并及时发现和处理潜在的问题。结合使用 JConsole、jcmd 和 jstat 等工具，我们可以全面监控 Kafka 集群的各项性能指标，确保系统的稳定运行。
Kafka集群部署
想你依然心痛的博客
06-15 5万+
好了，Kafka的集群部署我们就讲到这里了，这几篇主要针对大数据集群环境的搭建进行了讲解，包括创建虚拟机、Linux操作系统的安装与配置、安装JDK、ZooKeeper集群部署、Hadoop集群部署、Spark集群部署、HBase集群部署以及Kafka集群部署。通过这几篇的学习，希望读者熟悉大数据集群环境的搭建流程，并掌握ZooKeeper、Hadoop、Spark、HBase和Kafka集群的部署，为后续项目的开展奠定基础。启动Kafka集群时，需要确保ZooKeeper集群是正常启动的。
kafka 插件kafka 插件kafka 插件
06-26
**Kafka插件详解** Kafka插件是Apache Kafka与各种工具集成的重要组成部分，它使得开发者和运维人员能够更方便地在不同的系统中利用Kafka的功能。Kafka是一款分布式流处理平台，常用于构建实时数据管道和流应用，...
kafka-3.5.1
09-27
开源软件kafka_2.13-3.5.1版本，仅供学习安装，不可用做其他用途，建议直接在官网进行下载，版本为3.5.1，Scala版本2.13;开源软件kafka_2.13-3.5.1版本，仅供学习安装，不可用做其他用途，建议直接在官网进行下载，...
Maven项目整合Kafka
03-12
使用Maven整合Kafka 包括生产者，消费者 Kafka各种配置 //1.设置参数 Properties props = new Properties(); props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "81.68.232.188:9092,81.68.232.188:9093,81...
kafka-2.13-3.7.0.tgz
04-08
**Kafka概述** Kafka是由LinkedIn开发并贡献给Apache软件基金会的一个开源分布式流处理平台。它的设计目标是成为一个高吞吐、低延迟的消息系统，能够处理海量实时数据。Kafka作为一个分布式消息中间件，它在大数据...
kafka-2.12-3.6.1.tgz
12-19
《Kafka 2.12-3.6.1在Linux环境下的快速部署与使用》 Kafka，作为一款高效、可扩展且持久化的分布式消息中间件，被广泛应用于大数据实时处理、日志收集和流处理等场景。本文将详细介绍如何在Linux环境下部署并使用...
Kafka架构详解之分区Partition
最新发布
代码大师麦克拉瑞的博客
07-18 901
Apache Kafka 是分布式发布 - 订阅消息系统，在 kafka 官网上对 kafka 的定义：一个分布式发布 - 订阅消息传递系统。Kafka 最初由 LinkedIn 公司开发，Linkedin 于 2010 年贡献给了 Apache 基金会并成为顶级开源项目。Kafka 的主要应用场景有：日志收集系统和消息系统。Kafka的原理、基础架构、以及使用场景-mikechen的互联网架构。
zookeeper+kafka的消息队列
Q7758521adc的博客
07-15 1105
需要注意的是，kafka作为一个支持多生产者多消费者的架构，再写入消息时允许多个生产者写道同一个partition，但是消费者读取的时候一个partition仅允许一个消费者消费，但一个消费者可以消费多个partition。partition的数量决定了组成topic的log的数量， 因此推荐partition的数量要大于同时允许的consumer数量，要小于等于集群broker的数量。offset （偏移量）在消息的生产者与消费之间设置一个系统，负责缓存生产者与消费者之间的消息的缓存。
部署kafkamanager
weixin_51473488的博客
07-16 466
在这里插入图片描述](https://i-blog.csdnimg.cn/direct/47c5af5beaec496382162dffb0ce9e9b.png。参考：https://download.csdn.net/blog/column/12424861/132559915。例如：10.0.99.2:2181 10.0.99.7:2181 10.0.1.6:2181/kafka。这是添加对应的kafka的集群，其实本质是指定kafka在zookeeper中的注册地址。1，检查kafka的版本。
kafka---消息日志详解
qq_41768644的博客
07-16 914
kafka 消息日志详解
KAFKA
06-01
指的是在空闲分区链表中找到最小的能够满足要求的空闲分区进行分Kafka是一种分布式流处理平台，它具有高吞吐量、可扩展性和容错性配。具体实现过程如下： ```c #include #include // 内存块头等特点。它主要由三...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值