Kafka
文章平均质量分 56
ITKaven
ACMER
本科软件工程专业
硕士计算机技术专业
专注于WEB开发的烟酒僧
展开
-
Kafka:Streams实现单词统计
测试代码pom.xml:<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apac原创 2022-02-15 15:18:22 · 1756 阅读 · 0 评论 -
Kafka:Consumer暂停与恢复从Partition拉取消息
测试代码pom.xml:<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apac原创 2022-02-14 17:16:56 · 3651 阅读 · 0 评论 -
Kafka:Consumer手动提交offset
在上一篇博客中介绍了使用Consumer订阅多个Topic或者多个Partition:Kafka:Consumer订阅在上一篇博客的测试样例中,Consumer都是自动提交offset,这是通过下面的配置来生效: // 开启offset自动提交 properties.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, "true"); // 消费者offset自动提交到Kafka的频率(以毫秒为单位)原创 2022-02-14 15:05:43 · 5018 阅读 · 0 评论 -
Kafka:Consumer订阅
测试代码pom.xml:<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apac原创 2022-02-14 13:36:05 · 2755 阅读 · 0 评论 -
Kafka:Docker Compose部署Kafka集群
创建目录用于存放Docker Compose部署Kafka集群的yaml文件:mkdir -p /root/composefile/kafka/写入该yaml文件:vim /root/composefile/kafka/kafka.yaml 内容如下:version: '3'networks: kafka-networks: driver: bridgeservices: kafka1: image: wurstmeister/kafka container原创 2022-02-13 19:42:00 · 2176 阅读 · 0 评论 -
Kafka:Producer自定义Partition负载均衡
pom.xml:<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.or原创 2022-02-13 09:27:05 · 1263 阅读 · 0 评论 -
Kafka:Producer异步发送与回调
pom.xml:<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.or原创 2022-02-12 16:35:28 · 3174 阅读 · 0 评论 -
Kafka汇总
Kafka部署Kafka:部署KafkaKafka:搭建Kafka集群Kafka概念与APIKafka:Topic概念与API介绍Kafka:增加Topic的分区副本数未完待续原创 2022-02-12 14:58:38 · 817 阅读 · 0 评论 -
Kafka:增加Topic的分区数
测试环境参考下面这篇博客:Kafka:搭建Kafka集群pom.xml:<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/原创 2022-02-12 14:55:18 · 3524 阅读 · 0 评论 -
Kafka:搭建Kafka集群
博主在之前已经介绍过如何部署Kafka,Kafka的部署模式只有集群模式,Kafka的架构本就是天然的集群架构,因此单节点的部署和多节点的部署是类似的。集群节点:节点地址ZooKeeper192.168.1.5Kafka0192.168.1.4Kafka1192.168.1.6Kafka2192.168.1.199为了简单起见,这里不使用ZooKeeper集群,单机版的ZooKeeper即可满足要求。ZooKeeper :Shell脚本搭建单机版Z原创 2022-01-20 20:04:22 · 3637 阅读 · 0 评论 -
Kafka:Topic概念与API介绍
Topic事件被组织并持久地存储在Topic中,Topic类似于文件系统中的文件夹,事件就是该文件夹中的文件。Kafka中的Topic始终是多生产者和多订阅者:一个Topic可以有零个、一个或多个生产者向其写入事件,也可以有零个、一个或多个消费者订阅这些事件。Topic中的事件可以根据需要随时读取,与传统的消息传递系统不同,事件在使用后不会被删除,相反,可以通过每个Topic的配置来定义Kafka应该保留事件的时间,之后旧事件将被丢弃。Kafka的性能在数据大小方面实际上是恒定的,因此长时间存储数据是非常原创 2022-01-02 20:09:11 · 16479 阅读 · 0 评论 -
Kafka:部署Kafka
文件下载Java 8ZooKeeper 3.6.3Kafka 3.0.0下载到本地。使用Xftp或其他工具上传到虚拟机。Java解压:[root@MiWiFi-R1CM-srv ~]# cd /usr/local/[root@MiWiFi-R1CM-srv local]# tar -zxf jdk-8u202-linux-x64.tar.gz配置环境:[root@MiWiFi-R1CM-srv local]# ll总用量 286092-rw-r--r--. 1 ro原创 2021-12-20 16:09:54 · 2458 阅读 · 0 评论