kafka入门

本文介绍了Kafka的基本操作,包括创建主题和消息的生产和消费。接着通过Java代码展示了同步和异步生产者的实现,同步方案确保每条消息准确写入但性能较低,而异步方案通过批量发送提高性能但可能丢失消息。
摘要由CSDN通过智能技术生成

搭建什么的都不说了,先来熟悉一下基本操作

 创建一个消息 replica为3, partition为3
    1)启动zk(保证你自己的zookeeper已经启动了,这里我用的是kafka自带的zookeeper)
           bin/zookeeper-server-start.sh  config/zookeeper.properties  1>/dev/null 2>&1 &(后台运行)
    2)启动kafka
           bin/kafka-server-start.sh config/server.properties
        
       4) 创建新的节点带三个副本:
             bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 3 --partitions 3 --topic cc1


            bin/kafka-topics.sh --list --bootstrap-server localhost:9092
            bin/kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic cc1

        
     
       5) 开始生产消息
               bin/kafka-console-producer.sh --broker-list localhost:9092 --topic cc1
      6) 消费消息(单节点的话就退出生产,然后再执行消费者代码,如果是已经搭好集群了,就另启一个客户端来进行消费)
              bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic cc1
       7)查看cc1这个消息
               bin/kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic cc1

 

 

接下来用Java代码实现生产者:

这个是流程图,这里说一下分区器的分区机制:  kafka发送消息到broker之前要确定该消息的具体分区信息,kafka默认提供分区器。该分区机制如果在producer record中指定了key,那么将根据key的值进行hash计算,如果没有则采用轮询方式进行,除此之外,还可以在构造producer record的时候指定分区信息,kafka将优先使用指定的分区信息,避免进行计算提升了性能,但是客户端在指定分区信息的时候要考虑分区负载均衡的问题(这就叫数据偏移,所有数据在一个分区上,压力特别大)

先建好一个cc2,用来生产

生产者代码:

import java.util.Properties;

import org.apache.k
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值