kafka生产者与消费者案例

本文档介绍了在Kafka中创建主题、生产者和消费者的过程,并解决了配置错误问题。在创建主题时,需注意副本数不能超过服务器数量。创建生产者和消费者后,可以进行数据的生产和消费。在遇到连接节点错误时,应检查配置的主机IP是否正确。
摘要由CSDN通过智能技术生成

所有节点启动kafka

1、创建主题

创建一个名为itcasttopic的主题

bug1:
出现此错误的原因是定义的副本数,也就是replication-factor要小于你的服务器的数量,若你只有一台服务kafka,那么这里的2就超出了范围。
Error while executing topic command : Replication factor: 2 larger than available brokers: 1.

在这里插入图片描述

kafka-topics.sh --create \
--topic itcasttopic \
--partitions 3 \
--replication-factor 2 \
--zookeeper hadoop01:2181,hadoop02:2181,hadoop03:2181

正常情况下结果
在这里插入图片描述
若要删除改create为delete

kafka-topics.sh --delete \
--topic itcasttopic \
--zookeeper hadoop01:2181,hadoop02:2181,hadoop03:2181
2、创建生产者
kafka-console-producer.sh \
--broker-list hadoop01:9092,hadoop02:9092,hadoop03:9092 \
--topic itcasttopic

在这里插入图片描述

3、创建消费者
kafka-console-consumer.sh \
--from-beginning --topic itcasttopic \
--bootstrap-server hadoop01:9092,hadoop02:9092,hadoop03:9092

bug2:

WARN [Producer clientId=console-producer] Connection to node -3 could not be established. Broker may not be available. (org.apache.kafka.clients.NetworkClient)
在这里插入图片描述
请添加图片描述

此bug出现的原因是配置文件对应的主机没有更改对应上ip。

4、数据的生产与消费

请添加图片描述

在这里插入图片描述
查看所有主题
在这里插入图片描述

以下是基于JavaKafka生产者消费者案例: **Kafka生产者案例:** ```java import java.util.Properties; import org.apache.kafka.clients.producer.KafkaProducer; import org.apache.kafka.clients.producer.Producer; import org.apache.kafka.clients.producer.ProducerRecord; public class KafkaProducerExample { public static void main(String[] args) throws Exception { String topicName = "test-topic"; String key = "test-key"; String value = "test-value"; Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); Producer<String, String> producer = new KafkaProducer<>(props); ProducerRecord<String, String> record = new ProducerRecord<>(topicName, key, value); producer.send(record); producer.close(); } } ``` **Kafka消费者案例:** ```java import java.util.Collections; import java.util.Properties; import org.apache.kafka.clients.consumer.Consumer; import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.consumer.ConsumerRecord; import org.apache.kafka.clients.consumer.ConsumerRecords; import org.apache.kafka.clients.consumer.KafkaConsumer; import org.apache.kafka.common.serialization.StringDeserializer; public class KafkaConsumerExample { public static void main(String[] args) throws Exception { String topicName = "test-topic"; String groupId = "test-group"; Properties props = new Properties(); props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092"); props.put(ConsumerConfig.GROUP_ID_CONFIG, groupId); props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); Consumer<String, String> consumer = new KafkaConsumer<>(props); consumer.subscribe(Collections.singletonList(topicName)); while (true) { ConsumerRecords<String, String> records = consumer.poll(100); for (ConsumerRecord<String, String> record : records) { System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value()); } } } } ``` 以上案例中,生产者将一条消息发送到名为“test-topic”的主题中,消费者订阅该主题消费消息。请注意,这只是基本示例,您可以根据需要进行更改和扩展。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

侬本多情。

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值