大数据Kafka费者群组示例

消费者群组是来自Kafka主题的多线程或多机器消费。

消费者群组

消费者可以通过使用samegroup.id加入一个组。

• 一个组的最大并行度是该组中的消费者的数量 ← 分区的数量。
• Kafka将一个主题的分区分配给组中的使用者，以便每个分区仅由组中的一位消费者使用。
• Kafka保证只有群组中的单个消费者阅读消息。
• 消费者可以按照存储在日志中的顺序查看消息。

重新平衡消费者

添加更多流程/线程将导致Kafka重新平衡。 如果任何消费者或经纪商未能向ZooKeeper发送心跳，则可以通过Kafka集群重新配置它。 在这种重新平衡期间，Kafka会将可用分区分配给可用线程，可能会将分区移至另一个进程。

import java.util.Properties;  import java.util.Arrays;  import org.apache.kafka.clients.consumer.KafkaConsumer;  import org.apache.kafka.clients.consumer.ConsumerRecords;  import org.apache.kafka.clients.consumer.ConsumerRecord;    public class ConsumerGroup {     public static void main(String[] args) throws Exception {        if(args.length < 2){           System.out.println("Usage: consumer <topic> <groupname>");           return;        }          String topic = args[0].toString();        String group = args[1].toString();        Properties props = new Properties();        props.put("bootstrap.servers", "localhost:9092");        props.put("group.id", group);        props.put("enable.auto.commit", "true");        props.put("auto.commit.interval.ms", "1000");        props.put("session.timeout.ms", "30000");        props.put("key.deserializer",                     "org.apache.kafka.common.serializa-tion.StringDeserializer");        props.put("value.deserializer",            "org.apache.kafka.common.serializa-tion.StringDeserializer");        KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);          consumer.subscribe(Arrays.asList(topic));        System.out.println("Subscribed to topic " + topic);        int i = 0;          while (true) {           ConsumerRecords<String, String> records = con-sumer.poll(100);              for (ConsumerRecord<String, String> record : records)                 System.out.printf("offset = %d, key = %s, value = %sn",                  record.offset(), record.key(), record.value());        }          }    }  

编译

javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java  

执行代码

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":.   ConsumerGroup <topic-name> my-group  >>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":.   ConsumerGroup <topic-name> my-group  

在这里，创建了一个样本组名称作为my-group与两个消费者。 同样，可以在组中创建组和消费者数量。

输入

打开生产者CLI并发送一些消息，如 –

Test consumer group 01  Test consumer group 02  

第一个过程的输出 –

Subscribed to topic Hello-kafka  offset = 3, key = null, value = Test consumer group 01  

第二个过程的输出 –

Subscribed to topic Hello-kafka  offset = 3, key = null, value = Test consumer group 02  

现在希望能通过使用Java客户端演示了解SimpleConsumer和ConsumeGroup。 现在已经了解了如何使用Java客户端发送和接收消息。 在下一章继续 Kafka 与一些大数据技术的整合。

推荐学习目录：Kafka费者群组示例