实现使用低级API读取指定topic,指定partition,指定offset的数据。
1)消费者使用低级API 的主要步骤:
步骤 主要工作
1 根据指定的分区从主题元数据中找到主副本
2 获取分区最新的消费进度
3 从主副本拉取分区的消息
4 识别主副本的变化,重试
2)方法描述:
findLeader() 客户端向种子节点发送主题元数据,将副本集加入备用节点
getLastOffset() 消费者客户端发送偏移量请求,获取分区最近的偏移量
run() 消费者低级AP I拉取消息的主要方法
findNewLeader() 当分区的主副本节点发生故障,客户将要找出新的主副本
3)代码:
LowerConsumer类
package com.jzd.kafka.consumer;
import java.nio.ByteBuffer;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import kafka.api.FetchRequest;
import kafka.api.FetchRequestBuilder;
import kafka.cluster.BrokerEndPoint;
import kafka.javaapi.FetchResponse;
import kafka.javaapi.PartitionMetadata;
import kafka.javaapi.TopicMetadata;
import kafka.javaapi.TopicMetadataRequest;
import kafka.javaapi.TopicMetadataResponse;
import kafka.javaapi.consumer.SimpleConsumer;
import kafka.javaapi.message.ByteBufferMessageSet;
import kafka.message.MessageAndOffset;
/**
* 根据指定的topic、partition、offset来获取数据
* @author 11205
*/
public class LowerConsumer {
public static void main(String[] args) {
//定义相关参数
List<String> brokers = new ArrayList<>();//kafka集群
brokers.add("192.168.138.132");
brokers.add("192.168.138.133");
brokers.add("192.168.138.131");
//端口号
int port = 9002;
//主题
String topic = "second";
//分区
int partition = 0;
//offset
long offset = 2;
LowerConsumer lc = new LowerConsumer();
lc.getData(brokers, port, topic, partition, offset);
}
//找分区Leader
@SuppressWarnings("deprecation")
private BrokerEndPoint findLeader(List<String> brokers,int port,String topic,int partition) {
for(String broker : brokers) {
//创建获取分区leader的消费者对象
SimpleConsumer getLeader = new SimpleConsumer(broker, port, 1000, 1024*4, "getLeader");
//创建一个主题元数据信息请求
TopicMetadataRequest topicMetadataRequest = new TopicMetadataRequest(Collections.singletonList(topic));
//获取主题元数据返回值
TopicMetadataResponse topicMetadataResponse = getLeader.send(topicMetadataRequest);
//解析元数据返回值
List<TopicMetadata> topicsMetadata = topicMetadataResponse.topicsMetadata();
for(TopicMetadata topicMetadata : topicsMetadata) {
//获取多个分区的元数据信息
List<PartitionMetadata> partitionsMetadata = topicMetadata.partitionsMetadata();
//遍历分区元数据
for(PartitionMetadata partitionMetadata : partitionsMetadata) {
if(partition == partitionMetadata.partitionId()) {
return partitionMetadata.leader();
}
}
}
}
return null;
}
//获取数据
private void getData(List<String> brokers,int port,String topic,int partition,long offset) {
//获取分区leader
BrokerEndPoint leader = findLeader