kafka学习--04(消费者低级API)

实现使用低级API读取指定topic,指定partition,指定offset的数据。
1)消费者使用低级API 的主要步骤:
步骤 主要工作
1 根据指定的分区从主题元数据中找到主副本
2 获取分区最新的消费进度
3 从主副本拉取分区的消息
4 识别主副本的变化,重试
2)方法描述:
findLeader() 客户端向种子节点发送主题元数据,将副本集加入备用节点
getLastOffset() 消费者客户端发送偏移量请求,获取分区最近的偏移量
run() 消费者低级AP I拉取消息的主要方法
findNewLeader() 当分区的主副本节点发生故障,客户将要找出新的主副本
3)代码:
LowerConsumer类

package com.jzd.kafka.consumer;

import java.nio.ByteBuffer;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;

import kafka.api.FetchRequest;
import kafka.api.FetchRequestBuilder;
import kafka.cluster.BrokerEndPoint;
import kafka.javaapi.FetchResponse;
import kafka.javaapi.PartitionMetadata;
import kafka.javaapi.TopicMetadata;
import kafka.javaapi.TopicMetadataRequest;
import kafka.javaapi.TopicMetadataResponse;
import kafka.javaapi.consumer.SimpleConsumer;
import kafka.javaapi.message.ByteBufferMessageSet;
import kafka.message.MessageAndOffset;


/**
 * 根据指定的topic、partition、offset来获取数据
 * @author 11205
 */
public class LowerConsumer {
   
	
	public static void main(String[] args) {
   
		//定义相关参数
		List<String> brokers = new ArrayList<>();//kafka集群
		brokers.add("192.168.138.132");
		brokers.add("192.168.138.133");
		brokers.add("192.168.138.131");
		//端口号
		int port = 9002;
		//主题
		String topic = "second";
		//分区
		int partition = 0;
		//offset
		long offset = 2;
		
		LowerConsumer lc = new LowerConsumer();	
		lc.getData(brokers, port, topic, partition, offset);
	}
	
	//找分区Leader
	@SuppressWarnings("deprecation")
	private BrokerEndPoint findLeader(List<String> brokers,int port,String topic,int partition) {
   
		for(String broker : brokers) {
   
			//创建获取分区leader的消费者对象
			SimpleConsumer getLeader = new SimpleConsumer(broker, port, 1000, 1024*4, "getLeader");
			//创建一个主题元数据信息请求
			TopicMetadataRequest topicMetadataRequest = new TopicMetadataRequest(Collections.singletonList(topic));
			//获取主题元数据返回值
			TopicMetadataResponse topicMetadataResponse = getLeader.send(topicMetadataRequest);
			//解析元数据返回值
			List<TopicMetadata> topicsMetadata = topicMetadataResponse.topicsMetadata();
			for(TopicMetadata topicMetadata : topicsMetadata) {
   
				//获取多个分区的元数据信息
				List<PartitionMetadata>  partitionsMetadata = topicMetadata.partitionsMetadata();
				//遍历分区元数据
				for(PartitionMetadata partitionMetadata : partitionsMetadata) {
   
					if(partition == partitionMetadata.partitionId()) {
   
						return partitionMetadata.leader();
					}
				}
			}
		}
		
		return null;
	}
	
	//获取数据
	private void getData(List<String> brokers,int port,String topic,int partition,long offset) {
   
		//获取分区leader
		BrokerEndPoint leader = findLeader
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值