Apache Kafka:使用java和命令行方式操作topic(admin api)

当前版本:kafka_2.12-2.8.0

1. 声明

当前内容主要为本人学习kafka的topic的增删改查操作,当前内容参考官方文档

  1. 其中--bootstrap-server表示当前的kafka的地址和端口
  2. --topic指定的就是主题名称
  3. --create,--delete,--alter,--list/--describe表示各种操作

2. 使用命令行的操作

首先启动zookeeper,然后启动当前的kafka(当前kafka启动在192.168.1.105:9092

1.创建topic

./bin/kafka-topics.sh --create --topic test-events --bootstrap-server 192.168.1.105:9092

2.查询topic

./bin/kafka-topics.sh --describe --bootstrap-server 192.168.1.105:9092
./bin/kafka-topics.sh --list --bootstrap-server 192.168.1.105:9092

第一个是查询所有的topic并显示详细信息,第二个是只显示topic的名称

3.删除topic

./bin/kafka-topics.sh --bootstrap-server 192.168.1.105:9092 --delete --topic test-events

4.修改topic(只能修改config信息)

./bin/kafka-topics.sh --bootstrap-server 192.168.1.105:9092 --alter --topic test-events --partitions 40

3. 使用java方式的操作

导入pom依赖

<dependency>
	<groupId>org.apache.kafka</groupId>
	<artifactId>kafka_2.12</artifactId>
	<version>2.8.0</version>
</dependency>
<dependency>
	<groupId>org.apache.kafka</groupId>
	<artifactId>kafka-clients</artifactId>
	<version>2.8.0</version>
</dependency>
import java.util.Properties;
import java.util.Set;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;
import org.apache.kafka.clients.admin.AdminClient;
import org.apache.kafka.clients.admin.CreateTopicsResult;
import org.apache.kafka.clients.admin.DeleteTopicsResult;
import org.apache.kafka.clients.admin.KafkaAdminClient;
import org.apache.kafka.clients.admin.ListTopicsResult;
import org.apache.kafka.clients.admin.NewTopic;
import org.apache.kafka.common.KafkaFuture;

import java.util.Arrays;
import java.util.HashSet;
import java.util.Map;

/**
 * 
 * @author hy
 * @createTime 2021-05-30 13:54:03
 * @description 当前内容主要为测试和使用Kafka的admin api
 * 		主要为当前的topic的基本操作
 *
 */
public class AdminApiTest {
	public static void main(String[] args) throws InterruptedException, ExecutionException, TimeoutException {
		Properties props = new Properties();
		props.put("bootstrap.servers", "192.168.1.105:9092");
		AdminClient client = KafkaAdminClient.create(props);
		//addTopic(client, "test-create1");
		listTopics(client);
		deleteTopic(client, "test-create1");
		listTopics(client);
		
		// create.close();
		client.close(2l, TimeUnit.SECONDS);
	}

	/**
	 * 
	 * @author hy
	 * @createTime 2021-08-08 15:02:22
	 * @description 列出当前kafka的所有的主题
	 * @param client
	 *
	 */
	private static void listTopics(AdminClient client) {
		ListTopicsResult listTopics = client.listTopics();
		KafkaFuture<Set<String>> names = listTopics.names();
		Set<String> topicSet = new HashSet<String>();
		try {
			topicSet = names.get();
		} catch (InterruptedException | ExecutionException e) {
			// TODO Auto-generated catch block
			e.printStackTrace();
		}
		System.out.println(topicSet);
	}

	/**
	 * 
	 * @author hy
	 * @createTime 2021-08-08 16:10:09
	 * @description 添加主题操作
	 * @param client
	 * @param topicName
	 * @throws InterruptedException
	 * @throws ExecutionException
	 *
	 */
	private static void addTopic(AdminClient client, String topicName) throws InterruptedException, ExecutionException {
		// 创建一个topic并设置分区为1,设置复制数量为1
		// 注意Number of partitions must be larger than 0.
		// Replication factor must be larger than 0.
		NewTopic newTopic = new NewTopic(topicName, 1, (short) 1);
		CreateTopicsResult createTopicsResult = client.createTopics(Arrays.asList(newTopic));
		Map<String, KafkaFuture<Void>> values = createTopicsResult.values();
		values.forEach((key, value) -> {

				System.out.println("key=" + key + ",value=" + value.isDone());
			
		});
		
	}
	
	/**
	 * 
	 * @author hy
	 * @createTime 2021-08-08 16:11:20
	 * @description 执行当前删除主题的操作
	 * @param client
	 * @param topicName
	 *
	 */
	private static void deleteTopic(AdminClient client, String topicName) {
		DeleteTopicsResult deleteTopicsResult = client.deleteTopics(Arrays.asList(topicName));
		Map<String, KafkaFuture<Void>> values = deleteTopicsResult.values();
		System.out.println(values);
	}
	
	
}

测试成功

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
如果您想获取Kafka Topic的偏移量,而不想订阅它,可以使用KafkaAdminClient API。以下是获取Kafka Topic偏移量的示例代码: ```java import org.apache.kafka.clients.admin.AdminClient; import org.apache.kafka.clients.admin.AdminClientConfig; import org.apache.kafka.clients.admin.ListConsumerGroupOffsetsResult; import org.apache.kafka.clients.admin.ListConsumerGroupsResult; import org.apache.kafka.clients.admin.ListConsumerGroupOffsetsOptions; import org.apache.kafka.clients.admin.ListConsumerGroupsOptions; import org.apache.kafka.clients.admin.ListOffsetsResult; import org.apache.kafka.clients.admin.OffsetSpec; import org.apache.kafka.clients.admin.TopicDescription; import org.apache.kafka.clients.admin.TopicListing; import org.apache.kafka.common.TopicPartition; import org.apache.kafka.common.serialization.StringDeserializer; import java.util.Collections; import java.util.Properties; import java.util.Set; import java.util.concurrent.ExecutionException; public class KafkaTopicOffsetExample { private static final String BOOTSTRAP_SERVERS = "localhost:9092"; private static final String GROUP_ID = "my-group"; private static final String TOPIC_NAME = "my-topic"; public static void main(String[] args) throws ExecutionException, InterruptedException { // 创建AdminClient实例 Properties props = new Properties(); props.put(AdminClientConfig.BOOTSTRAP_SERVERS_CONFIG, BOOTSTRAP_SERVERS); AdminClient adminClient = AdminClient.create(props); // 获取Topic Description Set<String> topicNames = Collections.singleton(TOPIC_NAME); var topicDesc = adminClient.describeTopics(topicNames).all().get().get(TOPIC_NAME); // 获取Topic Partitions var partitions = topicDesc.partitions(); // 获取偏移量 ListOffsetsResult listOffsetsResult = adminClient.listOffsets(Collections.singletonMap(new TopicPartition(TOPIC_NAME, 0), OffsetSpec.latest())); long offset = listOffsetsResult.values().get(new TopicPartition(TOPIC_NAME, 0)).get().offset(); System.out.println("Offset: " + offset); // 关闭AdminClient adminClient.close(); } } ``` 在这个例子中,我们使用KafkaAdminClient类获取Kafka Topic的偏移量。首先,我们创建AdminClient实例并获取Topic Description和Partitions。然后,我们使用listOffsets()方法获取Topic的最新偏移量。最后,我们打印偏移量并关闭AdminClient。注意,我们在这个例子中只获取了一个分区的偏移量,如果您想获取所有分区的偏移量,需要在listOffsets()方法中传递一个TopicPartition列表。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值