Kafka java调用生产者和消费者API

最新推荐文章于 2024-08-13 14:13:36 发布

Called_Kingsley

最新推荐文章于 2024-08-13 14:13:36 发布

阅读量384

点赞数

分类专栏： BigData 文章标签： kafka

本文链接：https://blog.csdn.net/qq_40309183/article/details/106058412

版权

BigData 专栏收录该内容

28 篇文章 0 订阅

订阅专栏

Kafka 使用命令行

1.搭建环境

在自己的Vmware上搭建一个kafka环境

1.下载kafka

2.启动kafka自带的zookeeper

进入kafka安装目录：

bin/zookeeper-server-start.sh config/zookeeper.properties

启动kafka服务

bin/kafka-server-start.sh config/server.properties

这样的话 kafka服务就算起来了。

2.创建Topic

bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

这里创建了一个名为“test”的topic

确认一下创建是否成功：

bin/kafka-topics.sh --list --bootstrap-server localhost:9092

test

CLI显示了test 说明创建成功

3.producer写入消息

这里是用linux命令写入消息

bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic test

This is a message
This is another message

输入两行消息之后，ctrl + c退出输入（每输入一行，按回车时就是将消息写入kafka）

4.consumer消费消息

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic ``test–from-beginning

This is a message
This is another message

这里可以看见 consumer消费了之前producer生产的消息

kafka 使用JAVA API

复用刚才的环境

只需要编写producer的程序和consumer的程序即可

1.java Producer

public class MyKafkaProducer {
    public static void main(String[] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "192.168.179.4:9092");
        props.put("acks", "all");
        props.put("retries", 0);
        props.put("batch.size", 16384);
        props.put("linger.ms", 1);
        props.put("buffer.memory", 33554432);
        props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

        Producer<String, String> producer = new KafkaProducer<>(props);
        for(int i = 0; i < 100; i++) {
            producer.send(new ProducerRecord<String, String>("test", Integer.toString(i), Integer.toString(i)));
            System.out.println("向topic-\"test\"中写入 " + "i");
        }

        producer.close();

    }
}

2.java Consumer

public class MyKafkaConsumer {

    public static void main(String[] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "192.168.179.4:9092");
        props.put("group.id", "test");
        props.put("enable.auto.commit", "true");
        props.put("auto.commit.interval.ms", "1000");
        props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
        consumer.subscribe(Arrays.asList("test"));
        while (true) {
            ConsumerRecords<String, String> records = consumer.poll(100);
            for (ConsumerRecord<String, String> record : records)
                System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
        }

    }
}