java/kafka的使用,消费者 ,消费/接受消息,自定义数据/json数据,实战。

前提:需要实现kafka生产者,如果没有实现,请查看我的这篇kafka生产者的使用
https://blog.csdn.net/LB3701/article/details/106933936

发送JSON消息请查看:发送JSON消息,接受JSON消息
**

kafka(卡夫卡消费者)的使用。

**
一,创建消费者MyConsumer.java

package com.kuxingseng.lbw.mq;

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;

import java.time.Duration;
import java.util.Arrays;
import java.util.Properties;

public class MyConsumer implements Runnable {
    private final Logger logger = LoggerFactory.getLogger(this.getClass().getName());

    private Properties props = getProperties();
    private final String TOPIC = "LBW_EPM"; //消费者主题 和消费者主题一样("LBW_EPM")

    @Override
    public void run() {
        //创建消息者实例
        KafkaConsumer<String, KafkaDataConsumer> consumer = new KafkaConsumer<>(props);
        //订阅topic1的消息
        consumer.subscribe(Arrays.asList(TOPIC));
        try {
            while (true) {
                Thread.sleep(3000);
                //到服务器中读取记录
                ConsumerRecords<String, KafkaDataConsumer> records = consumer.poll(Duration.ofMillis(1000));
                for (ConsumerRecord<String, KafkaDataConsumer> record : records) {
                    System.out.println("key:" + record.key());
                    System.out.println("value:" + record.value());
                }
            }
        } catch (InterruptedException e) {
            logger.error("MyConsumer error:", e);
        } finally {
            consumer.close();
        }

    }

    private static Properties getProperties() {
        //配置信息
        Properties props = new Properties();
        //kafka服务器地址
        props.put("bootstrap.servers", "192.168.199.128:9092");
        //必须指定消费者组 "DEMO" 自定义任何值/可以选择已有的消费者组
        props.put("group.id", "DEMO");
        //设置数据key和value的序列化处理类
        props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
//        props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("value.deserializer", "com.kuxingseng.lbw.mq.KafkaEntityDeserializer");
        return props;
    }
}


二,创建一个和生产者一样的实体类KafkaData.java,序列化的时候使用(一般生产者 和消费者是两个服务间的通信,我这里是在同一服务中演示的直接复用)。

package com.kuxingseng.lbw.mq;

import java.util.List;
import java.util.Map;

public class KafkaData {
    private List<Map> listMap;
    private int code = 0;

    public KafkaData() {
    }

    public KafkaData(int code) {
        this.code = code;
    }

    public KafkaData(List<Map> listMap, int code) {
        this.listMap = listMap;
        this.code = code;
    }

    public List<Map> getListMap() {
        return listMap;
    }

    public void setListMap(List<Map> listMap) {
        this.listMap = listMap;
    }

    public int getCode() {
        return code;
    }

    public void setCode(int code) {
        this.code = code;
    }

    @Override
    public String toString() {
        return "KafkaData{" +
                "listMap=" + listMap +
                ", code=" + code +
                '}';
    }

}


三,创建 自定义KafkaEntityDeserializer.java 反序列化器。这里getProperties()用的到【props.put("value.deserializer", "com.kuxingseng.lbw.mq.KafkaEntityDeserializer");

package com.kuxingseng.lbw.mq;

import com.fasterxml.jackson.databind.ObjectMapper;
import org.apache.kafka.common.serialization.Deserializer;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;

import java.io.IOException;
import java.util.Map;

public class KafkaEntityDeserializer implements Deserializer {
    private final Logger logger = LoggerFactory.getLogger(this.getClass().getName());

    private ObjectMapper mapper;

    @Override
    public void configure(Map map, boolean b) {
        mapper = new ObjectMapper();
    }

    @Override
    public Object deserialize(String s, byte[] bytes) {
        try {
            return mapper.readValue(bytes, KafkaData.class);
        } catch (IOException e) {
            logger.error("My Deserializer error:", e);
        }
        return null;
    }

    @Override
    public void close() {

    }
}


验证前提:需要实现kafka生产者/使用kakfa脚本也可以发送消息。kafka生产者发送定义数据

我这里使用SpringBoot 调用接口发送kafka消息,内部再实现kafka消费者。
在这里插入图片描述

  • 0
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
连接Kafka生产和消费JSON格式的消息,可以使用Kafka提供的Java客户端库。以下是一个简单的示例代码: 生产者代码: ```java import java.util.Properties; import org.apache.kafka.clients.producer.KafkaProducer; import org.apache.kafka.clients.producer.ProducerRecord; import org.json.JSONObject; public class KafkaProducerExample { public static void main(String[] args) { // 设置Kafka的配置属性 Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); // 创建Kafka生产者实例 KafkaProducer<String, String> producer = new KafkaProducer<>(props); // 构建JSON格式的消息 JSONObject json = new JSONObject(); json.put("name", "张三"); json.put("age", 25); json.put("address", "北京市朝阳区"); // 发送JSON消息 ProducerRecord<String, String> record = new ProducerRecord<>("test_topic", json.toString()); producer.send(record); // 关闭Kafka生产者实例 producer.close(); } } ``` 消费者代码: ```java import java.util.Collections; import java.util.Properties; import org.apache.kafka.clients.consumer.ConsumerRecords; import org.apache.kafka.clients.consumer.ConsumerRecord; import org.apache.kafka.clients.consumer.KafkaConsumer; import org.json.JSONObject; public class KafkaConsumerExample { public static void main(String[] args) { // 设置Kafka的配置属性 Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); props.put("group.id", "test_group"); // 创建Kafka消费者实例 KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props); // 订阅消息主题 consumer.subscribe(Collections.singletonList("test_topic")); // 循环消费消息 while (true) { ConsumerRecords<String, String> records = consumer.poll(100); for (ConsumerRecord<String, String> record : records) { // 解析JSON格式的消息 JSONObject json = new JSONObject(record.value()); String name = json.getString("name"); int age = json.getInt("age"); String address = json.getString("address"); System.out.printf("收到消息:name=%s, age=%d, address=%s\n", name, age, address); } } // 关闭Kafka消费者实例 consumer.close(); } } ``` 请注意,以上示例代码仅用于演示如何在Java中连接Kafka并生产/消费JSON格式的消息。实际应用中可能需要更复杂的代码来处理错误、配置和批量处理等问题。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值