kafka2.0-序列化与反序列化_07

概要:先讲讲kafka中简单的序列化方式,以及实现,然后再使用protobuf实现一个自定义序列化的小程序

正如之前文章中写过的例子程序,我们配置的序列化方式都是下面这样的。

//生产者的序列化配置
props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

//消费者的反序列化配置
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer","org.apache.kafka.common.serialization.StringDeserializer");

消息在生产端序列化之后,发送到kafka集群,然后消费端得到消息之后反序列化,取出数据。这就是消息流转的过程。我们之前一直配置的序列化方式都是StringSerializerStringDeserializer
我们来看看StringSerializer的源码,如下:

public class StringSerializer implements Serializer<String> {
   
    private String encoding = "UTF8";

    @Override
    public void configure(Map<String, ?> configs, boolean isKey) {
        String propertyName = isKey ? "key.serializer.encoding" : "value.serializer.encoding";
        Object encodingValue = configs.get(propertyName);
        if (encodingValue == null)
            encodingValue = configs.get("serializer.encoding");
        if (encodingValue instanceof String)
            encoding = (String) encodingValue;
    }

    @Override
    public byte[] serialize(String topic, String data) {
        try {
            if (data == null)
                return null;
            else
                return data.getBytes(encoding);
        } catch (UnsupportedEncodingException e) {
            throw new SerializationException("Error when serializing string to byte[] due to unsupported encoding " + encoding);
        }
    }

    @Override
    public void close() {
        // nothing to do
    }
}

通过上面的源码其实你很容易发现,其本质其实是使用java中的String对象的getBytes方法,只不过它这里稍微封装了一下而已。
除此之外,kafka还提供了其他的一些简单的序列化方式,基本都是针对简单类型的,如下:
这里写图片描述

但是在我们实际的应用中,我们的消息基本上都是复杂的自定义类型,所以这些并不适用。那么如何序列化复杂类型呢?

第一种容易想到的方案就是:json,将复杂类型的对象转化为json字符串,然后还是通过StringSerializerStringDeserializer进行序列化和反序列化,这种方式在实际应用的也经常运用到。
第二种方案就是,使用jdk自带的序列化,这种方案可用,但是效率不高,因为jdk自带的序列化有两个毛病,一方面是序列化速度慢,其次是序列化之后,字节数组太大,基本是对象的两倍。所以在不考虑高效的情况下,可以使用。
第三种方案就是,使用当前业界一些流行的,高效的序列化方案,比如protobuf,Thrift,Avro等等。以protobuf为例,其序列化速度和字节码大小都很不错,但是需要你去生成对应的proto

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值