37-38-kafka-自定义拦截器

37-kafka-自定义拦截器：

自定义 Interceptor

拦截器原理

Producer 拦截器(interceptor)是在 Kafka 0.10 版本被引入的，主要用于实现 clients 端的定 制化控制逻辑。 对于 producer 而言，interceptor 使得用户在消息发送前以及 producer 回调逻辑前有机会 对消息做一些定制化需求，比如修改消息等。同时，producer 允许用户指定多个 interceptor 按序作用于同一条消息从而形成一个拦截链(interceptor chain)。Intercetpor 的实现接口是 org.apache.kafka.clients.producer.ProducerInterceptor，其定义的方法包括：

（1）configure(configs)

获取配置信息和初始化数据时调用。

（2）onSend(ProducerRecord)：

该方法封装进 KafkaProducer.send 方法中，即它运行在用户主线程中。Producer 确保在

消息被序列化以及计算分区前调用该方法。用户可以在该方法中对消息做任何操作，但最好

保证不要修改消息所属的 topic 和分区，否则会影响目标分区的计算。

（3）onAcknowledgement(RecordMetadata, Exception)：

该方法会在消息从 RecordAccumulator 成功发送到 Kafka Broker 之后，或者在发送过程

中失败时调用。并且通常都是在 producer 回调逻辑触发之前。onAcknowledgement 运行在 producer 的 IO 线程中，因此不要在该方法中放入很重的逻辑，否则会拖慢 producer 的消息 发送效率。

（4）close：

关闭 interceptor，主要用于执行一些资源清理工作 如前所述，interceptor 可能被运行在多个线程中，因此在具体实现时用户需要自行确保 线程安全。另外倘若指定了多个 interceptor，则 producer 将按照指定顺序调用它们，并仅仅 是捕获每个 interceptor 可能抛出的异常记录到错误日志中而非在向上传递。这在使用过程中要特别留意。

尚硅谷案例测试：

1）需求：

实现一个简单的双 interceptor 组成的拦截链。第一个 interceptor 会在消息发送前将时间

戳信息加到消息 value 的最前部；第二个 interceptor 会在消息发送后更新成功发送消息数或失败发送消息数。

时间拦截器

package zh.kafka.interceptor;
import org.apache.kafka.clients.producer.ProducerInterceptor;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.clients.producer.RecordMetadata;
import java.util.Map;
public class TimeInterceptor implements ProducerInterceptor<String,String> {

    public void configure(Map<String, ?> configs) {

    }

    public ProducerRecord<String, String> onSend(ProducerRecord<String, String> record) {
        //取出具体数据
        String value = record.value();

        //创建信息producer对象用来返回
        return new ProducerRecord<String, String>(record.topic(),record.partition(),record.key(),
                System.currentTimeMillis()+"-"+value);
    }
    public void onAcknowledgement(RecordMetadata metadata, Exception exception) {

    }
    public void close() {

    }

}

计数拦截器

package zh.kafka.interceptor;
import org.apache.kafka.clients.producer.ProducerInterceptor;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.clients.producer.RecordMetadata;
import java.util.Map;
public class CounterInterceptor implements ProducerInterceptor<String,String> {
    private int successCount;
    private int errorCount;
    public ProducerRecord<String, String> onSend(ProducerRecord<String, String> record) {
        return record;
    }
    public void onAcknowledgement(RecordMetadata metadata, Exception exception) {
        if (metadata!=null){
            successCount++;
        }else {
            errorCount++;
        }
    }
    public void close() {
        System.out.println("success size:"+successCount);
        System.out.println("error size:"+errorCount);
    }
    public void configure(Map<String, ?> configs) {

    }
}

案例测试，带拦截器的生产者

package zh.kafka.producer;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.ProducerConfig;
import org.apache.kafka.clients.producer.ProducerRecord;
import java.util.Arrays;
import java.util.Properties;
public class InterceptorProducer {
    public static void main(String[] args) {
        //创建Kafka生产者的配置信息
        Properties props = new Properties();
        //指定连接的kafka集群
        props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "hadoop102:9092");
        //Key，Value的序列化类
        props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringSerializer");
        props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringSerializer");

        //添加拦截器,注意拦截器顺序
        props.put(ProducerConfig.INTERCEPTOR_CLASSES_CONFIG, Arrays.asList("zh.kafka.interceptor.TimeInterceptor",
                "zh.kafka.interceptor.CounterInterceptor"));
        //创建生产者对象
        KafkaProducer<String, String> kafkaProducer = new KafkaProducer<String, String>(props);

        //发送数据
        for(int i=0;i<10;i++){
            kafkaProducer.send(new ProducerRecord<String,String>("first","ceshi_"+i));
        }
		System.out.println("**************");
        //关闭资源
        kafkaProducer.close();
    }
}

学习路径：https://space.bilibili.com/302417610/，如有侵权，请联系q进行删除：3623472230