用java(idea)来测试kafka中的生产者和消费者

一、检查环境
先把linux中的zookeeper和kafka都安装,并且启动完成。
在这里插入图片描述
二、idea环境
打开idea并且创建maven项目。(不会的自己去百度)
pow.xml

<dependencies>
    <dependency>
        <groupId>org.apache.kafka</groupId>
        <artifactId>kafka_2.12</artifactId>
        <version>1.0.0</version>
        <scope>provided</scope>
    </dependency>

    <dependency>
        <groupId>org.apache.kafka</groupId>
        <artifactId>kafka-clients</artifactId>
        <version>1.0.0</version>
    </dependency>

    <dependency>
        <groupId>org.apache.kafka</groupId>
        <artifactId>kafka-streams</artifactId>
        <version>1.0.0</version>
    </dependency>
</dependencies>
    <build>
        <plugins>
            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-compiler-plugin</artifactId>
                <version>3.2</version>
                <configuration>
                    <source>1.8</source>
                    <target>1.8</target>
                </configuration>
            </plugin>
        </plugins>
    </build>

生产者:

import org.apache.kafka.clients.producer.*;
import org.apache.kafka.common.serialization.StringSerializer;
import java.util.Properties;
/**
 * @ClassName: ProducerDemo
 * @author: zhl
 * @date: 2019/11/20  9:33
 */
public class ProducerDemo  {  public static void main(String[] args) {
            String topicName = "HelloWorld";//这个是创建好的topic

            // create instance for properties to access producer configs
            Properties props = new Properties();

            //这里是填你linux的ip地址:kafka的端口号
            props.put("bootstrap.servers", "192.168.137.128:9092");

            //Set acknowledgements for producer requests.
            props.put("acks", "all");

            //If the request fails, the producer can automatically retry,
            props.put("retries", 0);

            //Specify buffer size in config
            props.put("batch.size", 16384);

            //Reduce the no of requests less than 0
            props.put("linger.ms", 1);

            //The buffer.memory controls the total amount of memory available to the producer for buffering.
            props.put("buffer.memory", 33554432);

            props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
            props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
            Producer<String, String> producer = new KafkaProducer<String, String>(props);

            for (int i = 0; i < 10; i++)
                producer.send(new ProducerRecord<String, String>(topicName, Integer.toString(i), Integer.toString(i)));
            System.out.println("Message sent successfully");
            producer.close();
        }
}

消费者:

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.common.serialization.StringDeserializer;
import java.util.Arrays;
import java.util.Properties;

/**
 * @ClassName: ConsumerDemo
 * @author: zhl
 * @date: 2019/11/20  9:33
 */
public class ConsumerDemo {
public static void main(String[] args) throws Exception
{

    //Kafka consumer configuration settings
    String topicName = "HelloWorld";//创建好的topic
    Properties props = new Properties();

    props.put("bootstrap.servers", "192.168.137.128:9092");//地址和端口号
    props.put("group.id", "test");
    props.put("enable.auto.commit", "true");
    props.put("auto.commit.interval.ms", "1000");
    props.put("session.timeout.ms", "30000");
    props.put("key.deserializer", StringDeserializer.class.getName());
    props.put("value.deserializer", StringDeserializer.class.getName());
    KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);

    //Kafka Consumer subscribes list of topics here.
    consumer.subscribe(Arrays.asList(topicName));

    //print the topic name
    System.out.println("Subscribed to topic " + topicName);
    int i = 0;

    while (true)
    {
        ConsumerRecords<String, String> records = consumer.poll(100);
        for (ConsumerRecord<String, String> record : records)

            // print the offset,key and value for the consumer records.
            System.out.printf("offset = %d, key = %s, value = %s\n", record.offset(), record.key(), record.value());
    }
}
}

备注:
1,如果,不会创建topic的话,看这篇文章,这里面包括topic的查看,销毁,创建,打开生产者和消费者的命令都有kafka命令大全
2,先执行ConsumerDemo(消费者),再执行ProducerDemo(生产者)。因为执行好了消费者之后,你才能去生产,执行了之后,消费者就相当于再等待生产。执行了之后的界面如下:
生产者页面:
在这里插入图片描述
消费者页面:
在这里插入图片描述
此时打开linux里面的消费者,然后再执行生产者的代码,也能看到消费:
在这里插入图片描述
注:如果执行了消费者,再执行生产者之后,发现消费者没数据:接着你就来看这篇文章:测试生产者和消费者代码,发现消费者并没有输出数据,怎么办?(Kafka服务器允许客户端远程连接)

  • 1
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 可以使用JavaIDEA)来连接Spark Streaming和Kafka,并测试生产者消费者。具体步骤如下: 1. 首先需要在pom.xml文件添加Kafka和Spark Streaming的依赖。 2. 创建一个KafkaProducer类,用于向Kafka发送消息。 3. 创建一个KafkaConsumer类,用于从Kafka接收消息。 4. 在Spark Streaming创建一个DStream,用于接收Kafka的消息。 5. 对接收到的消息进行处理,并将结果输出到控制台或其他地方。 6. 运行程序,测试生产者消费者是否正常工作。 注意事项: 1. 需要确保Kafka和Spark Streaming的版本兼容。 2. 在连接Kafka时,需要指定Kafka的地址和端口号。 3. 在创建DStream时,需要指定Kafka的topic名称。 4. 在处理消息时,需要根据实际情况进行解析和处理。 ### 回答2: 在Java开发连接Spark Streaming和Kafka可以很容易地实现,本文将演示如何使用JavaIDEA)连接Spark Streaming和Kafka,并测试生产者消费者。 1. Spark Streaming和Kafka的环境准备 在开始编码前,需要做一些环境准备工作,如安装Java、Scala、Spark和Kafka等软件,并建立它们的环境变量及配置文件。 2. Spark Streaming和Kafka的依赖引入 在开发Java代码时,需要在IDEA引入Spark Streaming、Kafka和相关的依赖库,例如spark-streaming、kafka-clients、logging等库。 3. 生产者代码编写 生产者的作用是向Kafka发送数据,以下是示例代码: ``` Properties kafkaProps = new Properties(); kafkaProps.put("bootstrap.servers", "localhost:9092"); kafkaProps.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); kafkaProps.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); Producer<String, String> producer = new KafkaProducer<String, String>(kafkaProps); String topic = "test"; String message = "Hello, Kafka"; producer.send(new ProducerRecord<String, String>(topic, message)); ``` 在这段代码,首先配置了Kafka的地址和序列化方式,然后创建了一个Kafka生产者对象,指定了发送的主题和消息内容,并调用send方法将消息发送到Kafka。 4. 消费者代码编写 消费者的作用是从Kafka接收数据,并进行处理,以下是示例代码: ``` Properties kafkaProps = new Properties(); kafkaProps.put("bootstrap.servers", "localhost:9092"); kafkaProps.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); kafkaProps.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); String topic = "test"; Consumer<String, String> consumer = new KafkaConsumer<String, String>(kafkaProps); consumer.subscribe(Arrays.asList(topic)); while (true) { ConsumerRecords<String, String> records = consumer.poll(Duration.ofSeconds(1)); for (ConsumerRecord<String, String> record : records) { System.out.println("Received: " + record.value()); } } ``` 在这段代码,首先也是配置了Kafka的地址和反序列化方式,然后创建了一个Kafka消费者对象,指定了接收的主题,然后循环读取Kafka的消息,并进行处理。 5. 连接Spark Streaming和Kafka 最后,将生产者消费者代码与Spark Streaming进行集成,以下是示例代码: ``` JavaStreamingContext jssc = new JavaStreamingContext(sparkConf, Durations.seconds(1)); Map<String, Object> kafkaParams = new HashMap<String, Object>(); kafkaParams.put("bootstrap.servers", "localhost:9092"); Set<String> topics = Collections.singleton("test"); JavaInputDStream<ConsumerRecord<String, String>> messages = KafkaUtils.createDirectStream( jssc, LocationStrategies.PreferConsistent(), ConsumerStrategies.<String, String>Subscribe(topics, kafkaParams)); messages.foreachRDD(rdd -> { rdd.foreach(record -> { System.out.println("Received: " + record.value()); }); }); jssc.start(); jssc.awaitTermination(); ``` 在这段代码,首先创建了一个Spark Streaming的上下文对象,然后配置了Kafka的地址等信息,指定了数据接收的主题,最后通过createDirectStream方法创建了一个DStream对象,并进行处理。 6. 运行测试 将上述代码运行起来,并通过Kafka的控制台命令进行消息的发送和接收,如果能够正常收发消息,则说明代码已经成功连接了Spark Streaming和Kafka。 以上就是使用JavaIDEA)连接Spark Streaming和Kafka,并测试生产者消费者的完整流程,如对Java编程感兴趣的读者,可以参考相关的开发文档和案例进行学习和实践。 ### 回答3: 使用JavaIDEA)连接Spark Streaming和Kafka,需要按照以下步骤进行操作: 1. 在pom.xml配置相关依赖项,包括Spark、Kafka和相关的Spark Streaming和KafkaJava API。 2. 创建一个Java程序,用于连接Spark和Kafka。在程序,需要实现KafkaProducer和KafkaConsumer发送和接收消息。 3. 创建一个Java程序,用于连接Spark Streaming和Kafka。在程序,需要使用Spark Streaming的Java API读取从Kafka主题接收到的数据,并将数据以RDD(弹性分布式数据集)的形式输出。 4. 在IDEA进行测试生产者消费者。可以通过创建一个Kafka生产者来发送简单数据,然后编写一个Kafka消费者来接收并处理这些数据。 其,关键的步骤是连接Spark Streaming和Kafka。在Java程序,使用KafkaUtils类的API来创建一个DStream对象,该对象可以使用Spark Streaming读取Kafka主题的数据。 具体实现如下: 1. 在pom.xml添加以下依赖: <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-streaming_2.11</artifactId> <version>2.4.7</version> </dependency> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-streaming-kafka-0-10_2.11</artifactId> <version>2.4.7</version> </dependency> <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>2.0.0</version> </dependency> 2. 创建一个Java程序,用于连接Spark和Kafka。以下是示例代码: public class SparkKafkaExample { public static void main(String[] args) throws Exception { // 配置SparkConf SparkConf conf = new SparkConf().setMaster("local[*]").setAppName("SparkKafkaExample"); // 创建Spark Streaming对象并设置批次时间间隔为1秒 JavaStreamingContext jssc = new JavaStreamingContext(conf, Durations.seconds(1)); // 创建Kafka源接口 Map<String, Object> kafkaParams = new HashMap<>(); kafkaParams.put("bootstrap.servers", "localhost:9092"); kafkaParams.put("key.serializer", StringSerializer.class); kafkaParams.put("value.serializer", StringSerializer.class); kafkaParams.put("key.deserializer", StringDeserializer.class); kafkaParams.put("value.deserializer", StringDeserializer.class); kafkaParams.put("group.id", "test"); // 创建从Kafka源读取的DStream Collection<String> topics = Arrays.asList("test_topic"); JavaInputDStream<ConsumerRecord<String, String>> kafkaStream = KafkaUtils.createDirectStream(jssc, LocationStrategies.PreferConsistent(), ConsumerStrategies.<String, String>Subscribe(topics, kafkaParams)); // 提取DStream的数据 JavaDStream<String> lines = kafkaStream.map(ConsumerRecord::value); // 打印结果 lines.print(); // 启动Spark Streaming jssc.start(); jssc.awaitTermination(); } } 3. 创建一个Java程序,用于发送和接收Kafka消息。以下是示例代码: public class KafkaProducerExample { public static void main(String[] args) { String bootstrapServers = "localhost:9092"; String topic = "test_topic"; String message = "hello, Kafka! from Java"; Properties props = new Properties(); props.put("bootstrap.servers", bootstrapServers); props.put("key.serializer", StringSerializer.class); props.put("value.serializer", StringSerializer.class); KafkaProducer<String, String> producer = new KafkaProducer<>(props); ProducerRecord<String, String> record = new ProducerRecord<>(topic, message); try { producer.send(record); } catch (Exception e) { e.printStackTrace(); } finally { producer.close(); } } } public class KafkaConsumerExample { public static void main(String[] args) { String bootstrapServers = "localhost:9092"; String groupId = "test"; String topic = "test_topic"; Properties props = new Properties(); props.put("bootstrap.servers", bootstrapServers); props.put("key.deserializer", StringDeserializer.class); props.put("value.deserializer", StringDeserializer.class); props.put("group.id", groupId); KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props); consumer.subscribe(Collections.singleton(topic)); while (true) { ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(100)); for (ConsumerRecord<String, String> record : records) { System.out.println("Received message: " + record.value()); } } } } 4. 在IDEA运行KafkaProducerExample和KafkaConsumerExample程序进行测试。 总之,连接Spark Streaming和Kafka的过程并不复杂,只需按照上述步骤进行操作,并正确地配置代码即可轻松实现。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值