Kafka的下载安装以及使用

一、Kafka下载

下载地址:https://kafka.apache.org/downloads
在这里插入图片描述

二、Kafka安装

因为选择下载的是 .zip 文件,直接跳过安装,一步到位。
选择在任一磁盘创建空文件夹(不要使用中文路径),解压之后把文件夹内容剪切进去(本人选择 D:\env-java\路径下,即完成安装)。
linux解压命令tar -zxvf kafka_2.13-3.5.1.tgz,linux环境下指令是在\kafka_2.13-3.5.1\bin目录。
windows直接解压即可,windows环境下指令是在kafka_2.13-3.5.1\bin\windows目录。
注意:不同系统指令所在的目录不同。
执行命令当前目录D:\env-java\kafka_2.13-3.5.1

修改 kafka-server 和zookeeper配置

进入到目录:kafka_2.13-3.5.1/config/server.properties以及kafka_2.13-3.5.1/config/zookeeper.properties

  • linux系统:
broker.id=1
log.dir=/Users/imagetask/kafka-logs

在这里插入图片描述

  • windows系统:
broker.id=1
log.dirs=/env-java/kafka_2.13-3.5.1/kafka-logs

在这里插入图片描述
在这里插入图片描述
/:表示当前的根路径,即D盘。没有就会创建对应的文件夹。

三、启动Kafka服务

1、启动ZooKeeper

  • linux系统:
bin/zookeeper-server-start.sh -daemon config/zookeeper.properties
  • windows系统:
bin\windows\zookeeper-server-start.bat config\zookeeper.properties	

2、启动kafka

  • linux系统:
bin/kafka-server-start.sh config/server.properties
  • windows系统:
bin\windows\kafka-server-start.bat config\server.properties

四、Kafka的使用

1、创建主题

  • linux系统:
bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test
  • windows系统:
bin\windows\kafka-topics.bat --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

2、删除主题

  • linux系统:
bin/kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic test
  • windows系统:
bin\windows\kafka-topics.bat --delete --bootstrap-server localhost:9092 --topic test

3、查看Topic 列表

  • linux系统:
bin/kafka-topics.sh --list --bootstrap-server localhost:9092
  • windows系统:
bin\windows\kafka-topics.bat --list --bootstrap-server localhost:9092

4、启动 Producer

  • linux系统:
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
  • windows系统:
bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic test

5、启动 Consumer

  • linux系统:
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning
  • windows系统:
bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test --from-beginning

6、查看Topic 相关信息(test)

  • linux系统:
bin/kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic test
  • windows系统:
bin\windows\kafka-topics.bat --describe --bootstrap-server localhost:9092 --topic test

详细了解可参考以下视频:

实用开发篇-130-Kafka安装

  • 3
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
1/kafka是一个分布式的消息缓存系统 2/kafka集群中的服务器都叫做broker 3/kafka有两类客户端,一类叫producer(消息生产者),一类叫做consumer(消息消费者),客户端和broker服务器之间采用tcp协议连接 4/kafka中不同业务系统的消息可以通过topic进行区分,而且每一个消息topic都会被分区,以分担消息读写的负载 5/每一个分区都可以有多个副本,以防止数据的丢失 6/某一个分区中的数据如果需要更新,都必须通过该分区所有副本中的leader来更新 7/消费者可以分组,比如有两个消费者组A和B,共同消费一个topic:order_info,A和B所消费的消息不会重复 比如 order_info 中有100个消息,每个消息有一个id,编号从0-99,那么,如果A组消费0-49号,B组就消费50-99号 8/消费者在具体消费某个topic中的消息时,可以指定起始偏移量 每个partition只能同一个group中的同一个consumer消费,但多个Consumer Group可同时消费同一个partition。 n个topic可以被n个Consumer Group消费,每个Consumer Group有多个Consumer消费同一个topic Topic在逻辑上可以被认为是一个queue,每条消费都必须指定它的Topic,可以简单理解为必须指明把这条消息放进哪个queue里。为了使得Kafka的吞吐率可以线性提高,物理上把Topic分成一个或多个Partition,每个Partition在物理上对应一个文件夹,该文件夹下存储这个Partition的所有消息和索引文件。若创建topic1和topic2两个topic,且分别有13个和19个分区 Kafka的设计理念之一就是同时提供离线处理和实时处理。根据这一特性,可以使用Storm这种实时流处理系统对消息进行实时在线处理,同时使用Hadoop这种批处理系统进行离线处理,还可以同时将数据实时备份到另一个数据中心,只需要保证这三个操作所使用的Consumer属于不同的Consumer Group即可。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值