安装环境:
linux,centos7,主机ip:192.168.203.128
1、kafka需要zookeeper管理,所以需要先安装zookeeper。
下载zookeeper镜像
docker pull wurstmeister/zookeeper
2、启动镜像生成容器
docker run -d --restart=always --log-driver json-file --log-opt max-size=100m --log-opt max-file=2 --name zookeeper -p 2181:2181 -v /etc/localtime:/etc/localtime wurstmeister/zookeeper
3、下载kafka镜像
docker pull wurstmeister/kafka
4、启动镜像生成容器
docker run -d --name kafka --publish 9092:9092 --link zookeeper --env KAFKA_ZOOKEEPER_CONNECT=zookeeper:2181 --env KAFKA_ADVERTISED_HOST_NAME=192.168.203.128
--env KAFKA_ADVERTISED_PORT=9092 --volume /etc/localtime:/etc/localtime docker.io/wurstmeister/kafka
参数说明:
-e KAFKA_BROKER_ID=0 在kafka集群中,每个kafka都有一个BROKER_ID来区分自己
-e KAFKA_ZOOKEEPER_CONNECT=172.20.10.10:2181/kafka 配置zookeeper管理kafka的路径172.20.10.10:2181/kafka
-e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://172.20.10.10:9092 把kafka的地址端口注册给zookeeper,如果是远程访问要改成外网IP,类如Java程序访问出现无法连接。
-e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 配置kafka的监听端口
-v /etc/localtime:/etc/localtime 容器时间同步虚拟机的时间
5、验证kafka是否可以使用
5.1、进入容器
docker exec -it kafka bash
5.2、进入 /opt/kafka_2.12-2.3.0/bin/ 目录下
cd /opt/kafka_2.12-2.3.0/bin/
5.3、运行kafka生产者发送消息
./kafka-console-producer.sh --broker-list localhost:9092 --topic sun
发送消息
hello word!
5.4、运行kafka消费者接收消息
./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic sun --from-beginning
6、kafka调试常用命令
删除主题
./kafka-topics.sh --delete --zookeeper ip:2181 --topic test
增加分区
./kafka-topics.sh --zookeeper 192.168.203.128:2181 -alter --partitions 2 --topic test01
7、java实现kafka的用例
配置文件application.yml
server:
port: 9889
servlet:
context-path: /dm-kafka
spring:
application:
name: dm-kafka
profiles:
active: dev
kafka:
bootstrap-servers: 192.168.203.128:9092 #集群用 , 隔开
producer:
key-serializer: org.apache.kafka.common.serialization.StringSerializer
value-serializer: org.apache.kafk