部署环境:
虚拟机的版本:VMware-workstation-full-15.5.6-16341506.exe
系统镜像版本:CentOS-7-x86_64-Minimal-1810.iso
系统内存大小:4GB
系统硬盘大小:100GB
主机ip :192.168.238.102
主机ip : 192.168.238.10
Zookeeper :rabbitmq-server-3.7.1-1.el7.noarch.rpm
Kafka :kafka_2.11-0.9.0.1.tgz
安装部署zookeeper服务 (注:一定一定要关闭防火墙)
使用 wge thttps://dlcdn.apache.org/zookeeoer/zookeeper-3.7.1/apache-zookeeoer-3.7.1-bin.tar.gz 命令下载zookeeper安装包。
使用tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz -C /app命令解压到个一文件夹里面。
如果启动zookeeper一定要安装jps包一定要是1.8以上的才能行,使用java -version命令查看是否有安装jps包,如未安装使用yum install java-1.8.0-openjdk-devel.x86_64 命令安装jps1.8。
配置文件修改需要把zoo_sample.cfg重命名为zoo.cfg,使用mv zoo_sample.cfg zoo.cfg命令修改 (注:文件在zookeeper里面的conf里面)(注:由于服务启动的时候默认回去读conf下的zoo.cfg配置文件,如果没有改,会报错!所以我们要把配置文件改名字)。
使用mkdir -p /app/apache-zookeeper-3.7.1/{data,logs} 在zookeeper目录下面创建data,logs文件夹用于保存日志。
在zookeeper的zoo配置文件里面把data和logs目录的路径放进去,保存。
然后创建myid,执行echo 1 > /app/zookeeper/data/myid(第二台主机如法炮制和上面操作方式一样(除了创建myid不一样,把echo 1 改成 echo 2)。)
2台主机的zoo配置文件都需要添加server.1=ip的配置保存后启动zookeeper
配置类型
2台主机使用 ./bin/zkServer.sh start 命令启动zookeeper,后使用 ./bin/zkServer.sh status命令查看主从(follower 从, leader 主)使用jps命令查看zookeeper服务是否启动(出现QuorumPeerMain就说明启来了)
安装部署kafkka服务
使用wget http://apache.opencas.org/kafka/0.9.0.1/kafka_2.11-0.9.0.1.tgz命令下载到指定的目录下面 (/app)使用tar -xzf kafka_2.11-0.9.0.0.tgz解压文件
创建kafka日志文件夹命令是:mkdir -p /app/kafka_2.12-3.0.1/{data,logs}
在config目录里面使用 sed -i "/#/d" server.properties 命令删除注释,修改config文件夹里面的server.properties配置文件(注:broker.id=1 是一台主机的唯一标识,其他主机的broker.id就是2)
第二台主机配置
后续启动kafka查询使用bin/kafka-server-start.sh config/server.properties & 命令启动kafka(如报连接错误,请查看是否zookeeper未启动)
使用 ps -ef|grep kafka 查看进程是否启来
实现zookeeper + kafkka集成
./kafka-topics.sh --create --bootstrap-server 192.168.238.102:2182,192.168.238.10:2183 --replication-factor 2 --partitions 2 --topic test5 命令创建一个test5主题
使用./kafka-topics.sh --list --bootstrap-server 192.168.238.10:9092 命令 列出所有主题
在192.168.238.10主机上发布信息命令是:./kafka-console-producer.sh --broker-list 192.168.238.10:9092 --topic test5
在192.168.238.102主机上接收信息命令是:./kafka-console-consumer.sh --bootstrap-server 192.198.238.102:9092 --topic test5 --from-beginning