一、kafka集群安装配置:
1、在kafka官网下载kafka并解压。
2、修改kafka集群中的配置文件
3、
这里broker.id 是用来标识该节点的唯一ID 集群中的机器ID不能相同,跟zookeeper中的myid有点类似。
listeners这个简单来说就是集群中相互通信的配置,监听某个端口。(配置当前节点的ip)
中间一些性能优化的参数可以暂时不管,只需要在最下面修改zookeeper的地址就可以启动了
这里配置的zookeeper集群地址。由于这里连接的是我自己搭建的zookeeper集群,所以kafka内置的zookeeper配置文件可以不用修改。
4、先启动成功zookeeper集群,然后再启动kafka。
加上daemon是以守护线程的方式启动(后台)
当我们开启了三台之后可以去日志文件看看是否报错:
这里我们可以去通过连接到zookeeper的客户点 在zookeeper目录bin目录下 ./zkCli.sh。
然后通过 ls /查看当前节点列表
controller 表示kafka集群里面领导,也就是leader是谁。
kafka选举是利用zookeeper临时节点谁先注册成功。
这个brokers表示组成当前集群的机器有那些,也就是kafka配置文件里面的broker.id。还可以查看topics和seqid。
二、创建topic。我们利用bin目录下的topic
指明zookeeper的地址,这里虽然配置的是集群,但是我们只用填任意一个地址,因为zookeeper集群会请求转发,写操作还是转发到leader节点上处理。
而且我们可以通过zkCli.sh 查看topic列表。也可以通过kafka-topics 的list命令
接下来我们尝试发送与接收消息
1.首先开启一个发送端吧:
2.在另一台机器上开启一个阻塞监听:
其中ip填的是发送端的ip地址 topic后面接的参数是topic名 from-beginning表示从头开始
3.发送一条消息: