kafka集群搭建--亲测

1、软件环境

1、三台虚拟机192.168.0.66（mdw），192.168.0.67（sdw1），192.168.0.68（sdw2）
2、已经搭建好的zookeeper集群，ZK的搭建可以参考链接
https://blog.csdn.net/weixin_43120559/article/details/105531275
3、软件版本kafka_2.11-0.9.0.1.tgz

2、准备好kafka安装包

官网下载地址： http://kafka.apache.org/downloads.html，我下载的是kafka_2.11-2.4.1

3、开始安装

3.1 上传 kafka_2.11-2.4.1.tgz 到 /opt/tools/   目录下
3.2 解压 kafka_2.11-2.4.1.tgz 到 /opt/apps/    目录下
解压命令: tar -zvxf  /opt/tools/kafka_2.11-2.4.1.tgz -C /opt/apps/
3.3 建立软链接： ln -s /opt/apps/kafka_2.11-2.4.1 /opt/apps/kafka
配置环境变量：hadoop下的.bashrc文件
#set kafka environment
export KAFKA_HOME=/opt/apps/kafka
export PATH=${KAFKA_HOME}/bin:$PATH
3.4 进入config目录 cd /opt/apps/kafka/config
	主要关注server.properties 这个文件即可，我们可以发现在目录下：有很多文件，这里可以发现有Zookeeper文件，我们可以根据Kafka内带的zk集群来启动，但是建议使用独立的zk集群
3.5 修改配置文件
broker.id=0  #当前机器在集群中的唯一标识，和zookeeper的myid性质一样
port=19092 #当前kafka对外提供服务的端口默认是9092
host.name=192.168.7.100 #这个参数默认是关闭的，在0.8.1有个bug，DNS解析问题，失败率的问题。
num.network.threads=3 #这个是borker进行网络处理的线程数
num.io.threads=8 #这个是borker进行I/O处理的线程数
log.dirs=/opt/kafka/kafkalogs/ #消息存放的目录，这个目录可以配置为“，”逗号分割的表达式，上面的num.io.threads要大于这个目录的个数这个目录，如果配置多个目录，新创建的topic他把消息持久化的地方是，当前以逗号分割的目录中，那个分区数最少就放那一个
socket.send.buffer.bytes=102400 #发送缓冲区buffer大小，数据不是一下子就发送的，先回存储到缓冲区了到达一定的大小后在发送，能提高性能
socket.receive.buffer.bytes=102400 #kafka接收缓冲区大小，当数据到达一定大小后在序列化到磁盘
socket.request.max.bytes=104857600 #这个参数是向kafka请求消息或者向kafka发送消息的请请求的最大数，这个值不能超过java的堆栈大小
num.partitions=1 #默认的分区数，一个topic默认1个分区数
log.retention.hours=168 #默认消息的最大持久化时间，168小时，7天
message.max.byte=5242880  #消息保存的最大值5M
default.replication.factor=2  #kafka保存消息的副本数，如果一个副本失效了，另一个还可以继续提供服务
replica.fetch.max.bytes=5242880  #取消息的最大直接数
log.segment.bytes=1073741824 #这个参数是：因为kafka的消息是以追加的形式落地到文件，当超过这个值的时候，kafka会新起一个文件
log.retention.check.interval.ms=300000 #每隔300000毫秒去检查上面配置的log失效时间（log.retention.hours=168 ），到目录查看是否有过期的消息如果有，删除
log.cleaner.enable=false #是否启用log压缩，一般不用启用，启用的话可以提高性能
zookeeper.connect=192.168.7.100:12181,192.168.7.101:12181,192.168.7.107:1218 #设置zookeeper的连接端口

实际修改的是：
broker.id=3
listeners=PLAINTEXT://192.168.0.66:9092
zookeeper.connect=192.168.0.66:2181,192.168.0.67:2181,192.168.0.68:2181
3.6 复制到其他节点：
scp -r kafka  sdw1:/opt/apps
注意其他节点的配置文件需要修改

4、启动kafka（确保ZK已启动）

1、三台主机分别启动（在$kafaka路径下启动）

/opt/apps/kafka/bin/kafka-server-start.sh -daemon config/server.properties

启动报错：
查看日志：

[hadoop@mdw logs]$ cat kafkaServer.out Java HotSpot™ 64-Bit Server
VM warning: INFO: os::commit_memory(0x00000000c0000000, 1073741824, 0)
failed; error=‘Cannot allocate memory’ (errno=12)

报错原因：

  Kafka默认使用的JVM内存配置：
            export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"
 如果服务器内存较小，需要调整启动配置。 

解决办法：

打开/opt/apps/kafka/bin/binkafka-server-start.sh，降低启动内存大小.
如：export KAFKA_HEAP_OPTS="-Xmx512M -Xms512M"

2、检查服务是否启动
执行命令 jps
3317 QuorumPeerMain
3797 Jps
3735 Kafka
3、创建Topic来验证是否创建成功
cd /opt/apps/kafka/bin

#创建Topic
./kafka-topics.sh --create --zookeeper 192.168.0.66:2181 --replication-factor 2 --partitions 1 --topic shuaige
#解释
--replication-factor 2   #复制两份
--partitions 1 #创建1个分区
--topic #主题为shuaige
#查看创建的topic信息
./kafka-topics.sh --describe --zookeeper 192.168.0.66:2181 --topic shuaige

'''在一台服务器上创建一个发布者'''
#创建一个broker，发布者
./kafka-console-producer.sh --broker-list 192.168.0.66:19092 --topic shuaige

'''在一台服务器上创建一个订阅者'''
./kafka-console-consumer.sh --zookeeper localhost:2181 --topic shuaige --from-beginning

至此集群版的KAFKA搭建成功。