深入理解Kafka

简单说明什么是kafka
Apache kafka是消息中间件的一种，我发现很多人不知道消息中间件是什么，在开始学习之前，我这边就先简单的解释一下什么是消息中间件，只是粗略的讲解，目前kafka已经可以做更多的事情。
举个例子，生产者消费者，生产者生产鸡蛋，消费者消费鸡蛋，生产者生产一个鸡蛋，消费者就消费一个鸡蛋，假设消费者消费鸡蛋的时候噎住了（系统宕机了），生产者还在生产鸡蛋，那新生产的鸡蛋就丢失了。再比如生产者很强劲（大交易量的情况），生产者1秒钟生产100个鸡蛋，消费者1秒钟只能吃50个鸡蛋，那要不了一会，消费者就吃不消了（消息堵塞，最终导致系统超时），消费者拒绝再吃了，”鸡蛋“又丢失了，这个时候我们放个篮子在它们中间，生产出来的鸡蛋都放到篮子里，消费者去篮子里拿鸡蛋，这样鸡蛋就不会丢失了，都在篮子里，而这个篮子就是”kafka“。
鸡蛋其实就是“数据流”，系统之间的交互都是通过“数据流”来传输的（就是tcp、https什么的），也称为报文，也叫“消息”。
消息队列满了，其实就是篮子满了，”鸡蛋“ 放不下了，那赶紧多放几个篮子，其实就是kafka的扩容。
各位现在知道kafka是干什么的了吧，它就是那个"篮子"。
kafka名词解释
后面大家会看到一些关于kafka的名词，比如topic、producer、consumer、broker，我这边来简单说明一下。
producer：生产者，就是它来生产“鸡蛋”的。
consumer：消费者，生出的“鸡蛋”它来消费。
topic：你把它理解为标签，生产者每生产出来一个鸡蛋就贴上一个标签（topic），消费者可不是谁生产的“鸡蛋”都吃的，这样不同的生产者生产出来的“鸡蛋”，消费者就可以选择性的“吃”了。
broker：就是篮子了。
大家一定要学会抽象的去思考，上面只是属于业务的角度，如果从技术角度，topic标签实际就是队列，生产者把所有“鸡蛋（消息）”都放到对应的队列里了，消费者到指定的队列里取。
在/opt/module/kafka目录下创建logs文件夹
$ mkdir logs
）修改配置文件
cd config/
vi server.properties
#broker的全局唯一编号，不能重复
broker.id=0
#删除topic功能使能
delete.topic.enable=true
#处理网络请求的线程数量
num.network.threads=3
#用来处理磁盘IO的现成数量
num.io.threads=8#发送套接字的缓冲区大小socket.send.buffer.bytes=102400
#接收套接字的缓冲区大小
socket.receive.buffer.bytes=102400
#请求套接字的缓冲区大小socket.request.max.bytes=104857600
#kafka运行日志存放的路径
log.dirs=/opt/module/kafka/logs
#topic在当前broker上的分区个数num.partitions=1
#用来恢复和清理data下数据的线程数量num.recovery.threads.per.data.dir=1
#segment文件保留的最长时间，超时将被删除log.retention.hours=168
#配置连接Zookeeper集群地址zookeeper.connect=hadoop2:2181,hadoop3:2181,hadoop4:2181
配置环境变量
#KAFKA_HOME
export KAFKA_HOME=/opt/module/kafka
export PATH=$PATH:$KAFKA_HOME/bin
分别在hadoop3和hadoop4上修改配置文件/opt/module/kafka/config/server.properties中的broker.id=1、broker.id=2
注：broker.id不得重复
依次在hadoop2、hadoop3、hadoop4节点上启动kafka
$ bin/kafka-server-start.sh config/server.properties &
关闭
$ bin/kafka-server-stop.sh stop
查看当前服务器中的所有topic
$ bin/kafka-topics.sh --zookeeper hadoop2:2181 --list
创建topic
$ bin/kafka-topics.sh --zookeeper hadoop2:2181
–create --replication-factor 3 --partitions 1 --topic first
删除topic
$ bin/kafka-topics.sh --zookeeper hadoop2:2181
–delete --topic first
发送消息
$ bin/kafka-console-producer.sh
–broker-list hadoop2:9092 --topic first
<hello world
消费消息
$ bin/kafka-console-consumer.sh
–zookeeper hadoop102:2181 --from-beginning --topic first
–from-beginning：会把first主题中以往所有的数据都读取出来。根据业务场景选择是否增加该配置。
查看某个Topic的详情
$ bin/kafka-topics.sh --zookeeper hadoop102:2181
–describe --topic first
Kafka集群启动停止脚本
vim kf.sh
#! /bin/bash
case $1 in
“start”){
for i in hadoop2 hadoop3 hadoop4
do
echo " --------启动 $i Kafka-------"
ssh $i “/opt/module/kafka/bin/kafka-server-start.sh -daemon /opt/module/kafka/config/server.properties "
done
};;
“stop”){
for i in hadoop2 hadoop3 hadoop4
do
echo " --------停止 $i Kafka-------”
ssh $i “/opt/module/kafka/bin/kafka-server-stop.sh stop”
done
};;
esac