kafka 0.11java版本_kafka0.11.0.2安装 笔记

一、kafka

1、下载

官网地址：http://kafka.apache.org/downloads

下载：wget http://mirrors.hust.edu.cn/apache/kafka/0.11.0.2/kafka_2.11-0.11.0.2.tgz

2、解压: tar -zxvf kafka_2.11-0.11.0.2.tgz

3、修改配置文件

在config目录下，可以看到很多的配置文件，修改server.properties

broker.id=0 #每个kafka节点的唯一标识

listeners=PLAINTEXT://192.168.5.28:9092 #监听端口

log.dirs=/data/kafka-logs #日志地址

zookeeper.connect=192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181/kafka #zookeeper地址

提示：

zookeeper.connect=host:port默认存在zookeeper根目录，如果要存在特殊目录，需要添加chroot,如/kafka 其他所有使用--zookeeper

4、启动:./bin/kafka-server-start.sh config/server.properties 1>/dev/null 2>&1 &

5、测试命令

5.1 新建Topic

./bin/kafka-topics.sh --create --zookeeper 192.168.5.29:2181 --replication-factor 3 --partitions 1 --topic 30test

5.2 查看已存在Topic列表

./bin/kafka-topics.sh --list --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181

5.3 查看指定Topic状态

./bin/kafka-topics.sh --describe --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181 --topic 247test

5.4 查看所有topic状态

./bin/kafka-topics.sh --describe --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181

5.5 启动Consumer读取消息并输出到标准输出

./bin/kafka-console-consumer.sh --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181 --from-beginning --topic 247test

5.6 写入数据 (--broker-list 不需要使用/kafka路径)

./bin/kafka-console-producer.sh --broker-list 192.168.5.28:9092 --topic 247test

5.7 删除topic (设置delete.topic.enable=true)

./bin/kafka-topics.sh --delete --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181 --topic 247test

二、kafka监控工具KafkaOffsetMonitor

1、下载：wget https://github.com/quantifind...

2、新建执行脚本：vim start.sh

脚本内容：(注意zk路径)

#!/bin/bash

java -cp KafkaOffsetMonitor-assembly-0.2.1.jar \

com.quantifind.kafka.offsetapp.OffsetGetterWeb \

--zk 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181/kafka \

--port 8088 \

--refresh 10.seconds \

--retain 2.days

3、执行权限

chmod +x start.sh

4、启动

./start.sh 1>/dev/null 2>&1 &

注：页面默认使用的是ajax.googleapis.com的js库源，可能会下载失败，可修改index.html文件修改库源为国内库源。

vim KafkaOffsetMonitor-assembly-0.2.1.jar # 进入jar包

?offsetapp/index.html # 查找到index.html文件

Enter # enter进入文件

修改为http://apps.bdimg.com/libs/angular.js/1.2.9/angular.js # 编辑html文件

修改后保存退出即可。