Kafka监控之eagle

最新推荐文章于 2024-11-12 20:39:42 发布

MelodyYN

最新推荐文章于 2024-11-12 20:39:42 发布

阅读量388

点赞数 1

分类专栏： # Kafka 文章标签： kafka 分布式 java

本文链接：https://blog.csdn.net/qq_36593748/article/details/122226377

版权

Kafka 专栏收录该内容

6 篇文章 0 订阅

订阅专栏

Kafka监控安装部署

1.修改/opt/module/kafka/bin/kafka-server-start.sh命令中

if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then
    export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"
fi

为

if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then
    export KAFKA_HEAP_OPTS="-server -Xms2G -Xmx2G -XX:PermSize=128m -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=5 -XX:InitiatingHeapOccupancyPercent=70"
    export JMX_PORT="9999"
    #export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"
fi

2.分发文件/opt/module/kafka/bin/kafka-server-start.sh

3.上传压缩包kafka-eagle-bin-1.4.8.tar.gz到集群/opt/software目录

解压到本地

tar -zxvf kafka-eagle-bin-1.4.5.tar.gz

进入刚才解压的目录，将kafka-eagle-web-1.4.8-bin.tar.gz解压至/opt/module

tar -zxvf kafka-eagle-web-1.4.5-bin.tar.gz -C /opt/module/

4.改名

mv kafka-eagle-web-1.4.5/ eagle-web-1.4.5

5.给启动文件执行权限

chmod u+x /opt/module/eagle-web-1.4.5/bin/ke.sh

6.修改配置文件 /opt/module/eagle-web-1.4.5/conf/system-config.properties

######################################
# multi zookeeper & kafka cluster list
######################################
kafka.eagle.zk.cluster.alias=cluster1
cluster1.zk.list=hadoop102:2181,hadoop103:2181,hadoop104:2181/kafka

######################################
# broker size online list
######################################
cluster1.kafka.eagle.broker.size=20

######################################
# zk client thread limit
######################################
kafka.zk.limit.size=25

######################################
# kafka eagle webui port
######################################
kafka.eagle.webui.port=8048

######################################
# kafka offset storage
######################################
# offset保存在kafka
cluster1.kafka.eagle.offset.storage=kafka

######################################
# kafka metrics, 15 days by default
# 是否启动监控图表
kafka.eagle.metrics.charts=true
kafka.eagle.metrics.retain=15


######################################
# kafka sql topic records max
######################################
kafka.eagle.sql.topic.records.max=5000
kafka.eagle.sql.fix.error=false

######################################
# delete kafka topic token
######################################
kafka.eagle.topic.token=keadmin

######################################
# kafka sasl authenticate
######################################
cluster1.kafka.eagle.sasl.enable=false
cluster1.kafka.eagle.sasl.protocol=SASL_PLAINTEXT
cluster1.kafka.eagle.sasl.mechanism=SCRAM-SHA-256
cluster1.kafka.eagle.sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="kafka" password="kafka-eagle";
cluster1.kafka.eagle.sasl.client.id=
cluster1.kafka.eagle.sasl.cgroup.enable=false
cluster1.kafka.eagle.sasl.cgroup.topics=


######################################
# kafka ssl authenticate
######################################
cluster3.kafka.eagle.ssl.enable=false
cluster3.kafka.eagle.ssl.protocol=SSL
cluster3.kafka.eagle.ssl.truststore.location=
cluster3.kafka.eagle.ssl.truststore.password=
cluster3.kafka.eagle.ssl.keystore.location=
cluster3.kafka.eagle.ssl.keystore.password=
cluster3.kafka.eagle.ssl.key.password=
cluster3.kafka.eagle.ssl.cgroup.enable=false
cluster3.kafka.eagle.ssl.cgroup.topics=

######################################
# kafka sqlite jdbc driver address
######################################
# 配置mysql连接
kafka.eagle.driver=com.mysql.jdbc.Driver
kafka.eagle.url=jdbc:mysql://hadoop102:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
kafka.eagle.username=root
kafka.eagle.password=123456


######################################
# kafka mysql jdbc driver address
######################################
#kafka.eagle.driver=com.mysql.jdbc.Driver
#kafka.eagle.url=jdbc:mysql://125.0.0.1:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
#kafka.eagle.username=root
#kafka.eagle.password=123456

7.添加环境变量并source

# kafkaEagle
export KE_HOME=/opt/module/eagle-web-1.4.5
export PATH=$PATH:$KE_HOME/bin

8.启动

bin/ke.sh start

9.启动zookeeper和kafka
10.登录验证

http://192.168.202.102:8048/ke

测试脚本：

kafka-producer-perf-test.sh --topic first --num-records 1000000 --throughput -1 –record-size 1024 --producer-props bootstrap.servers=hadoop102:9092,hadoop103:9092