Flume 注意事项

1、启动后log日志一直不更新

原因:后台起了多个flume进程,故日志出现异常

解决措施:

1.1第一步:查找进程

 ps -ef |grep flume

1.2第二步:关闭旧进程

kill -kill 进程号

2、 按照尚硅谷一直报错hdfs和kafka server需要指定。

将source和sink的channel放上来。

以下是解决后的配置。

## 组件
a1.sources= r1
a1.channels= c1
a1.sinks= k1


## source1
a1.sources.r1.type = org.apache.flume.source.kafka.KafkaSource
a1.sources.r1.batchSize = 5000
a1.sources.r1.batchDurationMillis = 2000
a1.sources.r1.kafka.bootstrap.servers
= hadoop1:9092,hadooop2:9092,hadoop3:9092
a1.sources.r1.kafka.topics=hello
a1.sources.r1.channels = c1


## channel1
a1.channels.c1.type = file
a1.channels.c1.checkpointDir= /program/flume-1.10.0/checkpoint/behavior1
a1.channels.c1.dataDirs = /program/flume-1.10.0/data/behavior1/
a1.channels.c1.keep-alive = 6


## sink1
a1.sinks.k1.type = hdfs
a1.sinks.k1.hdfs.path = hdfs://10.1.13.73:9000/origin_data/testmall/log/hello/%Y-%m-%d/%H%M/%S
a1.sinks.k1.channel= c1
a1.sinks.k1.hdfs.filePrefix = loghello-
a1.sinks.k1.hdfs.round = true
a1.sinks.k1.hdfs.roundValue = 1
a1.sinks.k1.hdfs.roundUnit = minute

3、hdfs接口配置9000报连接错误。 正常写8020接口

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值