flume消费kafka数据太慢_flume 一款数据流日志传输工具,常见问题原因和解决方法...

本文介绍了Flume作为数据流日志传输工具的特性,并针对Flume消费Kafka数据速度慢的问题,提供了如配置优化、解决插件、临时文件处理、HDFS写入策略等解决方案,帮助提升数据传输效率。
摘要由CSDN通过智能技术生成

flume 是分布式,高可靠 ,高可用,基于流式数据,强健性 ,高容错 ,故障转移与自动恢复,多数据来源接口,上手简单,一个集收集,聚合,移动大规模日志数据的服务。

官网下载地址 http://flume.apache.org/download.html

a6add3a523fb8a5ec722eea06e67a7c9.png

今天介绍以flume1.9.0版本为例

系统需求:

1、java 1.8 or later

2、足够的内存

3、足够的磁盘空间

4、机器的读写权限

下载压缩包,解压后,在conf目录中添加配置文件(比如 vim hancan.conf)

现在用最简单的配置来举例

12fb619ae5f969ea9ad829bc54876c27.png

source:source组件是专门用来收集数据的,可以处理各种类型、各种格式的日志数据,包括avro、thrift、exec、jms、spooling directory、netcat、sequence generator、syslog、http、legacy、自定义

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值