Flume集群配置故障转移,踩过的坑

本文介绍了在Flume集群中配置故障转移的需求和具体组件,如Default Sink Processor和Failover Sink Processor。通过实例展示了如何设置Agent1、Agent2和Agent3,当Agent1的AvroSink故障时,数据能被Agent2或Agent3的LoggerSink接管。在实际操作中,遇到了配置文件粘贴丢失文本和命令执行不全等坑,并给出了解决方法。
摘要由CSDN通过智能技术生成

1.需求

​ 体会SinkProcessor,场景就是多个sink同时从一个channel拉取数据!

Agent1: netcatsource----memorychannel-----2AvroSink (hadoop102)

Agent2: ArvoSource----memorychannel-----loggersink (103)

Agent3: ArvoSource----memorychannel-----loggersink (104)

2.所需组件

2.1 Default Sink Processor

​ agent中只有一个sink,此时就使用Default Sink Processor,不强制用户来配置Sink Processor和sink组!

2.2 Failover Sink Processor

​ Failover Sink Processor:故障转移的sink处理器! 这个sink处理器会维护一组有优先级的sink!默认挑选优先级最高(数值越大)的sink来处理数据!故障的sink会放入池中冷却一段时间,恢复后,重新加入到存活的池中,此时在live pool(存活的池)中选优先级最高的,接替工作!

配置:

sinks 空格分割的,多个sink组成的集合
processor.type default failover
**processor.priority.**sinkName 优先级

示例:
a1.sinkgroups = g1
a1.sinkgroups.g1.sinks = k1 k2
a1.sinkgroups.g1.processor.type = failover
a1.sinkgroups.g1.processor.priority.k1 = 5
a1.sinkgroups.g1.proces

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值