Flume内部原理

在这里插入图片描述

1.拦截器

对source接受的数据。

2.channel选择器

过滤后的数据推送到对应的channel中。

  • 选择器:
  • replicating 复制选择器 数据完整地发送到每一个channel。
  • multiplexing 多路复用选择器 根据规则匹配对应的channle。

3.sink组处理器

  • 决定哪个 Sink接受数据
  • 为什么要使用sink组逻辑处理器?
    负载均衡和故障转移。
    负载均衡是把channel里面的Event按照配置的负载机制(比如轮询)分别发送到sink各自对应的目的地;来缓解单个sink的压力。
    故障转移就是这N个sink同一时间只有一个在工作,其余的作为备用,工作的sink挂掉之后备用的sink顶上。
  • 有哪些sink处理器?
    (1)load-balancing Sink处理器,此处理器选择顺序有两种顺序:如果顺序被设置为random,那么将随机从Sink组的Sink中选择一个,用来从自己的Channel中移除事件并将它们写出。round-robin选项使Sink以循环的方式被选择:每个选择循环调用定义Sink组中指定顺序Sink的process方法。
    (2) failover Sink处理器 按照sink的优先级从高到低依次选择。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值