Flume到底会不会丢失数据?

Flume在Source到Channel和Channel到Sink的过程中确保数据不丢失,但特定情况下可能产生数据重复。如exec source可能丢数据,MemoryChannel在宕机或满载时可能导致数据丢失。FileChannel则更安全。hdfs sink在数据flush问题中可能引发数据重复。优化策略包括调整hdfs.rollInterval、rollSize和rollCount等参数以减少重复风险。
摘要由CSDN通过智能技术生成

Source到Channel是事务性的,put事务

Channel到Sink也是事务性的,take事务

这两个环节都不可能丢失数据, 传输失败后会回滚doRollback。

但是

source:

  (1)exec source ,后面接 tail -f ,这个数据也是有可能丢的。
  (2)TailDir source ,这个是不会丢数据的,它可以保证数据不丢失。

channel:

     采用MemoryChannel,(1)在agent宕机时候导致数据在内存中丢失;(2)Channel存储数据已满,导致Source不再写入数据,造成未写入的数据丢失;

     采用FileChannel, 写入磁盘是不可能丢失数据的

sink:

    不会丢失, 会重复. 例如数据已经由Sink发出,但是没有接收到响应,Sink会再次发送数据,导致数据重复

    hdfs sink:  flush 到 hdfs 的时候,可能由于网络原因超时导致数据传输失败,这个时候同样地调用 doRollback 方法来进行回滚,回滚的时候,由于takeList中还有备份数据,所以将takeList中的数据原封不动地还给channel,这时候就完成了事务的回滚。

  但是,如果 flush 到 hdfs 的时候,数据flush了一半之后出问题了,这

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值