Trident exactly once实现原理

为了实现exactly-once,storm0.7.0开始支持transactional toplogy(事务topology),也是微批处理架构,但目前已经不再维护(基本没有人用),功能完全被trident所替代。准确的说,trident topology是从transactional topology的基本上发展而来,包括spout和state都延用的transactional topology的思路,最大的改变就是抽象出了stream的概念。

数据流对比

流对比1.jpg

原理简介

trident中将tuple封装成batch,每一个batch提供一个唯一的txid,数据的发送、提交、重发都是基于txid,以batch为单位进行。

实现exactly-once的关键在于状态的保存,就trident而言,包括:

  1. 元数据的保存,数据处理失败时,能知道要重发是哪些数据
  2. 中间状态的保存,重发数据时,能敏锐发现数据的状态是否已经更新过

trident只在用state来做中间状态保存的地方确保exactly once,而数据流并不一定要在所有的地方都需要用state,以wordcount为例,最终我们关心的只是单词的统计结果,中间的read和split并不需要关心,也就不需要保存state,因此,选择s

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值