Storm保证机制的测试

本文通过MessageTopology的实现,展示了Storm如何确保消息处理的可靠性。当数据在处理过程中失败时,Storm会重新执行失败的任务,以此保障数据不丢失。
摘要由CSDN通过智能技术生成
public class MessageTopology {
	public static void main(String[] args) throws Exception {
		//声明节点
		MessageSpout messageSpout = new MessageSpout();

		SpliterBolt splitBolt = new SpliterBolt();
		
		PrintBolt printBolt = new PrintBolt();
		
		//构建拓扑
		TopologyBuilder builder = new TopologyBuilder();
		builder.setSpout("spout_id", messageSpout);
		builder.setBolt("splitBolt_id", splitBolt,1).shuffleGrouping("spout_id");
		builder.setBolt("printBolt_id", printBolt,1).shuffleGrouping("splitBolt_id");
		
		Config cfg =new Config();
		cfg.setDebug(true);
		cfg.setNumWorkers(2);
		
		LocalCluster cluster = new LocalCluster();
		cluster.submitTopology("topo1", cfg, builder.createTopology());
		
		Thread.sleep(20000);
		
		cluster.shutdown();
	}
}

MessageTopology类 主要做的事情:
        1. 声明数据来源 MessageSpout, 声明字符拆分处理 SpliterBolt, 声明 字符持久化处理 printBolt
        2. 按 spout --> splitBolt ---> printBolt  顺序构建拓扑

        3. 本地提交执行拓扑

public class MessageSpout extends BaseRichSpout{
	private static final long serialVersionUID = 1L;
	private SpoutOutputCollector conllector;
	private boolean flag = false;
	private String[] subjec
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值