streaming入门

本文介绍了streaming的概念,storm作为实时处理引擎的特点,包括其分布式和实时性。深入探讨了storm的数据处理模型(topology)、系统架构,包括nimbus、supervisor、worker和executor的角色。还阐述了streaming的关键特性,如HA、消息可靠性和ACK机制,确保数据处理的高可用和准确性。
摘要由CSDN通过智能技术生成

目录

一.streaming简介

  1. 概念
  2. 特点

二.streaming系统架构

  1. storm数据处理模型(topology)
  2. 系统架构
  3. 运行流程
  4. task介绍

三.streaming关键特性

  1. HA
  2. 消息可靠些
  3. ACK机制

一.streaming简介

1.概念

streaming:是一个计算框架,基于开源storm
storm:是一个实时处理,流式处理的引擎。它是独立的(spark是基于hadoop的),开源的,免费的。

微批处理:spark 批处理:mapreduce
storm是流式处理的:数据来一条就处理一条(打开后一直运行,手动kill进程,进程才会结束)

2.特点

  • 分布式:数据分布给多个节点并行处理
    2. 实时:来一条数据处理一条

二.streaming系统架构

1.storm数据处理模型(topology)

在这里插入图片描述

  • spout:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值