[数仓]OLTP和OLAP

一、为什么用Flink

1、OLTP:事务处理。后端和mysql的数据进行交互

例如:在网页上点击变更自己的用户信息,后端直接请求的mysql数据库,直接在Mysql上的这条数据进行修改,反应快速。

缺点:处理的数据少

2、OLAP:分析处理

将不同系统的数据都提取到数仓中,对海量数据进行处理。

缺点:时效性低,需要等数据攒够了再处理

3、Flink可以实时处理大量的数据(解决了OLTP响应时间快但是无法处理大量数据的瓶颈)

他将结果保存为内存中的状态,并在磁盘中持久化,如果发生故障可以直接恢复。

lambda架构

流处理:分布式必然会导致乱序,因为是分开算的,有的快有的慢。可能不太准确,但是处理的快。

批处理:可以对攒的那批数据按照时间排序,所以可以是有序的,保证数据有序。

最终对两者进行合并处理,流处理可以显示数据不断在变化,批处理显示最终的结果。

一个需求需要维护两套系统,两套框架。

新一代处理器flink

用一套框架同时处理流处理和批处理kappa架构

每秒处理百万个时间 ms级的延迟

事件事件(用来专门保证处理乱序数据结果正确的时间语义)和处理事件

保证exactly-once:精确一次,故障恢复可以恢复到没处理之间的状态,重新处理

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值