flink15 flink状态管理之state backend

本文介绍了Flink的状态管理,重点讲解了MemoryStateBackend、FsStateBackend和RocksDBStateBackend的区别与设置方法。MemoryStateBackend将数据存储在内存中,不适用于生产环境;FsStateBackend将状态保存在内存并定期检查点到文件系统,适合大量状态和长时间窗口操作;RocksDBStateBackend利用本地数据库存储状态,并在检查点时备份到远程文件系统,适合生产环境使用。
摘要由CSDN通过智能技术生成

State Backend

默认情况下

  • state会保存在TaskManager的内存中
  • checkpoint会存储在JobManager的内存中

state的存储和checkpoint的取决于State Backend的配置。Flink提供了3种State Backend

  • MemoryStateBackend : 基于内存存储
  • FsStateBackend: 基于文件存储
  • RocksDBStateBackend:基于数据库存储

设置方法:

  • 通过==StreamExecutionEnvironment.setStateBackend(…)==来设置state存储的位置
  • 开启checkpoint(注意,必须开启)

MemoryStateBackend

将数据持久化状态存储到内存中

  • state数据保存在java堆内存中
  • 执行checkpoint的时候,会把state的快照数据保存到jobmanager的内存中。基于内存的state backend在生产环境下不建议使用。

在这里插入图片描述
代码设置

environment.setStateBackend(new MemoryStateBackend())

FsStateBackend

  • State数据保存在taskmanager的内存中
  • 执行checkpoint的时候,会把state的快照数据保存到配置的文件系统中。可以使用hdfs等分布式文件系统.

FsStateBackend 适合场景
状态数据特别的多,还有长时间的wi

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值