Flink状态管理器配置


除了MemoryStateBackend不需要显示配置外,其他两种状态管理器都需要配置才能使用。Flink中有两种级别的StateBackend配置:

  • 应用层面配置:配置状态管理器只对当前应用有效,又称单任务配置;
  • 集群级别配置:配置对整个集群上所有应用有效,又称全局配置。

1 应用层面配置(单任务配置)

StreamExecutionEnvironment的setStateBackend()方法配置状态管理器。

env.setStateBackend(new FsStateBackend("hdfs://namenode:40010/flink/checkpoints"));

注意这种方式会覆盖全局配置。

2 集群级别配置(全局配置)

全局配置通过flink-conf.yaml设置全局配置,具体参数如下:

  • state.backend设置state backend类型,可选值包括 jobmanager (MemoryStateBackend), filesystem (FsStateBackend), rocksdb (RocksDBStateBackend)。
  • state.checkpoints.dir设置checkpoints数据和元数据文件存储路径。
    配置示例:
# The backend that will be used to store operator state checkpoints
state.backend: filesystem
# Directory for storing checkpoints
state.checkpoints.dir: hdfs://namenode:40010/flink/checkpoints
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值