flink使用s3协议作为checkpoint配置

flink配置文件

# state.backend: filesystem
execution.checkpointing.enabled: true
execution.checkpointing.interval: 1min

# 固定延迟重启策略
#restart-strategy: fixed-delay
#restart-strategy.fixed-delay.attempts: 4
#restart-strategy.fixed-delay.delay: 5000

# 故障率重启策略
restart-strategy: failure-rate
restart-strategy.failure-rate.delay: 5000
restart-strategy.failure-rate.failure-rate-interval: 300000
restart-strategy.failure-rate.max-failures-per-interval: 5


state.backend: filesystem
fs.allowed-fallback-filesystems: s3
state.checkpoints.dir: s3://bucket-flink-private/checkpoints
state.savepoints.dir: s3://bucket-flink-private/savepoints
state.checkpoints.externalized: true
state.backend.incremental: true
execution.checkpointing.externalized-checkpoint-retention: RETAIN_ON_CANCELLATION
state.checkpoints.num-retained: 5
s3.access-key: demo
s3.secret-key: demosecret
s3.endpoint: http://oss.my.cn
s3.ssl.enabled: true
s3.path.style.access: true

k8s下的高可用

high-availability: org.apache.flink.kubernetes.highavailability.KubernetesHaServicesFactory
high-availability.storageDir: s3://bucket-flink-private/flink-job/sc-new-1/ua76xr-wks-sp-2/100022/highAvailability
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值