Flink-跟着问题读源码:从Savapoint重启报错The new state serializer cannot be incompatible

 flink相比于其他流计算引擎的一个非常大的优势在于它灵活可靠的状态管理机制,定时的快照可以保证实时计算的连续性与准确性,但是当后续的计算逻辑发生一定程序的变化时,并不能完全保证从原状态完整的恢复。

文章主要分为三部分:

  1. 问题复现及源码分析
  2. flink state ttl的设置和创建
  3. flink checkpoint在taskmanager中对state的快照

1、问题概要

商品热度值的flink实时计算作业的chekcpoint state size越来越大,于是计划对一个月内无任何分享、出价、收藏的商品的state进行清理(包括redis的expired),于是使用StateTtlConfig进行状态过期设置,出现如下错误:
在这里插入图片描述

2020-07-10 08:59:01
java.lang.RuntimeException: Error while getting state
	at org.apache.flink.runtime.state.DefaultKeyedStateStore.getState(DefaultKeyedStateStore.java:62)
	at org.apache.flink.streaming.api.operators.StreamingRun
  • 3
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值