表冷热改造方案及过程记录

冷热分离的目的在于提升热数据的性能,给冷数据分配较少的资源从而节约资源。热数据的范围越小,冷热改造的意义就越大。同时,需要确保冷数据足够冷,应该是终态数据(无改动),且访问频率低、性能要求低。

阶段改造点序号
冷表创建创建冷表,结构与热表一致1
冷热双查改造单条查询改为先查热表,查不到则访问冷表,同时加冷表读开关,平时开关是关闭状态,业务特殊需求时才需要开启2
冷热双查改造多条查询改为同时查冷热表并聚合返回,分页先查热再拼凑冷表数据3
冷表写入改造定时任务每天将过去2天的热表1年前(业务决定时长)新增数据写入冷表,同时热表删除,这里要做好数据防丢失,确保写入成功再删除,且需要注意留出冷表覆盖的口子4
增量冷数据流job开启4中的job开启并运行一段时间观察增量冷数据的读写情况5
历史冷数据处理运维执行存储过程,将热表里的历史冷数据分段写入冷表6
稳定运行历史数据处理完成后,增量冷数据流job运行无问题,进入稳定运行6

注意repo层提供给service层的接口实现,最好是做一层do层,实现冷热双查的逻辑,对service层保持透明。
besides,如果每张表都这样改造,成本很高,因此考虑做统一改造,考虑从do层做抽象。暂且还没有完整思路。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值