用python工具实现自动检测报表缺失哪些天日期的数据(亲测可用)

目录

代码思路如下:

1、看某张表的所有有数据的日期

2、计算缺失的日期

遇到难点:

1、清空mysql的表

2、报表日期的字段格式五花八门,需要进行统一格式化

完整可用代码如下:

1、表结构

2、python代码 


在前面的文章,详细介绍了如果监测mysql或hive当天或当月的表,看是否跑出数据,如果没有跑出数据,就如何调用海豚调度器的api来自动启动工作流。可参考下面的2篇文章。

如何在海豚调度器自动监测报表是否跑出数据

海豚调度器自动监测每日报表及自动重跑异常工作流(综合应用可用代码

不过在实际中应用场景中,特别是新的离线数仓的项目,通常是需要跑历史数据。如果涉及表多的话,一个个手动检测很耗时间。下面提对前面的检测当天报表的代码进行升级,自动化地检查特定日期范围内多个数据库表的数据完整性,并记录缺失的数据日期到mysql中。

代码思路如下:

1、看某张表的所有有数据的日期

通过下面的sql来检测指定日期到昨天,某个表有数据的日期

SELECT stat_date FROM tb1 WHERE stat_date BE

  • 5
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大模型大数据攻城狮

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值