如何检测某schema源端目标端字段是否一致

本文提供了一个Python脚本,用于在数据集成场景中检测源表和目标表字段的一致性。该脚本依赖PostgreSQL的psycopg2库,适用于华为云DGC环境,能自动触发告警通知。当源表字段发生变化时,该脚本能帮助及时发现并调整目标表结构。
摘要由CSDN通过智能技术生成

摘要:在数据集成场景中,如无法监控到目标到源表字段发生变动时,会导致数据同步出错。手写一个“源表字段变更检测”的脚本,用于比对源表和目标表字段是否不同,从而及时感知源表字段变动,并相应的按需修改目标表字段结构。

本脚本发布在“华为云Haydn解决方案平台-解决方案加速场-工具&示例代码”。欢迎点击此处加入Haydn~https://haydn.huaweicloud.com/haydnShare/7ac9d6416168a97e/inviteShare/e0a2a7d4dcc8010505dbd1738a96e8b7151bc9ba/0ef13f659ad8441183d0b02154e412af.html


目录

使用场景

脚本使用

1.配置参数

2.连接到一个给定的数据库

3. 获取所有table

 4. 获取目标table下的所有column

5. 检测

获取脚本


使用场景

本脚本为python脚本,用于检测DWS某schema源端目标端字段是否一致。

1、该python脚本依赖PostgreSQL数据库接口psycopg2;
2、通过华为云DGC定时调度该脚本,可联动进行告警通知。

脚本使用

1.配置参数

## DWS的用户名
USERNAME = "请输入用户名"
## DWS的密码
PASSWORD = "明文密码"
## DWS的IP地址
HOST = "请输入连接地址"
## DWS的端口
PORT = "8000"
## 该表所在的数据库名称
DATABASE_NAME = "dgc_prod"
## 【修改】贴源层Schema名称
SCHEMA = 
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值