数据治理中的元数据采集(从Hive元数据库中获取ods层表的元数据信息)

最近在做的数据治理项目中有个业务需求是:从hive的元数据库中获取到贴源层(也就是ods层)下所有表的元数据信息,这里大致描述一下实现的过程。一、前期准备知识: Hive元数据信息对应的MySQL数据库表Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理。Hive的元数据信息在MySQL数据中有57张表:mysql> show tables;±--------------------------+| Tables_in_metastore_spark |±
摘要由CSDN通过智能技术生成

最近在做的数据治理项目中有个业务需求是:从hive的元数据库中获取到贴源层(也就是ods层)下所有表的元数据信息,这里大致描述一下实现的过程。

一、前期准备知识: Hive元数据信息对应的MySQL数据库表

Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理。Hive的元数据信息在MySQL数据中有57张表:
mysql> show tables;
±--------------------------+
| Tables_in_metastore_spark |
±--------------------------+
| AUX_TABLE |
| BUCKETING_COLS |
| CDS |
| COLUMNS_V2 |
| COMPACTION_QUEUE |
| COMPLETED_COMPACTIONS |
| COMPLETED_TXN_COMPONENTS |
| DATABASE_PARAMS |
| DBS |
| DB_PRIVS |
| DELEGATION_TOKENS |
| FUNCS |
| FUNC_RU |
| GLOBAL_PRIVS |
| HIVE_LOCKS |
| IDXS |
| INDEX_PARAMS |
| KEY_CONSTRAINTS |
| MASTER_KEYS |
| NEXT_COMPACTION_QUEUE_ID |
| NEXT_LOCK_ID |
| NEXT_TXN_ID |
| NOTIFICATION_LOG |
| NOTIFICATION_SEQUENCE |
| NUCLEUS_TABLES |<

  • 3
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值