DataHub: 现代数据栈的元数据平台--如何处理同一平台类型的多个实例?

本文探讨了DataHub在v0.8.24之前因不支持同一平台类型多个实例导致的问题,并详细介绍了从v0.8.24开始,DataHub如何通过新增dataPlatformInstance Aspect和增强摄取源来支持多实例,以及提供配置示例,确保数据集的唯一标识不冲突。
摘要由CSDN通过智能技术生成

产生问题的原因?

在DataHub v0.8.24 之前,元数据模型不支持同一平台类型的多个实例,原因详见下面的描述。
DataHub的元数据模型针对数据集【Dataset】的唯一标识URN由如下三个部分级成:

  • Data Platform 数据平台:如 urn:li:dataPlatform:mysql
  • Name 数据集名称,常用的格式是:db.schema.name
  • Env 环境:如DEV、PROD等

如果在同一环境下,某一系统使用了同一平台类型的多个实例,如针对不同的业务,使用了多个MySQL实例,如果要查看所有实例的数据集资产,则这些数据集的唯一标识URN可能存在冲突。

如何支持同一平台类型的多个实例?

DataHub v0.8.24+的版本,从如下2个方面,在元数据模型中支持平台实例:

  • 在数据集添加dataPlatformInstance Aspect,允许数据集与平台的实例相关联
  • 对所有摄取源进行增强
    • 在配置中通过增加platform_instance配置项
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

enjoy编程

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值