第二章 dolphinscheduler基础教使用之项目管理(实际项目建设逻辑)

1、创建项目

(1)根据公司内部不同业务创建不同的项目,以下根据信息流业务为例

在这里插入图片描述

(2)根据不同部门的所对应的数据集市创建不同项目,以下根据资管公司为例

在这里插入图片描述

2、项目首页统计
  • 在项目管理页面点击项目相关名称

在这里插入图片描述

(1)任务状态统计

  • 包含该项目在指定时间范围内的任务实例状态统计

在这里插入图片描述

  • 比如现在统计20211217任务实例状态,查看如下

在这里插入图片描述

  • 统计得出:20211217共有13个任务实例,其中10个成功,1个失败,2的暂停,与项目首页统计相符合

(2)流程状态统计

  • 包含该项目在指定时间范围内工作流实例状态统计

在这里插入图片描述

  • 比如现在统计20211217工作流实例状态,查看如下

在这里插入图片描述

  • 统计得出:20211217共有4个工作流实例,其中1个成功,1个失败,2个停止,与项目首页统计相符合

(3)流程定义统计

  • 包含用户创建的工作流及管理员授予该用户的工作流统计

在这里插入图片描述

  • 通过工作流定义查看有5个工作流,与项目首页统计相符合

在这里插入图片描述

3、创建工作流
  • 根据数仓模型创建工作流

在这里插入图片描述

(1)建表:运行建表脚本,一次性调度单个节点

在这里插入图片描述

(2)初始化:将历史数据导入入建好的表中,一次性调度单个节点,分区数据可补数

  • 串行执行:资源不足时使用,防止占用整个队列资源,导致其他同学的JOB运行不了
  • 并行执行:提高效率,资源充足时使用

在这里插入图片描述

(3)ETL作业:源系统数据如ODS层

  • 使用DataX作为ETL工具
    在这里插入图片描述

(4)公共维表:作为一致性维表建设,入DIM层

(5)银行主题数仓:根据部门进行数据集市建设,DWD,DWS,ADS层

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

随缘清风殇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值