【任务调度】Apache DolphinScheduler中关于全局参数设置、自定义参数、补数的介绍

Apache DolphinScheduler是一个分布式和可扩展的开源工作流协调平台,具有强大的DAG可视化界面。

今天在海豚调度的一个接口中想入参一个当前时间(要求格式为yyyyMMddhhmmss),找了找发现如下几种方法,给记录一下:

1.全局参数设置
在设置DAG图名称这一位置设置全局参数,这个设置的参数便可以设置成自己想要的日期格式,在接口处添加入参时该入参便可以通过 c o m p l e m e n t d a t e 得到 {complement_date}得到 complementdate得到{yyyy-MM-dd}这个时间值。
在这里插入图片描述
2.自定义参数
在这里插入图片描述
基础内置参数有上述三个,但是衍生出来的却有许多个,如下图:
在这里插入图片描述
在这里插入图片描述

3.补数
何为Apache DolphinScheduler 补数功能?
3.1补数一天,如下图
未开启补数时, [ y y y y − M M − d d ] :默认获取当前日期开启补数功能, [yyyy-MM-dd] :默认获取当前日期 开启补数功能, [yyyyMMdd]:默认获取当前日期开启补数功能,[yyyy-MM-dd] :获取的是,序号4位置所设置的调度日期
在这里插入图片描述
3.2补数一段时间,如下图
串行执行补数逻辑:点击运行,传入 2023-02-05 执行一遍 test_ds_bushu 里面所有的 job,执行完成传入 2023-02-06 执行一遍,直至传入 2023-02-09 执行一遍结束。
在这里插入图片描述

补数据使用的参数
${system.biz.date} : 日常调度实例定时的定时时间前一天,格式为 yyyyMMdd,补数据时,该日期 +1
${system.biz.curdate} : 日常调度实例定时的定时时间,格式为 yyyyMMdd,补数据时,该日期 +1
${system.datetime} : 日常调度实例定时的定时时间,格式为 yyyyMMddHHmmss,补数据时,该日期 +1

4.归纳总结:

${system.biz.date}${system.biz.curdate}${system.datetime} 这三个完全可以不用在补数的,直接在全局参数设置、自定义参数设置中使用也可以的。
${system.biz.date} 为日常调度实例定时的定时时间前一天(yyyyMMdd格式)
${system.biz.curdate} 为日常调度实例定时的定时时间(yyyyMMdd格式)
${system.datetime} 为日常调度实例定时的定时时间(yyyyMMddHHmmss格式)
参考文档

DolphinScheduler使用系统时间
https://xionglang.blog.csdn.net/article/details/125444442?spm=1001.2101.3001.6650.3&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7ERate-3-125444442-blog-114333766.235%5Ev43%5Epc_blog_bottom_relevance_base6&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7ERate-3-125444442-blog-114333766.235%5Ev43%5Epc_blog_bottom_relevance_base6&utm_relevant_index=6

大数据|海豚调度官方文档注解
https://blog.csdn.net/Changxing_J/article/details/134001440

Apache DolphinScheduler补数功能应用
https://blog.csdn.net/m0_58048130/article/details/129834825?utm_medium=distribute.pc_relevant.none-task-blog-2~default~baidujs_baidulandingword~default-4-129834825-blog-126719140.235^v43^pc_blog_bottom_relevance_base6&spm=1001.2101.3001.4242.3&utm_relevant_index=7
  • 22
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Apache DolphinScheduler是一个新一代分布式大数据工作流任务调度系统,致力于“解决大数据任务之间错综复杂的依赖关系,整个数据处理开箱即用”。它以 DAG(有向无环图) 的方式将任务连接起来,可实时监控任务的运行状态,同时支持重试、从指定节点恢复失败、暂停及 Kill任务等操作。目前已经有像IBM、腾讯、美团、360等400多家公司生产上使用。 调度系统现在市面上的调度系统那么多,比如老牌的Airflow, Oozie,Kettle,xxl-job ,Spring Batch等等, 为什么要选DolphinSchedulerDolphinScheduler 的定位是大数据工作流调度。通过把大数据和工作流做了重点标注. 从而可以知道DolphinScheduler的定位是针对于大数据体系。 DolphinScheduler是非常强大的大数据调度工具,有以下一些特点:1、通过拖拽以DAG 图的方式将 Task 按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态;2、支持丰富的任务类型;3、支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill 任务等操作;4、支持工作流全局参数及节点自定义参数设置;5、支持集群HA,通过 Zookeeper实现 Master 集群和 Worker 集群去心化;6、支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计;7、支持补数,并行或串行回填数据。课程会带大家构建DolphinScheduler大数据调度平台,实战讲解多种任务调度配置,会基于案例讲解DolphinScheduler使用,让大家在实战掌握DolphinScheduler。 DolphinScheduler 发展很快 很多公司调度都切换到了DolphinScheduler,掌握DolphinScheduler调度使用势在必行,抓住新技术机遇,为跳巢涨薪做好准备。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值