袋鼠云技术荟 | 数据开发枢纽:分布式任务调度引擎DAGScheduleX

本文介绍了DAGScheduleX,一个用于大数据开发的分布式任务调度引擎。DAGScheduleX支持Task到Job的调度管理,具备高并发调度、故障恢复、健康检查等功能。同时,它采用自定义Classloader结合SPI实现计算组件插件化管理,能够统一管理多个集群的不同版本,提供远程调用服务。
摘要由CSDN通过智能技术生成

因为大数据生态的复杂性,对于大数据开发人员来说,要深入其原理并形成体系发挥作用需要花费很多时间,而他们更多的是要聚焦在业务层面进行数据处理。而对于企业来说,要构建一个成熟稳定、功能多样的大数据平台需要花费很多的时间与人力成本。

今天我们就来说说,数据工程师在使用数栈平台时,DAGScheduleX 调度引擎是如何承载数栈开发套件,帮助工程师更加快速地实现开发任务的。

 

什么是DAGScheduleX

调度引擎:对Task(任务)生成Job(实例)并对Job进行统一调度管理,并提供Job实例基于多个集群不同版本(Hadoop2、Hadoop3、CDH、HDP)多种不同计算引擎的任务调度。

袋鼠云数栈平台有七大开发套件:离线开发、实时开发、算法开发、标签引擎、数据共享服务、数据质量、数据资产,大数据开发人员可以在套件中直接进行业务逻辑的开发,而不用关心底层的大数据平台的架构与实现,将工作的重心更多地聚焦在业务之中。套件中所开发的Task(任务)会对应生成一个可执行的Job(实例),而所有Job(实例)的执行都依赖于DAGScheduleX(调度引擎的简称)。

 

 

 

DAGScheduleX的部署策略

DAGSche

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值