源码分享-基于Spring Boot为美柚大数据研发的大数据任务调度平台

Big Whale是一款由美柚大数据团队研发的任务调度平台,支持Spark、Flink等任务调度和实时监控,具备异常重启、积压报警等功能。基于Spring Boot开发,易于部署和使用。用户可以创建脚本、执行任务并进行实时监控和离线调度。
摘要由CSDN通过智能技术生成

此项目为美柚大数据研发的大数据任务调度平台,提供Spark、Flink等离线任务的调度以及实时任务的监控,并具有批次积压报警、任务异常重启、重复应用监测、大内存应用监测等功能。

Big Whale - 任务调度平台

Big Whale(巨鲸),为美柚大数据研发的大数据任务调度平台,提供Spark、Flink等离线任务的调度以及实时任务的监控,并具有批次积压报警、任务异常重启、重复应用监测、大内存应用监测等功能。 服务基于Spring Boot 2.0开发,部署方便,功能强大,打包后即可运行。

部署

1.准备

  • Java 1.8+
  • Mysql 5.1.0+
  • 下载项目或git clone项目
  • 为解决 github README.md 图片无法正常加载的问题,请在hosts文件中加入相关域名解析规则

2.安装

  • 创建数据库:big-whale
  • 运行数据库脚本:big_whale_tables_mysql.sql
  • 根据Spring Boot环境,配置相关数据库账号密码,以及SMTP信息
  • 配置:big-whale.properties配置项说明ssh.user: 拥有脚本执行权限的ssh用户(平台会使用该用户作为统一的脚本执行用户)ssh.password: 拥有脚本执行权限的ssh用户密码dingding.enabled: 是否开启钉钉告警dingding.watcher-token: 钉钉公共群机器人Tokenyarn.app-memory-threshold: Yarn
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值