前言:最近在捣鼓DolphinScheduler ,顺便将其记录一下。
Apache DolphinScheduler官方文档
链接: link.
DolphinScheduler Gitee
链接: link.
DolphinScheduler Github
链接: link.
环境准备
- Windows 10 笔记本;(建议使用32G或以上的电脑,不然本地打包的过程会出现栈内存溢出、内存分配不足等问题)
- Git:v2.43.0;
- JDK: v1.8.0_391;
- Maven: v3.6.1;
- Node: v16.15.1;
- Pnpm: v8.3.1;
- Zookeeper: v3.8.4;
第一步:项目拉取
建议直接使用git拉取dolphinScheduler的项目,因为可能会出现git相关的报错
这里我是使用IDEA 2022将3.1.3版本的项目克隆到本地
https://gitee.com/dolphinscheduler/DolphinScheduler.git
第二步:项目构建
方法一:只需要本地启动调试
通过idea的Maven的Lifecycle
1、加载项目所有maven依赖
2、跳过test
3、执行package或者install
方法二:需要将项目打包成二进制文件部署服务器
这个步骤是最容易出问题的,很多人在打包或安装的时候遇到了网络(依赖安装失败)、内存(占内存溢出)等不同的bug。
运行命令
mvnw clean install -Prelease -Dmaven.test.skip=true -Dcheckstyle.skip=true -Dmaven.javadoc.skip=true
如果打包成功在dolphinscheduler-dist模块下的target目录会四个文件
apache-dolphinscheduler-dev-SNAPSHOT.jar
apache-dolphinscheduler-dev-SNAPSHOT-bin.tar.gz
apache-dolphinscheduler-dev-SNAPSHOT-sources.jar
apache-dolphinscheduler-dev-SNAPSHOT-src.tar.gz
ps:部署服务器就是使用apache-dolphinscheduler-dev-SNAPSHOT-src.tar.gz文件
第三步:数据库初始化
dolphinscheduler-dao模块
文件路径:resources/sql/dolphinscheduler_mysql.sql
此处我使用的是MySQL,拿到文件到数据库执行即可
第四步:配置文件修改
配置文件的修改需要修改3模块的配置文件
1、dolphinscheduler-api模块
2、dolphinscheduler-master模块
3、dolphinscheduler-worker模块
数据库的修改,这里我使用的是MySQL
spring:
profiles:
active: mysql
banner:
charset: UTF-8
jackson:
time-zone: UTC
date-format: "yyyy-MM-dd HH:mm:ss"
servlet:
multipart:
max-file-size: 1024MB
max-request-size: 1024MB
messages:
basename: i18n/messages
datasource:
driver-class-name: com.mysql.cj.jdbc.Driver
url: jdbc:mysql://127.0.0.1:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8
username: root
password: root
zookeeper的连接修改(如果不是本地的ip,则可以直接将ip修改成服务器的ip)
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数大数据工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年大数据全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上大数据开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加VX:vip204888 (备注大数据获取)
真正体系化!**
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加VX:vip204888 (备注大数据获取)
[外链图片转存中…(img-kZJV38H0-1712830172225)]