前言
- Spring Cloud Data Flow 2.4.2
- win7
简介
Microservice based Streaming and Batch data processing for Cloud Foundry and Kubernetes.
Spring Cloud Data Flow provides tools to create complex topologies for streaming and batch data pipelines. The data pipelines consist of Spring Boot apps, built using the Spring Cloud Stream or Spring Cloud Task microservice frameworks.
Spring Cloud Data Flow supports a range of data processing use cases, from ETL to import/export, event streaming, and predictive analytics.
安装
安装方式有2:
- 使用docker安装
- 手动安装
这里选择手动安装。可以参考:
https://dataflow.spring.io/docs/installation/local/manual/
下载 spring-cloud-dataflow-server
https://repo.spring.io/snapshot/org/springframework/cloud/spring-cloud-dataflow-server/2.4.2.BUILD-SNAPSHOT/
下载到:spring-cloud-dataflow-server-2.4.2.BUILD-20200310.115040-7.jar
注:这个目录是每日构建的,文件名会每天变化。
下载 spring-cloud-dataflow-shell
https://repo.spring.io/snapshot/org/springframework/cloud/spring-cloud-dataflow-shell/2.4.2.BUILD-SNAPSHOT/
下载到:spring-cloud-dataflow-shell-2.4.2.BUILD-20200310.115040-7.jar
下载 spring-cloud-skipper-server
https://repo.spring.io/snapshot/org/springframework/cloud/spring-cloud-skipper-server/2.3.2.BUILD-SNAPSHOT/
下载到:spring-cloud-skipper-server-2.3.2.BUILD-20200310.102318-6.jar
将下载的3个jar放到一个目录下
安装完成。
启动
依次启动
shell> java -jar spring-cloud-skipper-server-2.3.2.BUILD-20200310.102318-6.jar
shell> java -jar spring-cloud-dataflow-server-2.4.2.BUILD-20200310.115040-7.jar
其实启动到这里就好了。下面的jar提供了一个命令行,如果不想使用命令行,就不用启动了。
shell> java -jar spring-cloud-dataflow-shell-2.4.2.BUILD-20200310.115040-7.jar
命令行启动完了是这个样子的。
访问Dashboard
在 spring-cloud-dataflow-server 中内置了一个Dashboard,访问地址如下:
http://localhost:9393/dashboard
打开后,是这个样子。
找几个app
在这里能够找到很多:
https://repo.spring.io/libs-release-local/org/springframework/cloud/task/app/
推荐这个:
https://repo.spring.io/libs-release-local/org/springframework/cloud/task/app/timestamp-task/1.1.0.RELEASE/timestamp-task-1.1.0.RELEASE.jar
因为它简单,即不需要连这,也不需要连那。
配置 task
配置 task 参考官方文档: https://dataflow.spring.io/docs/batch-developer-guides/getting-started/task/
上面推荐的是task类型的app。
下载下来使用。也可以不现在,但是每次执行的时候,都会去下载。还不如先下载了。
按照顺序配置:
- 配置 Applications
- 配置 Tasks
启动 task
启动 task 参考官方文档: https://dataflow.spring.io/docs/batch-developer-guides/getting-started/task/