【国产免费】分布式ETL批量调度工具 TASKCTL 8.0 安装环境搭建使用说明

TASKCTL 8.0

8.0是一款基于B/S架构的【企业级免费ETL任务批量处理工具】它支持各类脚本任务程序和扩展；具备可视化图形拖拽设计界面，以及可视化任务作业管理、计划调度、实时监控、消息提醒和日志分析功能；有效弥补了传统ETL工具在调度管理和监控分析方面不足；同时平台还提供原数据管理、数据质量、版本控制、日志分析等完善的辅助管理功能，为企业提供数据迁移、数据仓库、数据标准化、数据同步、数据备份、数据交换以及企业定制化二次开发在内的一体化数据整合服务。

核心结构

 

​由上图可知应用层为客户端，控制层为服务端。同时，服务端完成对目标层的调度控制。整个平台采用无数据库设计，每层之间以TCP作为通信协议。

• 应用层从功能的角度，主要分admin，designer，monitor。从应用渠道的角度，又分Web端及Windows应用客户端渠道与后台字符界面客户端渠道。同时，为了进一步方便用户，系统服务端还提供了丰富的控制操作行命令。
• 控制层是多级金字塔架构，顶层为服务控制节点，完成各种调度服务控制以及为客户端提供各种操作应用服务。而代理层完成与目标服务器（ETL等）的控制交互。代理层通过主从代理级联方式，可实现对集群部署的服务器进行调度控制，实现负载均衡等。
• 目标层，是整个产品所控制的目标，比如我们的ETL服务器，作业工作站等。

获取安装包

软件安装包都可以通过访问产品官网下载页面获取。若需要其他Unix环境服务端软件，例如【Aix版本】，可联系官方获取。

1. 后台服务核心+字符界面客户端集成安装包

根据操作系统类型【32位/64位】选择对应的软件下载。

2. 在线应用客户端

需要【安装jdk 1.8版本】

安装概述

由产品的核心架构图以及获取的产品安装包，我们清楚该产品分为两部分安装，即后台核心系统安装和应用客户端系统安装。而后台核心系统安装又分为核心调度服务安装和核心调度代理安装。而客户端应用系统安装也分为两部分安装，即后台字符界面应用系统安装和在线应用系统安装。

因为后台字符界面应用系统和产品核心系统环境差不多，所以把核心产品系统和后台字符界面系统放到一个安装包里，即后台软件安装包，这样也是方便后面提到的典型安装部署。

核心安装

产品核心由核心调度服务节点和核心调度代理节点构成，它们协同工作，共同完成后台核心的各种功能。所以产品核心安装分为核心调度服务节点安装、核心调度代理节点安装。一个平台必须安装且只能安装一个核心调度服务节点，而核心调度代理节点则根据实际情况安装部署，核心调度服务节点中已经集成了一个核心调度代理，当单机部署时，只用安装核心调度服务节点即可。

由于核心采用多层次网络体系，所以对IP地址和端口的管理尤其重要，管理员必须合理分配好。

核心调度服务节点安装

安装环境

 

​安装步骤

第一步：解压安装包：把安装包拷贝到需要安装核心调度服务的用户下，解压安装包文件如下：

tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包，不同系统不同安装包

第二步：配置环境变量：在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下：

export TASKCTLDIR=$HOME/task --安装目录
export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

（配置完成后使环境变量生效，<重新登录用户或者用source命令>，以 echo $TASKCTLDIR能打印出环境变量值为准）

第三步：执行安装程序：进入到cirinst目录下，执行inst程序。然后进入字符界面如下图所示：

 

点击回车键后，安装程序会自动检查用户环境变量，如果TASKCTLDIR环境变量目录存在则继续，否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面：

 

关于典型安装我们会在之后的章节进行说明。这里先选择2自定义安装。选择好了后会出现以下界面：

 

接下来选择1核心调度服务安装。安装程序自动开始安装到之前指定的产品目录。并要求输入调度服务节点IP地址和监听端口号等信息。如下图所示：

• IP 地 址：使用管理员分配给服务节点的IP地址（必须是本机IP地址）
• 端 口：使用管理员分配给服务节点的端口号（必须是未被占用端口）

确认输入信息之后，安装程序提示是否安装范例。如下图所示：

 

这里根据自身需求选择是否安装范例，初次使用的用户建议安装范例，里面有很多范例可以参考学习。

选择完是否安装范例后，默认会启动服务。至此，调度服务节点安装完毕。此时用户可以通过 "ctlninfo命令"或者查看 "$(TASKCTLDIR)" 目录下是否产生如下目录：

 

如果存在，也可间接证明安装调度服务节点成功。

核心调度代理节点安装

产品核心由核心调度服务节点和核心调度代理节点构成，默认的单机部署只用安装服务节点即可；当有跨服务器的调度需求时，我们就需要通过安装代理来满足需求。服务节点和代理节点的安装包都是同一个，通过安装时选择不同的选项完成。

代理节点安装环境

 

安装步骤

第一步：解压安装包：把安装包拷贝到需要安装核心调度代理节点的用户下，解压安装包文件如下：

tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包，不同系统不同安装包

第二步：配置环境变量：在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下：

export TASKCTLDIR=$HOME/task --安装目录 
​​​​​​​export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

（配置完成后使环境变量生效，<重新登录用户或者用source命令>，以 "echo $TASKCTLDIR" 能打印出环境变量值为准）

第三步：执行安装程序：进入到cirinst目录下，执行inst程序。然后进入字符界面如下图所示：

 

点击回车键后，安装程序会自动检查用户环境变量，如果TASKCTLDIR环境变量目录存在则继续，否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面：

 

关于典型快速安装我们会在之后的章节进行说明。这里先选择2产品自定义安装。选择好了后会出现以下界面：

 

接下来选择2核心调度代理安装。安装程序自动开始安装到之前指定的产品目录。并要求输入代理节点IP地址和监听端口号等信息。如下图所示：

 

• IP 地 址：使用管理员分配给代理节点的IP地址（必须是本机IP地址）
• 端 口：使用管理员分配给代理节点的端口号（必须是未被占用端口）

确认输入信息之后。如下图所示：

 

至此，代理节点安装完毕。此时用户可以通过 "ctlninfo命令" 或者查看$(TASKCTLDIR))目录下是否产生如下目录：

 

应用客户端安装

客户端应用系统分为web在线应用系统、【Linux/unix字符界面】应用系统和【Windows客户端】应用系统三部分。不同的系统代表用户使用的不同渠道，web在线应用系统和Windows客户端应用系统的界面和操作更直观。而字符界面系统功能更全面。另外，字符界面也是安装在【Linux/unix】下，所以集成在了核心服务的安装包中。

从【8.0版本】开始，将采用web在线应用系统的图例来说明操作步骤。若需要查看【Windows客户端】的图例，查看早期版本文档。

在线应用系统安装

在线应用系统要【安装java1.8及以上版本】 通过大量实践测试表明：在监控环境下，Monitor应用模块是支持实时（延迟不应超过5秒）图形监控系统。特别是在启动大量并发监控界面的时候，对系统的性能的要求较高。但在开发环境下，Admin和Designer应用模块对系统性能的要求相对较低。因此目前主流的客户机都能满足生产环境的硬件要求

安装环境

 

安装步骤

1. 环境准备

因为在线应用系统需要安装【java1.8版本】，可以通过 “java – version” 命令查看具体，如下图所示

 

2. 步骤

a) 上传并解压安装【安装包taskctl-web-7.1.zip】

 

b) 进入解压后的目录taskctl-web-7.1，执行sh install.sh命令。确定web应用的IP/端口及调度服务端的IP/端口信息。

 

c) 执行startup.sh启动web应用。通过Webkit内核的浏览器（如：360，chrome等）访问地址

d) 安装过程完毕

Windows应用系统安装

该客户端是 windows操作系统下，基于【.net framework 4.0环境】开发的【C/S结构】的应用系统。

安装环境

 

安装步骤

第一步：客户端用户权限设置：软件操作用户具有以下系统权限如下图：

 

第二步：解压安装包：【TaskctlClientInstall_x.x.x.zip】

第三步：运作安装程序：执行安装程序 "TaskctlClientInstall_x.x.x..exe" 进入安装向导，如下图所示：

 

点击<下一步>出现如下图所示：

 

需要用户接受安装许可协议才能下一步。点击<我接受>，出现如下图所示：

 

点击<下一步>，出现如下图所示：

 

选择好安装路径后，点击<下一步>出现如下图所示：

 

如果确认安装点击<安装>，将进入安装界面并完成安装。出现如下图所示：

 

点击<完成>按钮即可。此时在桌面上出现Admin/ Designer /Monitor三个快捷键应用程序图标。

字符界面应用系统安装

安装环境

 

第一步：解压安装包：把安装包拷贝到需要字符界面客户端的用户下，解压安装包文件如下：

tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包，不同系统不同安装包

第二步：配置环境变量：在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下：

export TASKCTLDIR=$HOME/task --安装目录 
​​​​​​​export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

（配置完成后使环境变量生效，<重新登录用户或者用source命令>，以 "echo $TASKCTLDIR" 能打印出环境变量值为准）

第三步：执行安装程序：进入到 "cirinst目录下，执行inst程序" 然后进入字符界面如下图所示：

 

点击回车键后，安装程序会自动检查用户环境变量，如果 "TASKCTLDIR环境变量" 目录存在则继续，否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面：

 

关于典型快速安装我们会在之后的章节进行说明。这里先选择2产品自定义安装。选择好了后会出现以下界面：

 

接下来选择3字符界面客户端安装。安装程序自动开始安装到之前指定的产品目录。并要求输入服务端IP地址和服务端端口号等信息。如下图所示：

 

• IP 地 址：是服务端的IP地址，和前面安装的服务节点IP地址一致
• 端 口：是服务端的端口号，和前面安装的服务节点端口一致

至此，字符界面客户端安装完毕。此时用户可以查看 "$(TASKCTLDIR)" 目录下是否产生如下目录：

 

此时用户可以使用ctladmin管理平台、ctlflowc开发平台和ctlmoni监控平台单个软件。

典型安装

安装环境

 

安装部署

第一步：解压安装包：把安装包拷贝到需要安装服务的用户下，解压安装包文件如下：

tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包，不同系统不同安装包

第二步：配置环境变量：在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下：

export TASKCTLDIR=$HOME/task --安装目录 
​​​​​​​export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

（配置完成后使环境变量生效，<重新登录用户或者用source命令>，以 "echo $TASKCTLDIR" 能打印出环境变量值为准）

第三步：执行安装程序：进入到 "cirinst目录下，执行inst程序" 然后进入字符界面如下图所示：

 

点击回车键后，安装程序会自动检查用户环境变量，如果 "TASKCTLDIR环境变量" 目录存在则继续，否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面：

 

这里我们选择1典型安装。安装程序会依次安装字符界面客户端、核心调度服务控制节点，并要求输入调度服务节点IP地址和服务节点监听端口号。

 

• IP 地 址：使用管理员分配给服务节点的IP地址（必须是本机IP地址）
• 端 口：使用管理员分配给服务节点的端口号（必须是未被占用端口）

接下来就是是否安装范例，根据自身需求选择后，回车，服务就安装完成并启动了。