ETL工具Kettle在Linux系统上无图形化运行

  *背景:最近已经两个项目使用到了ETL工具Kettle,而且我司两次使用的环境部署及使用都是我自己费劲巴拉东找西找来搞定的,所以觉得有必要自己把这块知识记录共享一下了。*

一、环境准备
由于Kettle是一个基于java的ETL工具,故首先需要配置好java环境变量,具体配置方法见文档《centos7安装jdk》。这里我们使用的环境是windows10、centos7、jdk1.8.0_141-b15以及pentaho 7.1.0.0。

二、作业流程准备
1) 首先需要将kettle压缩文件上传到服务器并在适当的目录下解压,解压后需要给文件赋确保可执行的权限:
Chmod 755 data-integration/*.sh
2) 测试部署是否成功:
执行 ./data-integration/kitchen.sh 若出现部署帮助信息则为部署成功:
在这里插入图片描述
3) 然后在windows环境下将测试好的kettle作业文件准备好,具体流程操作参见文档《公积金数据导出导入作业说明》。

三、迁移至生产环境

  1. 将本地的Repository文件夹拷贝到Linux机器的指定目录下(一般为pdi目录)
  2. 将本地的repository.xml文件拷贝到Linux对应目录下,修改其中的repository路径(一般在linux上自己手动创建即可):
    在这里插入图片描述

四、创建可执行文件

  1. 创建可执行文件kettle.sh,其内容如下:
  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: ETL(Extract, Transform, Load)工具是一种用于从多个数据源提取数据,转换它们以符合目标数据模型的要求,并将其加载到目标数据库的软件。HOP和Kettle是两种流行的ETL工具。 HOP是开源的ETL工具,由Pentaho(现在是Hitachi Vantara)开发。它是基于Java的,支持跨平台运行,并具有丰富的可视化界面,可以帮助用户轻松地创建和管理ETL作业。HOP还具有许多丰富的插件,可以满足各种不同的数据处理需求。 Kettle是另一种流行的ETL工具,由Matt Casters开发,同样是开源的。它也是基于Java的,具有丰富的可视化界面,可以轻松地创建和管理ETL作业。Kettle有一个社区版和商业版,商业版提供了更多的功能和支持。 总的来说,HOP和Kettle都是功能强大的ETL工具,能够帮助用户快速有效地处理大量数据。但是,由于两者基于的技术不同,HOP和Kettle在一些方面有所不同,例如对不同数据源的支持情况、可视化界面的复杂程度以及可扩展性等。因此,选择使用哪种ETL工具取决于具 ### 回答2: 在ETL(Extract-Transform-Load)工具中,存在两种常见的工具,即HOP(Hadoop Open Platform)和Kettle(Pentaho Data Integration),下面是它们之间的对比。 1. 功能: - HOP:HOP是为大规模数据处理而设计的开源ETL工具。它具有高度可扩展性和并行处理能力,能够处理分布式存储和计算引擎,如Hadoop和Spark等。 - KettleKettle是Pentaho开源商业智能套件中的一个组件,也是一种强大的ETL工具。它能够从多个数据源提取和转换数据,并将其加载到目标数据库或数据仓库中。 2. 可视化界面: - HOP:HOP没有提供可视化界面,需要使用编程语言进行配置和操作。这对于熟悉编程的用户可能更加方便。 - KettleKettle提供了用户友好的可视化界面,可以通过图形化的方式创建、编辑和运行ETL流程。无需编程知识,即可快速上手。 3. 扩展性: - HOP:HOP是为大规模数据处理而设计的,具有高度可扩展性。它能够处理PB级别的数据,并能够在集群中进行并行计算,加快数据处理速度。 - KettleKettle在小到中等规模的数据处理任务中表现良好,但对于极大规模的数据处理或需要分布式处理的场景,扩展性可能有限。 4. 社区支持: - HOP:HOP作为开源工具,拥有活跃的开发者社区支持,能够及时修复漏洞和发布新的功能。 - KettleKettle作为Pentaho套件的一部分,也享受到了Pentaho开发者社区的支持。用户可以通过官方论坛获取帮助和交流。 总结来说,HOP和Kettle在功能、可视化界面、扩展性和社区支持等方面存在差异。选择哪个工具取决于具体的需求和使用场景。如果需要处理大规模数据或使用分布式计算引擎,HOP可能是更好的选择。而对于小中规模的数据处理和用户友好的界面,Kettle可能更适合。 ### 回答3: ETL是数据仓库和数据集成的重要工具之一。而在ETL中,HOP和Kettle都是常用的工具。 首先,HOP是活动执行平台的缩写,是一个开源的ETL框架。它采用基于图的界面,用户可以通过拖放和连接不同的组件(称为转换)来构建ETL工作流程。HOP非常强大和灵活,支持在不同的平台上运行,包括Windows、Linux和Mac OS等。它还提供了各种各样的转换和任务来满足不同的数据处理需求。HOP的社区非常活跃,因此可以从社区中获得更新的组件和转换。 另一方面,Kettle是一种ETL工具,由Pentaho的数据整合工具套件提供。与HOP类似,Kettle也提供了图形界面来构建ETL工作流程,用户可以通过简单的拖放操作来定义转换和任务。Kettle提供了许多内置的转换和任务,用户可以使用它们来满足各种不同的数据处理需求。此外,Kettle还支持各种数据源和目标,包括关系型数据库、文件和Web服务等。Kettle还提供了丰富的插件和扩展,以支持更多的数据处理需求。 总的来说,HOP和Kettle在功能上非常相似,并且都提供了强大和灵活的ETL能力。无论是选择哪个工具,都取决于个人的偏好和实际需求。同时,由于HOP是开源的,可以通过社区获取更多的组件和转换。而Kettle则是Pentaho的一部分,可以与其他Pentaho工具集成使用。无论选择哪个工具,都可以通过它们来构建复杂的ETL工作流程,满足不同的数据处理需求。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值