自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(9)
  • 问答 (3)
  • 收藏
  • 关注

原创 Git日常使用积累

拉取代码1.先将代码fork到自己的仓库2.然后将自己仓库的代码clone下来3.添加远程仓库4.查看是否添加成功更新代码1.查看项目 git remote -v 有没有添加upstream远程主库2.如果没有添加,输入以下命令添加:git remote add upstream [email protected]:bap/orchid...

2018-09-17 16:08:40 255

转载 Kettle — 转换机制

转换机制  每个转换步骤都是ETL数据流里面的一个任务。转换步骤包括输入、处理和输出。输入步骤从外部数据源获取数据,例如文件或者数据库;处理步骤处理数据流,字段计算,流处理等,例如整合或者过滤。输出步骤将数据写会到存储系统里面,例如文件或者数据库。 图 1 转换步骤示例1. Step类图简介  Kettle为扩展插件提供了4个扩展点,这4个扩展点也是每个步骤的组成。每个类都有...

2018-09-11 18:09:05 5166

原创 Kettle — 源码启动和代码结构分析

众所周知Kettle是一个开源的项目,所有我们有必要把Kettle的源码pull下来进行简单的分析,搞清楚Kettle的执行原理和实现过程。首先我们需要从Github中将源代码Pull下来。从Github上的分支可以看到,最新的版本应该是8.1.0.3的版本,而master分支最新的应该是9.0的RC版Kettle源码地址:https://github.com/pentaho/pentah...

2018-09-11 18:03:24 9185 5

原创 Kettle — 自定义插件

Kettle开发体系是基于插件的,平台自身提供接口,开发者按照规范实现接口就能进行插件的开发。在Kettle8.1的官方文档上有关于插件非常详细的介绍,如果有任何疑问可以先去官方文档查看。下面先介绍一下需要进行插件开发最基本的原理。插件类型在Kettle中插件涵盖以下四种类型:         1.步骤插件:Kettle中转换的核心对象         2.作业输入插件:Kettl...

2018-09-11 18:00:13 16032 3

原创 Kettle — Spoon加载源码解析

在Kettle中,我们知道Spoon是其中最重要的一个组件。它可以让我们以图形化的方式开发转换和作业等工作。在spoon中Kettle采用了Xul界面技术和Swt相结合的方式进行图形界面的开发。启动流程1)首先程序在启动时会创建一个spoon.log日志Path parent = Paths.get( System.getProperty( "user.dir" ) + File...

2018-09-11 17:49:39 3290

原创 Kettle — 使用手册

介绍ETL是EXTRACT(抽取)、TRANSFORM(转换)、LOAD(加载)的简称,实现数据从多个异构数据源加载到数据库或其他目标地址,是数据仓库建设和维护中的重要一环,也是工作量较大的一块。Kettle是ETL中其中一个开源工具,基于纯Java开发。kettle有两种脚本transformation(转换)和Job(作业)Kettle有三个主要组件:Spoon、Kitchen、P...

2018-09-11 17:35:42 210689 25

原创 Kettle — 集群使用

Kettle集群介绍在Kettle中合理的使用集群可以加快执行的速度,并且还能在部分服务器宕机的情况下继续使用。在Kettle中集群是由一个主Carte服务器和多个从Carte服务器组成。在执行转换时,主服务器负责分发跟踪任务和收集结果总汇,从服务器负责具体的转换执行。在Kettle中,如果主服务器也宕机的话并不存在服务器(类似于redis、zookeeper等)重新选举的功能,也就是说一旦主...

2018-09-11 17:23:00 15571 7

原创 Kettle — 常见错误

错误1:点击SQL时报错,执行转换不生效。需要点击hop,使之生效。错误2:资源库配置变为灰色,且没有Connect按钮原因是有些中文配置导致Kettle的repositories.xml文件乱码。删除红框中的文件,并重启Kettle。错误3:kettle8打开后会发现很多kettle8以前版本存在的插件不存在了,比如xml相关的操作、Json相关的操作...

2018-09-11 17:12:21 4936

原创 Kettle — 安装和部署

前提Kettle是纯Java编写的ETL开源工具,目前Kettle7和Kettle8都需要Java8或者以上才能正常运行。所以开运行Kettle前先检查Java环境是否正确配置,Java版本是否是8或者以上。Kettle安装1)创建Kettle的目录,并将Kettle的zip包解压到Kettle目录下2)查看一下sh文件使用都有执行的权限,如果没请加上。4)执行...

2018-09-11 16:47:35 31770 2

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除