使用Kettle从FTP拉取文件

1、业务场景简要说明

对接方式:FTP文件。

客户的FTP目录路径:

/201602/01/xxx.txt

/201602/01/xxx.txt



注意点

对方在写文件的时候,应先将文件写入到临时文件,写完后,再rename文件名。

如:先写xxx.txt.tmp->xxx.txt


2、流程

2.1转换流程构造路径



//获得当前系统时间,此处得到初始化时间

var dateFormatYearAndMonth= java.text.SimpleDateFormat("yyyyMM");

var dateFormatDay =java.text.SimpleDateFormat("dd");

var yearAndMonth =dateFormatYearAndMonth.format(newjava.util.Date());

 

var day = dateFormatDay.format(newjava.util.Date());

 

 

var sourcePath = '/' + yearAndMonth + '/'+ day;

var targetPath = '/'+ yearAndMonth + '/' + day + '_bak';



2.2拉取流程




注意点:

1、在该例子中,抽取的时间颗粒度是天,时间在切换的时候,应将时间向前推几分钟,这样数据就不会漏了,后进来的数据会晚几分钟抽取到。



  • 0
    点赞
  • 22
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Kettle链接FTP服务器,可以使用"FTP"组件来实现。首先,你需要在组件的设置中输入FTP服务器的相关信息,如服务器地址、端口号、用户名和密码等。然后,你可以使用变量来动态设置FTP目录。根据你提供的信息,你可以使用当前日期作为变量,并在FTP组件中使用变量来构建FTP目录路径。例如,你可以使用JavaScript脚本来获取当前日期并格式化为你需要的形式,如下所示\[2\]: ``` var currentDate = new Date(); var year = currentDate.getFullYear(); var month = (currentDate.getMonth() + 1).toString().padStart(2, '0'); var day = currentDate.getDate().toString().padStart(2, '0'); var ftpDirectory = '/' + year + month + day; ``` 然后,你可以将该变量应用于FTP组件的目录设置中,以实现动态的FTP目录路径。另外,你还可以使用其他变量来设置本地文件路径和目标文件路径,以及其他需要的设置。完成设置后,你可以执行Kettle作业来链接FTP服务器并下载文件到本地,然后将数据插入到数据库中。 总结起来,你可以使用KettleFTP组件来链接FTP服务器,并使用变量来动态设置FTP目录路径。通过设置合适的变量和其他参数,你可以实现从FTP服务器下载文件到本地并将数据插入到数据库中的操作。 #### 引用[.reference_title] - *1* *2* [KETTLE-从ftp上下载csv文件插入到数据库](https://blog.csdn.net/zxj19880502/article/details/131061277)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^koosearch_v1,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [使用KettleFTP拉取文件](https://blog.csdn.net/awenzhangc/article/details/50618567)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^koosearch_v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值