Shell + Datax 动态传递时间参数模式

Datax 数据同步模式

Shell 脚本实现Datax 数据同步四种模式

Datax 数据全量同步模式

此脚本省略...

Datax 数据实时增量(T+1)模式

功能:实现前一天日期 00:00:00 至前一天日期 23:59:59 数据同步

#!/bin/bash
# 切换至增量脚本文件存储目录位置
cd /home/tools/datax/bin
# 执行datax 增量脚本,传递时间范围 参数
python datax.py ../job/incre_house.json -p "-Dstart_time='`date -d "1 days ago" +"%Y-%m-%d "` 00:00:00' -Dend_time='`date -d "1 days ago" +"%Y-%m-%d"` 23:59:59'"

Datax 数据实时增量(T+0)模式

功能:实现当前日期:时:分:秒 减去执行周期时间(默认 :1小时 )至当前日期:时:分:秒 数据同步。

#!/bin/bash
# 切换至增量脚本文件存储目录位置
cd /home/tools/datax/bin
# 执行datax 增量脚本,传递时间范围 参数
python datax.py ../job/incre_house.json -p "-Dstart_time='`date -d "1 hour ago" +"%Y-%m-%d %H:%M:%S"`' -Dend_time='`date +"%Y-%m-%d %H:%M:%S"`'"

Datax 数据手工实时增量模式

功能:实时动态传递数据同步开始时间和结束时间,实现数据同步功能

#!/bin/bash
# 切换至增量脚本文件存储目录位置
cd /home/tools/datax/bin
# 执行datax 增量脚本,传递时间范围 参数
python datax.py ../job/incre_house.json -p "-Dstart_time='`date -d "$1" +"%Y-%m-%d %H:%M:%S"`' -Dend_time='`date -d "$2" +"%Y-%m-%d %H:%M:%S"`'"

温馨提示:

$1 = 数据同步开始时间
$2 = 数据同步结束时间
Shell功能关联:涉及Shell 字符串转 Date 函数,传递参数 需要使用 "括号。

操作实例:

./manual_house.sh "2022-12-21 12:00:00" "2022-12-21 18:00:00"

如果对Datax 还不是很了解,请参考:Datax 使用详解

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值