Datax 数据同步-使用总结(一)

 1,实时同步?

datax 通常做离线数据同步使用。

目前能想到的方案

利用 linux 的定时任务+时间戳的方式做增量同步。

2,同步速度快不快?

单表同步速度还是挺快的

但是如果遇到复杂的 sql 查询,其同步效率,依赖于读取数据的 sql 的执行效率

单表使用 querySql,数量 三千五百万数据,全量同步时间

3,writeMode模式选择

总共三种:insert/replace/update

对于导入端是 mysql的话,

insert 就是单纯的插入。不判重。如果遇到主键冲突,就报错提示。

replace,原理类似 mysql 的 replace into 的原理,

update,原理类似 mysql 的on duplicate key update的原理。

总之,在设计目标的表时候,需要增加唯一索引,避免出现数据重复插入的问题。

4, 优化

这个目前还在研究中。。。。

另外,如果不设置splitPk属性,datax 按单通道执行。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值