关于数据同步(Oracle 2 HashData)

需要从 Oracle 同步数据到 HashData

1- 全量同步。

	1.1- 将表结构创建到对应的 HashData 数据库中。
	1.2- 数据同步:
	
		1.2.1- 使用 spoof 将 Oracle 中表的数据导出为 TXT 文件后,使用 copy 导入 HashData.
		1.2.2- 使用 kettle 将 Oracle 中表的数据导入到 HashData。
		1.2.3- 使用 datax 将 Oracle 中表的数据导入到 HashData。
	
	以上三种方式都可以实现第一步的全量数据同步的过程,看对哪个比较熟悉,就选择哪个。

2- 增量数据同步。

	2.1- 增量数据同步需要了解一下几点:
	
		2.1.1- 需要同步的数据量,表多少张及表中的数据条数?
		2.1.2- 同步数据的频率,即数据多久同步一次?
	
	2.2- 了解以上方案之后,我们有以下几个方式:
	
		2.2.1- 同步的数据基数及增数不大的情况下,可以采用每次都全量同步的方式
		
			优点: 不用考虑同步逻辑,每次都是全量同步。
			缺点:只适合低频率,小数据量的情况。
		
		2.2.1- 同步的数据基数大,只能使用增量的方式进行同步。
		
			2.2.1.1- 源数据存在时间字段或者 primary_key 字段来判断增量数据。
				2.2.1.1.1- 可以通过全量同步中的任何一种方式来进行增量同步。可以根据客户喜好来选择,我们推荐使用 datax。
				
			2.2.1.2- 源数据不存在可以判断增量数据的情况。
				2.2.1.2.1- 首先咨询一下能不能调整业务逻辑,比如:
					2.2.1.2.1.1- 能不能增加时间字段?原始表增加时间字段,作为增量的依据。
					2.2.1.2.1.2- 能不能添加触发器?原始表增加触发器,插入触发。需要创建临时表,存储增量数据,需要考虑临时表迭代的问题。
					2.2.1.2.1.3- 能不能添加日志表?根据原始表主键(或唯一索引)创建已更新表(日志表),每次增量通过比对日志表和业务表判断增量数据。
				2.2.1.2.2- 如果不能调整业务逻辑的话,需要找简老师讨论一下看看是否需要合作厂商支持。
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值