企业系统之间数据同步处理

引用内容:

数据同步一般是指一个数据源的数据发生改变时,其他相关的数据源的数据也发生相应变化。数据同步可以有五种实现方案,根据具体需求不同,可以采取不同方案。
1. 触发器:在源数据库建立增、删、改触发器,每当源数据库有数据变化,相应触发器就会激活,触发器会将变更的数据保存在一个临时表里。ORCLE 的 同步 CDC (synchronized CDC) 实际上就是使用的触发器
优点: 
能做到实时同步 
缺点: 
降低业务系统性能,ORCLE 的 synchronized CDC 大概降低10% 左右。 
影响到业务系统,因为需要在业务系统建立触发器。
2. 日志:通过分析源数据库日志,来获得源数据库中的变化的数据。ORCLE 的 异步 CDC (Asynchronized CDC) 就是使用这种方式。
优点: 
基本不影响业务系统,如Oracle Asynchronized CDC 的 HotLog 方式对业务系统的性能大概降低 3% 左右,而 AutoLog 方式对业务系统几乎没有影响。 
缺点: 
有一定的延时 
对于没有提供日志分析接口的数据源,开发的难度比较大。
3. 时间戳:在要同步的源表里有时间戳字段,每当数据发生变化,时间戳会记录发生变化的时间。
优点: 
基本不影响业务系统 
缺点: 
要求源表必须有时间戳这一列。 
在删除数据时,还要做一些特殊处理。
4. 数据比较:通过比较两边数据源数据,来完成数据同步。一般用于实时性要求不高的场景。
优点: 
基本不影响业务系统 
缺点: 
效率低 
5. 全表拷贝:定时清空目的数据源,将源数据源的数据全盘拷贝到目的数据源。一般用于数据量不大,实时性要求不高的场景。 
优点: 
基本不影响业务系统 
开发、部署都很简单 
缺点: 
效率低
总结:
1. 上面五种数据同步方式,除了第五种都需要业务表有主键。 
2. 对于没有触发器和日志的一些小型数据源,如txt 文本,excel 文件,Aceess,则只能使用后三种方式。 
3. 对于大型数据源,一般优先选择日志方式,如 ORCALE Asynchronized CDC, 对于不能通过日志来实现的情况,可以考虑第1,3,4种方式。

一般企业级内部软件之间因为软件提供商的原因,采用最多的数据同步方式都是第4种:进行数据比较,提供方提供数据接口服务,接收方根据服务对数据进行同步分析比较。

在不要求数据实时的情况下:

接收方如何处理数据呢?

1.接收数据接口数据(最新全局数据),存入临时数据表中。(如果是UPDATE数据,就不需要第2步了)

2.将临时数据表中数据与本地数据进行比对,分析差异,按时间批次记录差异数据。

3.提供服务专门处理差异数据进行数据同步。


  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
本程序适用于中小企业及个人网站建设使用;需要有一定HTML ASP基本知识; 结构:ASP ACESS FSO。 二、功能说明: 栏目设置:[新闻/文章/产品/下载/图片/留言/链接/频道/影音等] 编辑器采用全球最优秀的FCK编辑器,文件采用相对绝对地址; 采用ASP函数标签 DIV布局,可在任意页面自由调用标签,灵活使用,可制作出多采多姿的风格; 全站生成DIV CSS的HTML静态页面,前台绝大部分交互式代码采用AJAX技术; 界面清秀经典,功能丰富多彩; 【一】、网站配置 1、基本信息:服务器基本信息及网站内容统计信息等; 2、基本设置:设置网站的基本资料,如会员基本设置前台基本设置等; 3、频道管理:新增或者删除频道; 4、菜单管理:网站导航菜单管理; 5、投票管理:投票可设置单选还是多选; 6、公告管理:发布本站的公告或者通知; 7、音乐管理:管理后台音乐,此音乐为后台管理网站时同步娱乐的; 【二】、站务管理 1、网站**志:各管理员的**志,可以设置是否共享; 2、短信管理:方便管理员会员之间的交流; 3、访问统计:统计本站流量来源,以便了解整站效果; 4、在线I P:访问网站的即时在线人数; 5、留言管理:管理本站来宾留言; 6、修改密码:修改本人的后台登陆密码; 7、查看权限:查看本人现有网站管理的权限; 【三】、内容管理 1、数据采集:新闻文章采集; 2、生成静态:生成各栏目静态页; 3、分类管理:各栏目的无限级分类管理; 4、新闻管理:添加修改删除及批量操作 5、文章管理:添加修改删除及批量操作 6、产品管理:添加修改删除及批量操作 7、订单管理:查看订单与处理; 8、图片管理:一个图片主题多张图片展示 6、影音管理:添加修改删除及批量操作 7、下载管理:添加修改删除及批量操作 7、评论管理:各栏目的评论集中管理; 【四】、数据管理 1、数据库sql:针对SQL语句比较熟悉的用户快捷操作数据库; 2、服务器参数探测:查看当前服务器组件情况; 3、SQL注入:记录有关SQL注入情况,IP锁定; 4、上传管理:管理所有上传文件; 5、后台记录:记录所有会员管理员在后台的重要操作 6、数据库:数据库备份、压缩、下载、还原 7、订单管理:查看订单与处理; 8、管理员:添加或者编辑及删除管理员 6、会员管理:添加或者编辑及删除会员

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值