随着业界传播开源的理念,推广开源项目,为 IT 开发者提供了一个发现、使用、并交流开源技术的方向。很多企业在建设他们的业务交易和分析系统的项目中,开始关注和选用具有“自我特色”的开源技术和软件作为整体解决方案中的组成部分去实施。
以下案例是国外某客户,包括核心系统在内的众多生产系统中已运行 IBM 软件产品,其核心环节中使用 IBM 数据复制软件,再结合开源软件和工具,实现了从重要的交易业务生产系统中使用 IBM 软件实时地复制数据到目标系统,在目标系统上通过开源软件把数据进行分发、加工处理、交付到数据库分析系统中,实现对业务进行实时分析。
1)数据实时复制
负责从各个业务系统上实时地复制交易数据,选用IBM Change Data Capture 软件产品来实现。
2)数据采集
负责从目标系统上实时地采集数据,选用 Apache Flume 来实现。
3)数据接入
由于采集数据的速度和数据处理的速度不一定同步,因此添加一个消息中间件来作为缓冲,选用 Apache Kafka。
4&