2.1离线数仓—业务数据数据同步规划

前言

要进行业务数据采集，就要确定采用什么样的同步方式，因为业务数据中有些变化的快，有些变化的慢，有些表数据量大，有些表数据量小，针对不同类型的表，要采用不同的数据同步策略。

一、业务数据同步概述

1.数据同步策略概述

业务数据在离线数仓项目中是一个非常重要的数据来源，我们需要每天定时从业务数据库中抽取数据，然后将数据传输到数据仓库中，才能对这些数据进行统计分析。
因为离线数仓通常计算周期为一天，所以数据同步周期按一天进行，每天同步一次即可。

2.数据同步策略

数据同步策略有全量同步和增量同步。

1）全量同步

全量同步，就是每天都将业务数据库中的全部数据同步一份到数据仓库，这是保证两侧数据同步的最简单的方式。在拉取数据的时候，拉取最新一天的数据即可获得所有的数据，使用起来非常方便。

2）增量同步

增量同步，就是每天只将业务数据中的新增及变化数据同步到数据仓库。采用每日增量同步的表，通常需要在首日先进行一次全量同步（因为业务数据库通常会留有一定的数据）。
增量同步的优点是每天只需要拉去很少量的数据，缺点是在使用数据时非常麻烦&