一、数据库 vs. 数据仓库
1. 构建目的不同:数据库主要用于实现企业的日常业务管理,提高业务运营的效率
数据仓库用于将多个数据源的数据进行集成,用于分析,结果辅助决策
2. 管理数据不同:数据库通常只包含当前数据,避免冗余,数据的组织应按照业务过程设计的数据实现,由应用驱动
数据仓库中的数据按主题组织,以便分析;为方便查找存在大量冗余,通常存放历史数据
3. 管理方法不同:数据库需频繁进行增删改等更新操作。除了要通过创建事务和处理的正确性外,还需复杂的并发控制机制保证事务运行的隔离性。(更新操作时效性强,事务吞吐率很重要)
数据仓库很少更新,无需复杂并发控制机制,时效性不重要,数据质量重要
二、 数据仓库(Date Warehouse) vs. 数据集市(Data Market)
数据仓库是一个面向主题的、集成的、随时间变化的、稳定的用于支持组织决策的数据集合。
数据集市是部门级的数据仓库,包含数据量较少,是面向一个部门的分析需求建立的
三、数据仓库体系结构
1. 抽取:从不同数据源把所需数据读出来
① 逻辑抽取:a. 全量抽取 b. 增量抽取
② 物理抽取(依赖逻辑抽取):a. 联机抽取:直接从源系统抽取;b. 脱机抽取:从源系统以为的过渡区抽取
2. 转换:主要涉及数据清洗、集成、汇总等主要功能
① 数据清洗:缺失值填补、识别数据冗余、处理不一致数据、