数据仓库技术概述
目录
一、数据仓库的定义
数据仓库是一种面向商务智能 (BI) 活动(尤其是分析)的数据管理系统,它仅适用于查询和分析,通常涉及大量的历史数据。在实际应用中,数据仓库中的数据一般来自应用日志文件和事务应用等广泛来源。
数据仓库能够集中、整合多个来源的大量数据,借助数据仓库的分析功能,企业可从数据中获得宝贵的业务洞察,改善决策。同时,随着时间推移,它还会建立一个对于数据科学家和业务分析人员极具价值的历史记录。得益于这些强大的功能,数据仓库可为企业提供一个“单一信息源”。
一个数据仓库通常包含以下要素:
1.一个用于存储和管理数据的关系数据库
2.一个用于分析前数据准备的提取、加载和转换 (ELT) 解决方案
3. 统计分析、报告和数据挖掘功能
4.用于数据可视化和展现的客户端分析工具
二、数据仓库的优势
数据仓库在高效分析大量不同的数据,提取数据价值并保留历史记录方面拥有独一无二的强大优势。 数据仓库之父兼计算机科学家 William Inmon 定义了数据仓库的 4 大特征,这 4 大特征为数据仓库的强大优势奠定了坚实基础。根据定义,数据仓库具有以下特点:
1.面向主题:数据仓库可以高效分析关于特定主题或职能领域(例如销售)的数据。
2. 集成:数据仓库可在不同来源的不同数据类型之间建立一致性。
3.相对稳定:进入数据仓库后,数据将保持稳定,不会发生改变。
4.反映历史变化:数据仓库分析着眼于反映历史变化。
三、数据仓库的架构
通用数据仓库具有以下特点:
1.简单:所有数据仓库都采用同一基本设计,将元数据、概要数据和原始数据全部存储在中央信息库中。信息库一端源馈送信息,另一端则供最终用户访问,以便进行分析、报告和数据挖掘。
2.通过暂存区简化数据准备:将操作型数据置入数据仓库之前,必须进行数据清洗和处理。此步骤可以通过编程方式完成,但很多数据仓库会创建一个暂存区来简化数据准备工作。
3.星型结构:通过在中央信息库和最终用户之间创建数据集市,企业可以对数据仓库进行自定义,灵活满足各种业务线的需求。即数据准备就绪后,数据不会立即进入数据仓库,而是移动到适合的数据集市。
4.沙盒:沙盒可提供一个专有的安全区域,帮助企业快速、非正式的探索新的数据集或新的数据分析方式,而无需遵守或遵循数据仓库的正式规则和协议。
四、云数据仓库的介绍
云数据仓库使用云技术来提取和存储不同数据源的数据。 原始数据仓库一开始是构建在本地服务器上。现在,这些本地数据仓库仍然拥有很多优势,在许多情况下可以提供更高的治理水平、安全性、数据主权以及较低延迟。然而,本地数据仓库的弹性较低,需要企业通过复杂的预测来确定如何扩展数据仓库,以满足未来需求。另外,本地数据仓库在管理上也非常复杂。
云数据仓库可提供以下优势:
1.提供弹性的可扩展支持,可满足大型或可变计算或存储需求
2.简单易用
3.易于管理
4.节约成本
五、现代数据仓库介绍
现代数据架构可有效管理所有数据类型、工作负载和分析,满足这些需求。它包含架构模式以及符合行业优秀实践的必要集成组件。现代数据仓库包括:
1.融合数据库,可简化所有数据类型的管理并支持多种数据使用方法
2.自助式数据提取和转换服务
3.支持 SQL、机器学习、图形和空间处理
4.多种分析选项,可轻松使用数据而无需移动数据
5.自动化流程,可简化供应、扩展和管理
现代数据仓库可高效简化数据工作流,任何其他仓库都无法企及。这意味着从分析师、数据工程师到数据科学家和 IT 团队的每一个人都可以更加有效地开展工作和创新,从而推动企业发展,而不会发生不计其数的延迟和复杂性