基于物化视图优化_Apache Kylin的Cube原理和优化

Apache Kylin是一个基于MOLAP的Cube系统,用于大数据分析。它通过构建Cube(多维立方体),利用维度和度量进行预计算,以提供快速查询性能。Cube构建包括逐层算法和快速算法,其中快速算法能减少MapReduce任务和shuffle工作。Cube构建优化涉及Cuboid剪枝、衍生维度、聚合组和Row Key设计,以减少计算量和提高查询效率。
摘要由CSDN通过智能技术生成

Kylin术语

Data Warehouse(数据仓库)

数据仓库是一个各种数据(包括历史数据和当前数据)的中心存储系统,是BI( business intelligence ,商业智能)的核心部件。

这里所谈的数据包括来自企业业务系统的订单、库存、交易账目、客户和供应商等来自企业所处行业和竞争对手的数据以及来自企业所处的其他外部环境中的各种数据。

Business Intelligence(商业智能)

商业智能通常被理解为将企业中现有的数据转化为知识,帮助企业做出明智的业务经营决策的工具。

为了将数据转化为知识,需要利用数据仓库、联机分析处理(OLAP)工具和数据挖掘等技术。

OLAP(online analytical processing)

OLAP(online analytical processing)是一种软件技术,它使分析人员能够迅速、一致、交互地从各个方面观察信息,以达到深入理解数据的目的。从各方面观察信息,也就是从不同的维度分析数据,因此OLAP也成为多维分析。

eebfc6b3c2e23e55f97ae02998577287.png

分析订单金额总和的规律,需要从不同的角度去观察

角度1:地区

角度2:品类

角度3:时间

角度4:地区,品类

角度5:地区,时间

角度6:品类,时间

角度7:地区,品类,时间

OLAP 类型

ddc74f1baa256841a6a083972b9ac92b.png

星型模式

星型模式是多维的数据关系,它由事实表(Fact Table)和维表(Dimension Table)组成。每个维表中都会有一个维作为主键,所有这些维的主键结合成事实表的主键。事实表的非主键属性称为事实,它们一般都是数值或其他可以进行计算的数据。

dfc472b8a071513e2b57a3081ed3a7e8.png
b47cf6a37bef83ceb6a3681c7a022ebe.png

事实表(Fact Table)和维表(Dimension Table)

20b6ba544a00a1acdef55ffe427bf4b5.png

Kylin的工作原理

Apache Kylin的工作原理本质上是MOLAP(Multidimensional Online Analytical Processing)Cube,也就是多维立方体分析。这是数据分析中相当经典的理论,在关系数据库年代就已经有了广泛的应用,下面将对其做简要介绍。

维度和度量简介

在说明MOLAP Cube之前需要先介绍一下维度(Dimension)和度量 (Measure)这两个概念。 简单来讲࿰

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值