kylin在hadoop 中的架构图_Hadoop - Kylin On OLAP

1.概述

Apache Kylin是一个开源的分布式分析引擎，提供SQL接口并且用于OLAP业务于Hadoop的大数据集上，该项目由eBay贡献于Apache。

2.What is Kylin

在使用一种模型，我们得知道她是干什么的，那么首先来看看Kylin的特性，其内容如下所示：

可扩展超快的OLAP引擎：Kylin是为减少在Hadoop上百亿级别数据查询延迟而设计的。

Hadoop ANSI SQL接口：Kylin为Hadoop提供标准的SQL，其支持大部分查询功能。

出色的交互式查询能力：通过Kylin，使用者可以于Hadoop数据进行亚秒级交互，在同样的数据集上提供比Hive更好的性能。

多维度Cube：用户能够在Kylin里为百亿以上的数据集定义数据模型并构建Cube。

和BI工具无缝整合：Kylin提供与BI工具，如商业化的Tableau。另外，根据官方提供的信息也在后续逐步提供对其他工具的支持。

其他特性：

对Job的管理和监控

压缩和编码的支持

增量更新Cube

利用HBase Coprocessor去查询

基于HyperLogLog的Distinct Count近似算法

友好的Web界面用于管理、监控和使用Cube

项目及Cube级别的访问控制安全

支持LDAP

3.ECOSYSTEM

Kylin有其自己的生态圈，如下图所示：

从上图中，我们可以看到，Kylin的核心包含：Kylin OLAP引擎基础框架，Metadata引擎，查询引擎，Job引擎以及存储引擎等等，同时还包括REST服务器以响应客户端请求。另外，还扩展支持额外功能和特性的插件，同时整合与调度系统、ETL、监控等生命周期管理系统。在Kylin核心之上扩展的第三方用户界面，ODBC和JDBC驱动用以支持不同的工具和产品，如：Tableau。

4.Architecture

Kylin的架构概述图如下所示：

图中的执行流程很清楚，客户端(REST API或JDBC/ODBC)发送SQL请求，将其交给Kylin的执行引擎去处理，Kylin去拉去对应的数据来做处理，并返回处理结果，这里Kylin需要依赖HBase。复杂的事情，Kylin的引擎都给我们处理了，我们只需要负责去编写我们的业务SQL。

5.How TO Works

在Kylin中，我们可以处理三维的业务查询，如下图所示：

在明白了业务处理方向，其生态群和架构。我们要如何去集成该系统到Hadoop集群？关于Kylin的集成过程是比较方便的，Kylin需要Hadoop、Hive、HBase、JDK，另外，对版本也是有要求的。本版要求如下：

Hadoop：2.4 - 2.7

Hive：0.13 - 0.14

HBase：0.98(这里若是选择Kylin-1.2，需要用到HBase-1.1+以上)

JDK1.7+

另外，安装Kylin步骤也是比较简单的，步骤如下所示：

下载最新的安装包，地址如下：［Kylin.tar.gz］

设置KYLIN_HOME环境变量

确保用户有权限去访问Hadoop、Hive和HBase，如果不确定的话，我们可以在安装包的bin目录下运行check-env.sh脚本，如果我们有问题的话，她会打印详细的信息。

最后，我们可以通过kylin.sh start去启动Kylin，或者使用kylin.sh stop去停止Kylin

在Kylin启动之后，我们可以通过输入http://node_hostname:7070/kylin去访问Kylin，登录默认用户名和密码为：ADMIN/KYLIN

预览截图如下所示：

另外，我们可以通过JDBC去操作，代码片段如下所示：

Driver driver = (Driver) Class.forName("org.apache.kylin.jdbc.Driver").newInstance();

Properties info = new Properties();

info.put("user", "ADMIN");

info.put("password", "KYLIN");

Connection conn = driver.connect("jdbc:kylin://dn1:7070/kylin_project_name", info);

Statement state = conn.createStatement();

ResultSet resultSet = state.executeQuery("select * from test_table");

while (resultSet.next()) {

assertEquals("foo", resultSet.getString(1));

assertEquals("bar", resultSet.getString(2));

assertEquals("tool", resultSet.getString(3));

}

6.总结

在使用Kylin时，我们有必要去首先熟悉其架构，这能让我们更加熟悉其应用场景和业务场景。在集成和使用的过程当中会遇到一些问题，我们可以分析其异常日志，然后利用搜索引擎得到解决。关于Kylin的详细使用，大家可以参考官方撰写的文档。

7.结束语

这篇博客就和大家分享到这里，如果大家在研究学习的过程当中有什么问题，可以加群进行讨论或发送邮件给我，我会尽我所能为您解答，与君共勉！

Hadoop在线分析处理(OLAP)

数据处理与联机分析处理 ( OLAP ) 联机分析处理是那些为了支持商业智能,报表和数据挖掘与探索等业务而开展的工作.这类工作的样例有零售商按地区和季度两个维度计算门店销售额,银行按语言和月份两个维度 ...

【转】Kylin系列-使用Saiku+Kylin构建多维分析OLAP平台

关于Kylin的介绍和使用请参考之前的文章 Kylin对外提供的是SQL查询接口,基于Kylin构建OL ...

Hadoop + Hive + HBase + Kylin伪分布式安装

问题导读 1. Centos7如何安装配置? 2. linux网络配置如何进行? 3. linux环境下java 如何安装? 4. linux环境下SSH免密码登录如何配置? 5. linux环境下H ...

kylin(一): 原理架构

由eBay开源的一个大数据OLAP框架,2014年11月加入了Apache,项目名字也改成了"Apache Kylin",Apache Kylin是唯一来自中国的Apache顶级开 ...

[kylin] 部署kylin服务

一.工具准备 zookeeper3.4.6 (hadoop.hbase 管理工具) Hadoop. Hbase1.1.4 Kylin1.5.0-HBase1.1.3 Jdk1.7.80 Hive 二. ...

Hadoop 生态系统

1.概述 最近收到一些同学和朋友的邮件,说能不能整理一下 Hadoop 生态圈的相关内容,然后分享一些,我觉得这是一个不错的提议,于是,花了一些业余时间整理了 Hadoop 的生态系统,并将其进行了归 ...

【转】Apache Kylin 2.0为大数据带来交互式的BI

本文转载自:[技术帖]Apache Kylin 2.0为大数据带来交互式的BI 编者注:Kyligence的联合创始人兼CEO Luke Han在上做题为“”的演讲. 基于Hadoop的SQL一直在被 ...

Kylin web界面 知识点介绍

Big Data Era: 1.More and more data becoming available on Hadoop2.Limitations in existing Business ...

Python + Apache Kylin 让数据分析更加简单！

现如今,大数据.数据科学和机器学习不仅是技术圈的热门话题,也是当今社会的重要组成.数据就在每个人身边,同时每天正以惊人的速度快速增长,据福布斯报道:到 2025 年,每年将产生大约 175 个 Zet ...

随机推荐

Xcode 快捷键

1.commmand +shift +k ,隐藏模拟器键盘,用户可以在真实键盘输入到模拟屏幕上.

MyEclipse修改项目名称后，部署到 tomcat问题

问题描述: 修改项目名称后,部署到tomcat问题 解决方案: 项目->属性->myelcipse->web下,修 改web context root就可! 要在eclipse里面改 ...

unity scroolView 和 groupview

#pragma strict var scrollPosition:Vector2; function Start () { scrollPosition[0]=50; scrollPosition[ ...

linux设置tomcat开机自动启动

1.修改/etc/rc.d/rc.local,使用vi /etc/rc.d/rc.local 命令2.在/etc/rc.d/rc.local文件最后添加下面两行脚本 export JAVA_HOME= ...

.Net程序猿玩转Android开发---(8)表格布局TableLayout

表格布局TableLayout是Android中比較经常使用的一个布局控件,既然是表格,肯定有行和列,TableLayout中的行有TableRow组成.列依据每行控件的数量来确定 假如第一行有3个控 ...

初学者自学笔记-this的用法

请注意:这是自学者的笔记,只是个人理解,并非技术分享,如有错误请指正. "this"的意思,简单而言,就是"这个",也就是"当前".谁调用它 ...

chapter 1 Number/Adventurous Person

part1: 1- Which would be easier to remember a munber or a name? Well, I am better at remembering num ...

mybatis逆向工程

一.背景 在实际开发中我们会自己去写mapper映射文件,接口,数据库表对应的实体类,如果需求任务比较少,咱们还可以慢慢的一个一个去写,但是这是不现实的,因为在工作中我们的任务是很多的,这时mybat ...

使用 slf4j抽象日志层 和 其他日志实现对接

前言 如果你正在提供一个开源的Java-jar,那么让你的项目仅依赖slf4j-api然后让你的用户在他们开发和运营环境中选择任意的日志实现绝对是个好想法,.作为终端用户,他们可以快速地从上面提到的日 ...

aspx 页面中 js 引用与页面后台的数据交互 --【 后台调用 js 】

js 中调用后台方法   一.用Response.Write方法 Response.Write("