大数据自 2009 年走向人们的视野,亦如所有新技术的发展,经历了一波炒作后,由风口回归理性发展。我们可以看到,随着 IOT 技术的发展和成熟,以及 5G 业务的全面铺开,数据规模还将持续增长。
新晋技术风口 AI、区块链、RPA 的发展也都离不开大数据技术。大数据技术将作为一项通用技术,应用在各个角落。同时,大数据技术的发展也由解决数据规模问题,发展到如何更高效地消费大数据,数据的实时性、云上迁移等成为大数据圈的新挑战。我们挑选了一些能应对这些新挑战的有代表性的技术栈,绘制了如下大数据圈生态图,并在下文对主流的技术栈进行了介绍:
OLAP 分析引擎:Apache Kylin™
Apache Kylin™ 是一个开源的分布式分析引擎,提供 Hadoop/Spark 之上的 SQL 查询接口及多维分析(OLAP)能力以支持超大规模数据。Apache Kylin™ 仅需三步,即可实现超大数据集上的亚秒级查询:
- 定义数据集上的一个星形或雪花形模型
- 在定义的数据表上构建 Cube
- 使用标准 SQL 通过 ODBC、JDBC 或 RESTFUL API 进行查询
Kylin 提供与多种数