数据中台05:数据中台之数据加工总线

随着大数据行业的发展,企业对实时计算需求增长,但高昂的开发成本和复杂性成为挑战。为解决这一问题,本文介绍了数据加工总线,一个支持SQL的实时数据计算平台,旨在简化实时数据任务开发,降低技术门槛。平台核心是基于SparkSQL的实时SQL计算引擎,允许开发者通过选择数据源、目的地和SQL逻辑实现计算任务。未来计划引入FlinkSQL,提供更丰富的选择。
摘要由CSDN通过智能技术生成

一、目前大数据领域实时计算的现状

随着大数据行业的整体发展,企业对实时计算的需求越来越多,特别是在构建实时数仓的时候,需要接入很多实时数据源,并且数仓还是分层的,针对每一层的数据都需要进行实时计算,此时就需要开发很多实时计算程序,实时计算程序的复用性很低,针对每一种类型的数据都需要开发对应的实时计算程序,开发成本高,并且对程序员也不友好,需要专门的大数据开发工程师,所以我们希望在实时计算领域能够提供类似HiveSQL的功能,直接写SQL就能实现实时计算任务,不需要每次都写一堆的代码,提高工作效率,尽可能让会只会SQL的普通开发人员也能轻松的开发实时计算任务。

为了解决这个痛点,于是,我们研发了数据加工总线平台,也可以称之为数据实时流转平台。

二、什么是数据加工总线

为了使实时数据的处理能够更加高效、简单,所以我们研发了一站式实时数据开发平台。只需要在页面选择数据源、目的地以及对应的SQL计算逻辑,就可以轻松实现海量实时数据计算任务的开发。

这个平台主要的功能就是支持SQL实现实时数据计算任务的开发。

我们期望达到的目标,通过这套平台,可以实现用SQL解决80%以上的实时数据计算需求。

三、数据加工总线原型图总览

由于数据加工总线涉及前端和后端,在企业中前端代码有专门的同事负责开发,我们大数据部门只需要负责后台功能开发即可,所以在课程中不涉及前端页面代码,在这里通过原型图来演示一下数据加工总线具体的使用流程,加深大家的理解。
注意:原型图只能在这里给大家演示一下,不能发出去,希望大家理解。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

做一个有趣的人Zz

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值