大家好,今天我分享的是 KaiwuDB 数据服务平台(KDP),一款由我们独立自主研发,以 KaiwuDB 为核心的数据服务产品。
KDP 产品建设目标是实现数据的云边端的一体化治理,提供一套完整的全生命周期服务。接下来我将围绕时代背景、时序数据新解法及功能展示 3 大维度展开详细介绍。
01
数字时代下的机遇与挑战
当前,我国数字经济发展已进入到快车道,数字经济产业不断壮大,为各大行业企业创造了转型和发展的机遇。
物联网概念起源于 1999 年,5G 的正式商用进一步推动了物联网的高速发展,在物联网背景下,数据信息的价值将被进一步放大。据公开数据分析,我国物联网市场规模会由 1.7 万亿增长到 2.6 万亿,5 年复合增长率达 9%。同时,中国企业级市场规模在未来几年也将继续保持着全球最大的物联网市场体量。
物联网产生源源不断的时序数据,在这里将出现第 1 个挑战:如何收集、处理、储存海量的时序数据?
我们先一起来看看时序数据的处理过程,从数据诞生到分析决策共经历 6 大环节:数据收集、数据清洗、数据存储、数据管理 4 个环节约占全流程的 80%;初始数据分析和数据可视化仅占全流程约 20%。
![](https://i-blog.csdnimg.cn/blog_migrate/a21e9037eb951b00db9567b94d79b28c.png)
在占比最多的 4 个流程中,普遍会遇到以下问题:
物联网协议多种多样,数据难以聚合;
由于业务原因数据分散在各大系统;
数据时效性差,需临时调用人力进行数据分发;
数据格式、颗粒度各异导致数据质量低;
数据的复用性差,按照需求处理的数据仅能应对某些场景。
说到这里,前面提到的挑战难度也不可避免地增大—如何及时且快速地收集、处理、存储海量数据!
业内伙伴会选择通过大数据强大的计算能力和 BI 可视化能力实现数据即时分析,企业通常会将开源的 Kafka、Redis、Hbase、Hadoop、Spark 等大数据软件组合使用,利用集群能力处理海量数据。
但是,也将不可避免地带来很多问题:首先,多系统开发语言和工具不一致导致联调时间长,进而严重影响整体开发效率;其次,多系统运维后台相互独立,加重运维团队负担;此外,数据在多套系统中的传输,由于处理方案的限制,运行效率较低。这些问题都将拖慢整体应用推向市场的节奏。
02
有更加符合物联网特征的解决方案吗?
答案是肯定的。
为此,我们推出了 “KaiwuDB+KDP”的解决方案,致力于解决数据流程中的收集、清洗、存储、管理、初始数据分析及数据可视化全流程的痛点。
我们的建设理念是帮助企业快速成建设“业务即数据,数据即服务”的方案。
顶层:助力物联网企业发展,加速生态迭代;
中层:实现物理设备双向通信,既能集成数据,又能下发指令,向上提供高效实时数据服务,真正打通数据源端到企业管理端的数据流;
底座:支撑数据和主流数据源的实时/离线汇入,联合 KaiwuDB 提供一站式的实时数据解决方案。
![](https://i-blog.csdnimg.cn/blog_migrate/f79fc6f1c6e8146038e7f1070f89507b.png)
KDP 以 KaiwuDB 为核心,聚焦工业物联网、数字能源、交通车联网、智慧产业等领域,搭建具备高速数据集成构建特性的行业级物联网实时信息融合平台。
为帮助大家加深理解,这里提炼四个关键词来展开详细介绍:
“高速”:集成高速、运算高速、页面响应高速,满足用户对高性能需求;
“集成”:实时接入、离线接入、多源集成、多模数据集成,满足用户对多源异构数据的集成管理需求;
“构建”:提供实时分析、流式计算、数据模型处理、数据可视化等功能,为用户提供数据消费的各种基础能力;
“行业级”:我们会针对目标行业持续推出一系列模型与方案,包括通用的分析方案与定制化方案。
如图是 KDP 产品架构,从数据采集、清洗、存储、管理、可视化全流程都可在 KDP 完成。数据来源支持数据库、Kafka、Excel等,经过缓存、数据管道写入到 KaiwuDB 中,此外提供了完备工具监控以上流程,最终在 KDP 以可视化形式进行结果展示。
![](https://i-blog.csdnimg.cn/blog_migrate/ac03e48fb2b460098aed05faa542f717.png)
03
KDP 究竟能带来什么样的价值?
结合当下现状,这里为大家展示 KDP 的 5 大核心亮点功能:
亮点 1:围绕用户使用场景,我们展开了详尽的需求分析,保证用户开箱即用,大幅降低学习成本;
亮点 2:低代码构建数据 BI 分析,支持自主报表分析,非专业开发人员也可上手操作,降低使用负担;
亮点 3:支持向前追溯,多维度、多层次的深度探索,配合 KaiwuDB 的强大算力,满足用户日常分析需求;
亮点 4:丰富的数据共享,支持用户二次开发,开放丰富 API 满足用户的更多延展需求;
亮点 5:支持多层次安全访问控制,支持系统级、页面级;数据能够控制到行级、列级,提供全套安全访问控制机制。
产品需要能为用户创造价值,这也是我们最关心的问题。KDP 围绕着用户的需求,深度打磨覆盖从数据源端再到数据消费端的全链路的场景,致力于为用户提供更多实用价值:
支持多样的数据源,屏蔽下层的数据收集的复杂度;
消除数据孤岛,数据统一管理治理;
盘活数据,增加数据活力,将数据转化为数据资;
安全多样的数据共享,提升数据分享能力;
全链路数据服务方案,加速上层的数据建设。
04
未来的 KDP...
未来,我们将不断完善产品的功能,分阶段打造 IoT 数据服务平台,实现物联网设备的双向通信,提供多种 AI 模型以及行业模板,覆盖全链路的数据解决方案。
接下来的一年,大家还会看到我们更丰富的功能上新,更全面的物联网设备接入,更优质的开放服务,更全面地覆盖企业的通用及个性化需求。
另外,我们还将提供基于 AI 的异常检测、预测分析功能来满足企业对实时数据的预测需求;提供全面的数据监控、集群监控,及可视化工具分析模板,覆盖云边端场景的实时数据分析,增强平台安全能力。