时序数据库 IoTDB 赋能上海电气国轩智慧储能运营云平台建设,应对海量储能数据挑战...

eb272af0160380599aa931db8f9d4c86.jpeg

IoTDB 有效破解大规模储能场景下,海量时序数据接入和多终端、多环境云边协同等难题。

1. 应用背景

上海电气国轩新能源科技有限公司(以下简称“上海电气国轩”)长期致力于电化学储能业务的技术研发、工程应用和市场开拓,实现从电芯到储能系统的全产业链覆盖,能够为新能源+储能、调峰调频、电网侧储能、工商业储能应用等提供一站式系统解决方案。其储能系统已进入全国 18 个省、市、自治区,已完成电源侧、电网侧、用户侧全场景应用布局。

围绕"一芯3S"(电芯、BMS、EMS、PCS)核心产品链,上海电气国轩构建了储能核心竞争力,其中"上海电气智慧储能运营云平台"为关键组成部分。

上海电气智慧储能运营云平台旨在运用物联网、大数据、机器学习等前沿数字化技术,提供对储能单元的状态感知、边缘协同管理、储能运行可靠性评估及储能系统运维策略等方面能力,构建满足储能智慧运营和智慧运维相结合的场景化解决方案。

该平台的建设存在两大难点:面向大规模储能场景的海量时序数据接入,以及多终端、多环境的云边协同。上海电气国轩通过选择 IoTDB 作为智慧储能运营云平台中,负责时序数据存储、查询、分析、传输的核心组件,实现了高通量写入、高压缩比、高实时查询返回,并建立了高扩展、高灵活度的数据模型与协同同步方案

2. 应用痛点

大规模储能电站场景的时序数据管理,往往面临数据写入、存储、查询等性能挑战,并需要减少系统架构复杂度,降低系统维护成本,提高系统可靠性。具体来看:

outside_default.png

数据量大,采集频率高

以 200 MWh 规模的储能电站为例,其一般包括几十台集装箱,共约百万个测点,以秒级频率进行采集,年数据量达到 TB 级别。而以集装箱为例,目前上海电气国轩系统已接入 1 GWh 容量、约 400 台设备,每台设备测点在 6000~8000 个左右,每个测点平均 15~30 秒更新一次数据。海量的时序数据增加了存储和计算资源的压力,超高的采集频率也对物联网终端设备的性能和稳定性提出了更高的要求。

outside_default.png

数据的无序性

通常而言,采集数据多为连续数据流形式,从不同的外部数据源持续生成。但在工业互联网常见的端、边、云数据传输场景中,由于网络和安全策略等原因,往往无法控制这些数据流到达的顺序和产生的速率。数据流可以看作一个带有时间戳的、无限增长的结构化日志模型,它的流向是不可变的,一般不支持更新操作。所以大规模储能电站场景中,如何更好地接入、存储这些无序数据并实现协同部署,是一大挑战。

outside_default.png

写入和查询性能要求

储能测点基数大,并采用及时变位存储,导致存储数据量巨大。如果数据库不能及时写入,系统设计的复杂度会随之提高。

同时,对于 TB 级别以上的数据量,传统的大数据手段可以做到非实时查询分析,但对时序数据最重要的实时查询场景,传统大数据手段可能无法满足性能要求。

此外,采集系统上传的原始数据一般无法满足业务需要,这些离散的原始数据需要进一步加工、处理、分析,而在此过程中依然需要保证写入性能,因此对系统的并发能力提出了要求。

outside_default.png

灵活的数据模型要求

对于查询、处理过的更高重要性的数据,上海电气国轩希望将其直接加入到数据模型中,从而不断地完善扩展现有模型,因此需要数据库支持的数据模型具备高扩展性与灵活性

并且,智慧储能运营云平台的设计初衷并非只满足储能系统数字化的需要,同时也希望满足风、光、充等新能源系统集成和其他类型系统的需要,因此需要针对各个行业实现灵活建模,并能够在开发过程灵活扩展。

3. 选择 IoTDB 原因

上海电气国轩之所以选择 IoTDB 作为智慧储能运营云平台中的时序数据管理核心组件,主要因为 IoTDB 有以下几点特性:

outside_default.png

物联网原生

IoTDB 立足物联网/工业物联网业务场景,针对工业场景时序数据管理中数据通量高、数据模式弱、两节点高可用等典型需求,自主研发了 IoT/IIoT 全场景工具,能够提供低理解成本、高应用效能的完整解决方案。上海电气国轩对于 IoTDB 为工业业务场景量身研发的数据模型、功能、工具等成果十分认可。

2caa60ac83f6a491372b885e53cee2a6.png

outside_default.png

稳定的写入支持

IoTDB 具备强大的海量时序数据写入能力,列式写入模式支持毫秒级接入,能够满足海量时序数据上报需求。在上海电气国轩实际应用中,以 200 MWH 容量电站的数据采集为例,总数 40 万测点中如同时有 20 万测点更新写入 IoTDB,经实践单机版写入毫无压力并保持运行稳定

outside_default.png

优异的数据压缩比

在存储压缩性能方面,IoTDB 结合自研的时序数据标准文件格式 TsFile,其中列式存储、编码算法、分段摘要信息、文件级索引等架构,能够使数据压缩比获得明显提升。

上海电气国轩将过去其他数据库约 3T 的数据迁移到 IoTDB 上,只占用约 100G 空间,大幅减少了资源占用与成本。目前上海电气国轩万亿量级的数据,只占用 800GB 存储空间。对于 200 MWH 容量电站,单站部署机器要求的磁盘容量配置也相应大大降低,只需 2~8T 便可满足 5 年以上数据的存储要求

outside_default.png

优雅的存储模型

传统时序数据模型需要通过 Table 进行管理,虽然能够实现测点的添加,但从概念上不免受到 Table 结构的约束,需要开发人员学习特定创建或修改的语句等,学习和记忆的成本均较高。

IoTDB 采用树形时序数据模型,能够直观地与工业场景中的工厂、设备、测点/传感器等层级进行对应。对于需要新增或变更的设备,IoTDB 也能够做到自动化同步,有效降低时序数据管理与运维成本的同时,也方便了模型的扩展,能够达到亿级时序数据的管理规模

d6f138a24cc8ab08be5593f9c500034d.png

上海电气国轩基于 IoTDB 构建的时序数据模型

4应用架构及效果

上海电气国轩打造的上海电气智慧储能运营云平台,依托 IoTDB 以及大数据分析、智慧云平台等能源数字化技术,构建了储能系统的“端-边-云”协同系统,实现储能电站和设备的全面感知、实时监控、数据追溯、智能诊断以及储能系统的全生命周期管理,有效提升电站和设备的运行寿命以及经济性收益。

该平台可满足端-边-云业务场景下的所有业务需要,包含边缘侧数据接入、边缘侧数据处理、云侧数据接入、云端多级数据处理、数据管理等处理全链路,实现数据采集、边缘数据转发、数据存储、数据模型管理、可视化监测、决策分析等功能模块。

储能工业场景产生的数据从智能设备层上报,通过数据接入层的多类协议进行采集,传输进入数据存储层的各类数据库中,以供数据服务层的多类处理、分析功能进行调用、查询,最终服务业务层的数据可视化、告警检测、业务决策等方向。

在整个系统时序数据链路层,上海电气国轩借助 IoTDB 优势,将 IoTDB 应用至数据采集、数据存储、数据传输、数据分析等各个方面,用以管理电池电芯、储能电池簇、集装箱储能系统、5G 通信基站备用电源、UPS 备用电源等多类储能设备监测数据。

基于统一的、可插拔的文件格式 TsFile,上海电气国轩实现跨网闸文件同步,场站端侧向云侧数据上传,方便、灵活地协同传输需求

借助 IoTDB 本身具备的高读写能力、高压缩能力、时序场景实时查询能力等,上海电气国轩可有效利用时序数据,支持分析电池利用率、使用寿命等业务服务

不仅如此,上海电气国轩也对原有系统完成了重新设计和定义。依托 IoTDB,上海电气国轩全面设计和规范化模型,使其灵活支持业务的变化;在 IoTDB 实现的高效写入和压缩性能基础上,上海电气国轩全面优化系统部件,如场端去掉消息队列、Redis 等,从而大幅提升上海电气智慧储能运营云平台对时序数据管理的效率

c3b896a324e3cd0f01071e9bc2f7bac9.png

目前,上海电气智慧储能运营云平台接入测点约有 500 万点以上,每个测点平均每 5~10 秒更新一次数据,总数据存储量超过万亿条,并且随着业务的发展,测点数量还在不断增长中。

IoTDB 在功能、性能等方面的优势,成功帮助上海电气国轩系统从重服务蜕变为轻服务,有效降低开发难度,减轻系统运维压力,架构设计得到质的提高,并减少了企业的存储成本和计算成本。同时,IoTDB 优雅的树状结构模型也提升了服务接口之间的一致性。各方赋能下,上海电气国轩系统性能得到质的提升,目前没有发生劣化现象。

9d13470b4415b454e87049cf89b782af.png

5应用场景举例

outside_default.png

场景一:历史数据回溯

针对上海电气国轩需要从海量历史数据中回溯指定时刻数据,并完成可视化散点图渲染的需求,IoTDB 可在 3 秒内完成从读取数据到页面散点 Chart 的渲染。

e08b6e7212132fe07b10fa7d809ea4bf.png

outside_default.png

场景二:历史数据可视化

针对上海电气国轩需要获取一月内的原始历史数据,并基于不同的设备或数据项绘制历史数据曲线的需求,IoTDB 可在 2 秒内完成从读取数据到曲线页面的可视化呈现。

04696bc4cde5fdfc94dfef153d169bbf.png

6未来展望

目前,上海电气国轩基于 IoTDB 打造的上海电气智慧储能运营云平台已平稳、高效运行 2 年。

未来,伴随着储能行业的快速发展,时序数据的数据量也将呈现指数增长。上海电气国轩将继续与 IoTDB 团队紧密配合,挖掘时序数据对于储能业务场景的应用价值。

天谋科技简介

天谋科技(Timecho)成立于 2021 年 10 月,是行业领先的时序数据库管理系统及相关服务的提供商,现已获得近亿元人民币天使轮融资。公司由 Apache IoTDB 核心团队创立,团队聚焦大数据底层技术软件研发,针对企业组建物联网大数据平台时所遇到的数据体量大、采样频率高、数据乱序到达、分析需求多、存储与运维成本高等多种问题,为企业提供海量时序数据管理的高效解决方案。目前,其物联网原生时序数据库管理系统已在国家电网、国家气象局、中航成飞、中核集团、中国中车、长安汽车、金风科技等企业广泛应用

电话:010-62780978

邮箱:contact@timecho.com

网址:www.timecho.com

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值