10万测点实时监控,0.02毫秒告警延迟!——DolphinDB 实例演示

在新能源行业,对于设备运行状态的实时监控至关重要,任何延迟都可能带来经济和安全风险。在之前的文章 更快、更准!——DolphinDB 打造新能源行业实时监控新利器 中我们曾介绍过,面对灵活规则管理高性能数据处理的双重需求,DolphinDB 推出了规则引擎,帮助用户在海量数据中实现毫秒级监控

今天,我们将通过一个具体的演示实例,向大家直观展示规则引擎从数据采集规则配置实时告警的完整应用过程。

场景设定

在本例中,我们模拟一个高并发监控场景:10 万个点位,每秒采样一次,采样指标为电流、电压、和温度。同时,每个点位对应 6 个规则,共产生 60 万条规则集。

我们在系统中准备 6 张核心数据表:

  • inputTable:保存 Kafka 消费的实时数据,共有 5 个字段,分别为时间、测点 ID、电压、电流以及温度;
  • outputTable:保存经过规则引擎处理后的实时数据,共有 7 个字段,分别为时间、测点 ID、电压、电流、温度、规则引擎开始处理该条数据的时间以及当前测点是否满足规则的结果列;
  • resultTable:保存实时告警信息,共有 8 个字段,分别为时间、测点 ID、电压、电流、温度、规则引擎开始和结束处理该条数据的时间、以及当前测点的告警信息;
  • ruleTable:保存每个测点的初始规则,包括电压、电流、温度的上下限数值,用于初始化规则引擎的规则集;
  • input_data:分布式表,保存 Kafka 消费的历史数据;
  • resultTable:分布式表,保存历史告警数据。

这 6 张表构成了我们实时监控系统的数据基础。

Step1:模拟实时数据写入 Kafka

要进行实时监控,首先要有源源不断的实时数据。我们在 DolphinDB 中创建模拟数据函数

创建 Kafka 生产者,配置生产者参数:

最后生成模拟数据,共 10 万个测点,每个测点每秒产生 1 条数据,模拟 24 小时数据:

Step2:采集平台订阅 Kafka 数据

数据产生后就需要进入系统。我们通过 DolphinDB 数据采集平台实现低代码订阅 Kafka。该平台专为数据采集与管理而设计,支持 MQTT 和 Kafka 两种主流数据通信协议,界面直观、配置简单,用户能够轻松对接不同协议的测点,使数据采集的启动与停止变得更加快捷高效。

DolphinDB 数据采集平台详情请见:
https://docs.dolphindb.cn/zh/tutorials/kafka_mqtt.html

我们依次完成以下步骤:

  1. 创建 Kafka 协议连接,输入连接名称、服务器 IP 以及 Kafka 服务器监听的端口号;
  2. 创建 Kafka 解析模板;
  3. 创建订阅并配置参数,输入 Kafka 连接名称、主题。Kafka 会根据订阅主题过滤并分发消息给相应订阅者,指定处理订阅消息节点。选择解析模板,Kafka 消费策略设置 earliest。
  4. 开启 Kafka 订阅。

通过内置的数据面板,我们就能实时查看 Kafka 消费的数据,包括当日数据流量、最近一小时流量、最近一分钟流量以及流入速率。

Step3:创建并订阅规则引擎

订阅数据后,实现监控的关键就是调用规则引擎。

由于 10 万个点位都存储在 ruleTable 中,所以我们需要根据这个库进行规则集的初始化

每个测点对应一组规则,规则中包含电压、电流以及温度的上下限。10 万个测点对应 10 万组规则,整个初始化过程仅需几秒钟

接着,我们创建规则引擎回调函数,用于处理告警信息,并将结果写入 resultTable:

创建规则引擎并完成以下订阅:

  • 将 Kafka 消费的数据写入分布式表;
  • 将数据输入规则引擎;
  • 将告警数据保存到分布式表。

至此,数据流与规则引擎打通,系统进入“实时监控”状态。

Step4:监控告警信息

规则引擎运行后,系统会自动触发告警,我们可以实时查看。例如:

  • 查看当日告警数量;
  • 查看当日告警信息,同时可以根据测点 ID 查询告警信息;
  • 查看某测点对应的规则;
  • 查看平均告警时延,约为 0.02 毫秒
  • 查看规则引擎处理不同批次数据产生的告警时延。

告警数据监控面板

Step5:更新查看规则集

很多监控系统的痛点在于规则更新需要停机重启,业务中断风险极高。而 DolphinDB 规则引擎则支持在线热更新,无需停机。

我们根据测点 ID,输入想要修改的指标名称和指标值,就能对规则引擎中的规则进行修改:

查询更新后的测点规则,可以观察到规则更新:

查看该测点的告警信息,验证规则是否立即生效:


通过这一案例,我们可以直观感受到 DolphinDB 及其规则引擎在实时监控场景中的优势:高性能、低延迟、规则管理灵活、支持在线热更新……对于企业来说,这不仅意味着更高的安全保障,也代表着更高的运营效率。后续我们还将发布完整的视频演示 Demo,敬请期待!

如果您想进一步了解 DolphinDB 在物联网领域的更多实际案例与前沿应用,欢迎关注我们,第一时间了解最新动态与技术干货!

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值