面试或开发必懂场景案例:物联网(Iot)把数据补齐和转换成分钟级数据的详细案例(完整代码实现和解释)

目录

1 物联网数据不连续性

2 物联网数据补齐方法

3 分钟时间维度表

3.1 时间维度表的作用:

3.2 如何设计分钟维度表:

3.3 如何生成分钟维度表:

4. 对原始数据进行按1分钟进行去重

4.1:使用窗口函数ROW_NUMBER()

4.2:使用子查询

5.如何给数据补齐所以分钟级数据。

6. 用最近邻插值(按向上找不为空的值来填充)


1 物联网数据不连续性

在物联网中,许多传感器只在检测到环境或设备状态变化时才发送数据,这样做的好处是可以减少不必要的数据传输,节省电力,降低网络拥堵,并减少数据存储需求。例如,一个温度传感器可能只有在温度超过预设阈值时才会发送数据更新。

在实际计算上,很多时候需要对数据进行补齐,例如需要补齐到每一分钟都有数据。

2 物联网数据补齐方法

物联网数据补齐到每一分钟的过程可以采用以下几种方法:

  1. 插值法

    • 线性插值:在已知数据点之间进行直线插值,假设数据在这两点之间是线性变化的。这种方法简单快速,但可能不够精确。
    • 多项式插值:使用多项式函数来估计缺失的数据点。这种方法比线性插值更精确,但计算复杂度更高。
    • 最近邻插值:用缺失数据点最近的已知数据点的值来填充。这种方法简单&#x
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大模型大数据攻城狮

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值