timedb数据库

最近在做SNMP流量采集时遇到一个问题,当查询设备的一个接口5min内的流量时数据库延时过长,其本质是数据库的查询效率问题,为了优化查询采取如下处理

  • 尝试对查询column建立索引
  • 将IP(表中的一个column)改成int类型存储
    但是效率并没有什么显著的改善
  • 最后只好再重建建立一个缓存表,定期将采集所有时间点流量信息的表以一定间隔存到缓存表,当查询跨度较大时调用缓存表,然后定期让进程删除一定数据

还有另一种解决方案是通过建立timedb表来优化查询时间
time_bucket_gapfill() 方法是Timescale对外提供的查询方法,第一个参数是指定间隔,第二个参数是数据库中要压缩的列,最后是时间跨度

以下是官网的例子: https://docs.timescale.com/latest/using-timescaledb/reading-data#gap-filling
在这里插入图片描述
查询出的结果
在这里插入图片描述

def timedb():
	# str(time):时间段,当前时间 - 时间段 = 跨度
	# minutes:数据库中两条数据的时间间隔
	result_sql = """select time_bucket_gapfill('5.0 minutes',time) as time_range, avg(value), min(value) from xxx where id='15424' and time > now() - interval '30 day' AND time < now() group by time_range order by time_range desc """ 
    
    cursor.execute(result_sql)
    db_result = serialize(cursor.fetchall())
    for per_result in db_result:
        try:
            agg_db = {"time": per_result[0], "avg": per_result[1], "min": per_result[2]}
            data.append(agg_db)
        except JSONDecodeError:
            pass
    return JsonRes(data, success=True, info="Successfully.")

如果数据库中存放的例子是如下形式

timevalue
00:00100
00:01100
00:02100
00:03100
00:04100
00:05100
00:06100

查询后的结果是

timevalue
00:00100
00:05100
  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在ClickHouse中,可以使用`toDateTime`函数将Unix时间戳转换为日期时间格式。然后,可以使用`toStartOfInterval`函数将日期时间按照指定的精度进行舍入。 具体实现`time_bucket`函数的步骤如下: 1. 创建一个自定义函数来实现`time_bucket`功能。可以使用ClickHouse的用户自定义函数(UDF)功能来实现此目的。 2. 在ClickHouse中,UDF可以用不同的编程语言,如C++或Python来实现。这里以C++为例。 3. 创建一个C++文件,编写一个函数来实现`time_bucket`功能。可以使用ClickHouse的C++客户端库进行开发。 4. 在C++函数中,首先将输入的Unix时间戳转换为日期时间格式。可以使用`toDateTime`函数来实现这一步骤。 5. 然后,使用`toStartOfInterval`函数将日期时间按照指定的精度进行舍入。可以将精度作为函数的参数传递给C++函数。 6. 最后,将转换后的日期时间返回作为结果。 7. 将C++函数编译为ClickHouse的UDF。可以使用ClickHouse提供的`clickhouse-udf`工具来实现这一步骤。 8. 将编译后的UDF加载到ClickHouse中。 9. 在ClickHouse中,可以使用`CREATE FUNCTION`语句来加载UDF。加载后,`time_bucket`函数将可用于查询中。 10. 使用`time_bucket`函数来处理时间序列数据。通过指定精度,可以将时间序列数据分组到指定的时间间隔内。 以上是实现`time_bucket`函数的大致步骤。根据需要,还可以对函数进行优化和扩展。同时,在实际使用中需要注意性能和数据处理的准确性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值