你知道 TDengine 被问最多的问题是什么? 是库各、表名或字段名等使用名字的地方要使用反引号,涉及的问题包括名称想要用大写名称,想要用特殊字符,或想要用被关键词占用的各称等,所有使用名称出问题的,加反引号可解决,希望大家也能都知道,以后或许可以用的上。
TDengine 数据写入及副本写入流程 如果一个数据库有N个副本,那一个虚拟节点组就有N个虚拟节点,但是只有一个是Master,其他都是slave。当应用将新的记录写入系统时,只有Master vnode能接受写的请求。如果slave vnode收到写的请求,系统将通知taosc需要重新定向。
TDengine 检测数据最佳压缩算法工具 我们在使用 TDengine 存储时序数据时,特别希望自己庞大的时序数据能够被压缩的越小越好,以此节约磁盘空间。TDengine 提供了可指定数据压缩算法的功能,可根据自己数据特征,选择最佳压缩算法如何知道自己数据应该使用哪种压缩算法,本工具解决这个问题2.下载和安装本工具为开源工具,使用 python 程序编写本工具为绿色软件,下载后即可使用,无需安装本工具提供了检测样本数据的最佳压缩率,同时输出了和压缩率相关写入速度与查询速度两指标写入过程是数据压缩过程,写入速度与压缩数据正向关联。
《TDengine 技术内幕》1.3 物联网、工业时序数据的典型应用场景 但是,不同的车种采集的点位信息从数百点到数千点之间不一而同,随着联网的交通设备数量越来越多,这些海量的时序数据如何安全上传、数据存储、查询和分析,成为了一个亟待解决的行业问题。金融领域:金融领域目前正经历着数据管理的一场革命,它们的行情数据属于典型的时序数据,由于保留行情数据的储存期限往往需长达5至10年,甚至超过30年,而且可能全世界各个国家/地区的主流金融市场的交易数据都需要全量保存,因此行情数据的总量数据体量庞大,会轻松达到 TB 级别,造成存储、查询等等各方面的瓶颈。
《TDengine 技术内幕》1.2 物联网、工业时序数据十大特征 上一小节中,我们了解了时序数据的定义,以及时序数据在物联网、工业互联网崛起的时代的重要性。八. 数据是有保留期限的:采集的数据一般都有基于时长的保留策略,比如仅仅保留一天、一周、一个月、一年甚至更长时间,该类数据的价值往往是由时间段决定的,因此对于不在重要时间段内的数据,都是可以被视为过期数据整块删除的。一. 数据是时序的,一定带有时间戳:联网的设备按照设定的周期,或受外部的事件触发,源源不断地产生数据,每 个数据都是在一个时间点产生的,因此这个时间戳对于数据的计算和分析十分重要,必须要记录。
《TDengine 技术内幕》1.1 什么是时序数据? 可以看到,每一行记录都是有着属于自己的设备 ID(Device ID)、产生时间(Timestamp)、以及每个设备的位置(location)和分组(groupid)的。随着人类数据通讯成本的急剧下降,以及各种传感技术和智能设备的出现,工业、物联网企业为了监测设备、生产线及整个系统的运行状态,在各个关键点都配有传感器,采集各种数据。从手环、共享出行、智能电表、环境监测设备到电梯、数控机床、挖掘机、工业生产线等都在源源不断的产生海量的实时数据,这些数据最显著的特点,就是按照时间发生先后顺序进行排列的序列。
TDengine 技术内幕 第六章 数据订阅 为了帮助应用实时获取写入 TDengine 的数据,或者以事件到达顺序处理数据,TDengine 提供了类似消息队列产品的数据订阅、消费接口。在很多场景下,采用 TDengine 的时序数据处理系统不再需要集成消息队列产品。与 kafka 一样,你需要定义 topic,但 TDengine 的 topic 可以是一个数据库,超级表或者是基于一个已经存在的超级表、子表或普通表的查询条件,即一个 select 语句。
TDengine 写入性能优化最佳实践 多表低频是指根据数据库的配置,一个 vnode 中单次数据落盘的单表数据条数普遍小于 minRows 时,可视为多表低频场景。stt_trigger 是解决多表低频场景引入的一个参数和一套机制,stt_trigger 等于 1 时,数据是从buffer 直接落到最终的 data 文件中,零散的写入 last 中,当 stt_trigger 大于 1 时,原来的直接落盘被分成两步来完成,第一步数据先写到 stt 文件中,第二步再从 stt 中写入到 data 文件完成最终落盘。2024-7-21 于北京。
CentOS 7.9 下安装高版本GCC 我们在RPM 仓库中,提供 CentOS 7.9 的二进制 RPM 安装包最高只到 4.8.5 了,这个和 yum intall gcc 能安装的最高版本一致,没有再高的了。gcc 在 github 上没有,它放在 gnu 自己的仓库中了,https://gcc.gng.org 可以下载,或者使用 git 直接 clone。下载这三个组件依次安装,如果没有 bzip2 的用 yum install bzip2 安装上,然后。如果我们想安装更高的GCC 版本,怎么办,只能手工编译源码来做了。
我们如何选择最佳的压缩算法 看过很多压缩相关的技术文章,大家都在讲各种压缩算法的技术实现原理及各压缩算法之间的压缩率的对比,哪个压缩算法好等等。这些技术文章非常好,可以指引我们在技术上不断钻研。 本文从另外一个大家讲的还比较少的角度,和大家一起探讨下如何在产品中使用好压缩算法。