3 月 3 日至 5 日,备受 PGer 们热切期盼的 PostgreSQL 中国技术大会在杭州拉开帷幕。作为 PG 开源生态的贡献者、实践者与创新者,YMatrix 受邀参与大会,并荣获“数据库最佳产品奖”。
引领 PG 生态进入物联网时代
PostgreSQL 中国技术大会是由 PostgreSQL 中文社区主办,每年一届,至今已成功举办十二界。这十二年也是 PG 生态在中国落地生根、快速发展的时期。中国用户群体日渐庞大,同时也涌现出越来越多的本土技术团队,基于 PG 技术栈开始新方向上的创新探索。他们反过来贡献社区,使 PG 生态更加繁荣。
YMatrix 正是这样的一支团队,基于 PG 内核,而深耕于时序大数据分析场景,引领 PG 生态进入数据库的物联网时代。
YMatrix 率先提出了超融合数据库理念,基于多微内核架构,同时支持时序 + OLAP + OLTP。既可游刃有余地应对海量时序数据的写入及存储挑战,也同时提供强大的查询分析能力,更可以实现多模数据(关系型、时序、JSON、文本、GIS 等等)的多维交叉分析。
这恰恰反映出物联网时代大数据分析的主要特征:源源不断的海量数据、五花八门的数据类型,错综复杂的分析需求。而 YMatrix 以简洁统一的技术架构,帮助用户能够快速构建起一套高性能、易运维、并具有强大分析能力的物联网大数据平台,同时 100% 兼容 PG 生态链,将 PG 生态的巨大能量注入物联网场景中。
过去的 2022 年,更是 YMatrix 突飞猛进的一年。全新的 YMatrix 5.0 正式发布:在数据写入、单表查询、多表关联查询、事务查询并发(TPS)、算法建模分析等六大方向全面实现性能突破;针对超大规模复杂时序场景,推出了专用存储引擎 MARS2,极大提升了面对每秒亿级规模数据量时的写入效率和存储成本。同时,在新能源、智能制造、智能网联汽车、大型装备运营等真实生产场景中,YMatrix 也不断深耕整体服务能力,并了收获了诸多突破性的落地案例。
翻越时序场景的珠穆朗玛
作为 PostgreSQL 中文社区的老朋友, 近几年来 YMatrix 从未缺席技术大会。此次,YMatrix 技术服务团队负责人王健,受邀现场参会,并分享了 YMatrix 最新的产品特性及场景实践。
王健表示,在支持客户的过程中,才真切感受到来自实际场景的极限挑战。以新能源智能汽车场景为例:
-
第一,数据规模非常巨大。数十万辆车 x 数千个指标 ,7x24 小时源源不断地生产数据,同时还要处理来自传输链路上的各种不确定因素,比如延迟、乱序、异频等。
-
第二,成功将数据存储入库,才只刚刚完成了一半,后面还要响应来自业务端的各种查询分析需求,比如基于轨迹数据的实时追踪、对故障风险的实时预警或是对事故的归因分析,等等。而这些需求的频度、SQL 查询的复杂度、对实时性的要求,都越来越高。
-
第三,运维压力很大。最直接的就是扩容,以及背后的成本考量。数据不断写入,并且规模还在快速增长。扩容势在必行,但如何更经济地存,并且能更方便地执行扩容,这都是切实的需求。
YMatrix 如何应对?王健分享了其中的几个关键点:
MatrixGate: YMatrix 提供的一个数据写入套件。对外暴露统一的数据接口,而在内部实际上有一整套机制和通信协议来和数据库对接,保障写入性能,因此性能很好,但使用起来却很简单,并可通过横向扩展的的方式保障高并发。目前实测 MatrixGate 可以承载上亿点每秒的写入,可做到毫秒级的写入延迟。更重的是支持 ACID 特性,保证全链路数据强一致性。
编码链:YMatrix 可以支持多种压缩算法:Floatint、Gorilla、Zigzag、LRE、zstd、lz4、delta-delta ,等等。根据不同数据类型可以选择最合适的一种,同时还可以将这些算法编排在一起,也就是编码链,这样针对不同的数据类型分别采用最适用的算法,从而取得整体最优效果。测试数据显示 YMatrix 目前最高可达到 13:1 的压缩比。
MARS2 存储引擎:这是 YMatrix 自研的一款行/列混合存储引擎,数据顺序写入,因此可以做到很快的写入速度,同时支持异频乱序插入。在其内部采用了很多机制,如块级索引、多级合并等等,有效地降低内部开销和资源消耗,从而提升整体的运作效率。另外,MARS2 可以支持做持续预聚集,达到类似 Flink 的实时计算能力,针对某个指标可以在数据一入库之后就计算出它的 count、avg、 或者 sum 值等等。当查询这些值的时候,可以做到毫秒级返回,这种特性在车联网的场景中非常有帮助。
向量化:向量化的实质是充分地利用好 CPU 的 L2/L3 Cache 以及 SIMD 指令集,从而实现查询运算性能的大幅提升。YMatrix 做了比较全面化的向量化,包括算子、表达式、函数、类型转换。同时也对全链路上的重要环节做了向量化:scan、filter、motion ,以及比较高频被使用的窗口函数,等等。
荣膺大奖,持续探索
在本届大会上,为表彰生态创新,全方位激发技术、场景及产品的突破性探索,大会也面向 PG 生态中的优秀产品,评选并颁奖。YMatrix 荣幸获颁“数据库最佳产品奖”。
YMatrix 完全兼容 PG 和 GP 生态,在继承这两款经典数据库的基础上,一直致力于物联网大数据场景的探索与创新。面向未来,YMatrix 将持续深耕物联网大数据分析,深入场景细节,围绕全类型数据融通和全场景综合分析,不断优化性能,扩展功能,提升易用性。YMatrix 也将更深入地融入生态、贡献生态,为 PG 在物联时代的发展,注入能量。
PG 技术大会一年一届,技术探索永无止境,唯有无限进步。我们明年见!
本文为 YMatrix 原创内容,未经允许不得转载。
欲了解更多超融合时序数据库相关信息,请访问 “YMatrix 超融合数据库” 官方网站