Paimon: Streaming data lake 数据湖项目的后起之秀

Paimon是一个流数据湖平台,提供高速数据摄取、变更日志跟踪和实时分析。它支持批流读写,作为数据湖存储,拥有低成本、高可靠性和元数据扩展性。Paimon采用两阶段提交保证一致性,并支持多种计算引擎如Flink、Hive和Spark。其核心功能包括Unified Batch & Streaming、Merge Engines和Changelog producer。此外,Paimon还支持全增量一体摄入、消息队列的流读和变更日志的流读。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

什么是Paimon?

Paimon的官网介绍是:Streaming data lake platform with high-speed data ingestion, changelog tracking and efficient real-time analytics.
Paimon 是流数据湖平台,具有高速数据摄取、变更日志跟踪和高效的实时分析能力

数据湖是大数据近年来的网红项目,熟知的开源数据湖三剑客 Apache hudiApache icebergDatabricks delta 近年来野蛮生长,目前各自背后也都有商业公司支持,投入了大量的人力物力去做研发和宣传。

Paimon的前身是flink-table-storeFTS
最开始是作为 Flink 的子项目加入了 Apache 社区,由 Flink 团队主导研发,开源后不够火
也许是因为数据湖市场早已被三剑客占据了大半,也许是宣传的力度不够,也许是 Flink 子项目限制了它作为数据湖产品的发展。
可能也正是这些种种的原因促成 flink-table-store 作为独立项目重新加入 Apache,不再依附 Flink,并且更名为Paimon

提供的核心功能

  • Unified
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

enjoy编程

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值