Delta Lake:文件类型

Delta Lake使用json文件记录INSERT, UPDATE, DELETE等操作,并定期合并为checkpoint文件。checkpoint文件以parquet格式存储,便于快速获取表状态。_last_checkpoint文件记录最新checkpoint信息。更新数据时,Delta Lake会读取旧文件,按条件更新并写入新文件,原文件标记为删除。了解详细信息,请参考相关博客链接。" 109594922,10186909,WebLogic配置指南:JDK、WebLogic与达梦数据库集成,"['WebLogic服务器', 'Java', '数据库集成', 'JDBC配置']
摘要由CSDN通过智能技术生成

文件类型

Delta Lake 总共有 4 种类型的文件,前 3 种都是记录 commit log 的,最后 1 种是记录数据的:

/mytable/_delta_log/00000000000000000000.json
/mytable/_delta_log/00000000000000000001.json
/mytable/_delta_log/00000000000000000003.json
/mytable/_delta_log/00000000000000000003.checkpoint.parquet
/mytable/_delta_log/_last_checkpoint
/mytable/part-00000-3935a07c-416b-4344-ad97-2a38342ee2fc.c000.snappy.parquet

当用户提交一个修改表的操作时(例如 INSERT, UPDATE 或 DELETE),会将该操作分解为包括如下所示的一系列步骤并记录到 json 文件中:

  • 添加文件:添加一个数据文件,记录文件路径等信息。
  • 删除文件:删除一个数据文件,记录文件路径等信息。。
  • 更新元数据:更新表的元数据(例如修改表的名称、schema 或分区)。
  • 协议:协议的版本信息。
  • 提交信息:包含提交所需的信息——执行了什么操作、操作来源以及操作时间。

例如 INSERT 和 UPDATE 的 json file 内容如下:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值