paimon手动清除分区数据

本文介绍了如何在Paimon0.5版本(支持Flink1.17.1)的环境中,通过YARN会话启动FlinkSQL客户端,创建catalog连接Hivemetastore,然后以批处理模式执行数据插入操作,同时讨论了自动分区失效的设置。
摘要由CSDN通过智能技术生成

环境:paimon分区可以设置为自动失效,但官网也提供了手动方案,paimon 0.5版本只支持flink,本测试案例 flink 1.17.1 paimon 0.5,hive 3.1.2

在这里插入图片描述

案例

启动yarn-session

在这里插入图片描述

flink client操作

[root@ks2p-hadoop06 flink-1.17.1]# ./bin/yarn-session.sh 
# 连接yarn session
[root@ks2p-hadoop06 bin]# ./sql-client.sh

Flink SQL> CREATE CATALOG paimon_hive WITH (
>     'type' = 'paimon',
>     'metastore' = 'hive',
>     'uri' = 'thrift://xx.xx.xx.xx:9083',
>     'warehouse' = 'hdfs:///data/hive/warehouse/paimon',
>     'default-database'='test'
> );

# 改为批模式执行
Flink SQL> SET 'execution.runtime-mode' = 'batch';

Flink SQL> INSERT OVERWRITE test.student2 /*+ OPTIONS('dynamic-partition-overwrite'='false') */ PARTITION (dt = '2023-10-09') SELECT id,name,age,birthday  FROM test.student2 WHERE false;
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

流月up

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值