Hbase批量删除数据

一、TTL机制

HBase的TTL(Time To Live)是一种用于指定数据存活时间的机制。它允许用户为HBase中的数据设置一个固定的生存时间,在达到指定的时间后,HBase会自动删除这些数据。
具体操作如下:
三步走,先禁用,再删除,后创建
disable ‘dbdata:tablename’
drop ‘dbdata:tablename’
create ‘dbdata:tablename’,{NAME=>‘pi’,COMPRESSION=>‘SNAPPY’,NAME => ‘DATE’,TTL=>‘60’};

TTL的原理如下:

  1. 当用户在HBase中插入一条数据时,可以为该数据设置一个TTL值。TTL值是一个整数,表示数据的存活时间,单位为秒。
  2. HBase会将数据的存储时间戳与当前时间进行比较。如果数据的存储时间戳加上TTL值小于当前时间,则说明数据已经过期,可以被删除。
  3. HBase会定期执行一次过期数据的清理操作。这个操作可以通过配置HBase的RegionServer来定期执行,也可以手动触发。
  4. 在执行过期数据清理操作时,HBase会扫描表中的数据,并根据每条数据的存储时间戳和TTL值判断数据是否过期。如果数据过期,则会将其删除。
    通过使用TTL,HBase可以自动管理数据的生命周期,避免数据堆积过多导致性能下降。同时,TTL还可以用于数据的缓存和数据的自动清理,提高系统的效率和可用性。

二、通过shell脚本或映射表

1、shell脚本中查出需要删除的rowkey,脚本拼接出删除命令(deleteall ‘tablename’, rowkey)
2、通过hive的映射表查出需要删除的rowkey,拼成删除命令(deleteall ‘tablename’, rowkey)
3、以上两种都将删除命令输出至一个文件,如data_del.txt,然后执行 hbase shell data_del.txt

三、通过java的API

public static void deleteMultiRow(String tableName, String... rows) throws IOException{
HTable hTable = new HTable(conf, tableName);
List<Delete> deleteList = new ArrayList<Delete>();
for(String row : rows){
Delete delete = new Delete(Bytes.toBytes(row));
deleteList.add(delete);
}
hTable.delete(deleteList);
hTable.close();
}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

忘的比学的还快

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值