Hive整合HBase表

创建Hive表时同时创建HBase表

此种方式如果删除Hive表,HBase表也会被删除,数据被清空;此种方式需要单独修改HBase表的属性比如压缩方式等
示例如下:

create table cdc_addr_hb(row_key string,
	row_id string,
	created string,
	created_by string,
	last_upd string,
	last_upd_by string,
	corp_id string,
	org_id string,
	postn_id string,
	src_row_id string,
	src_created string,
	src_created_by string,
	src_last_upd string,
	src_last_upd_by string,
	data_source string,
	data_type string,
	oso_row_id string,
	consumer_id string,
	par_consumer_id string,
	addr_type string,
	country string,
	province string,
	city string,
	district string,
	addr string,
	uesd_times string,
	valid_flag string,
	default_flag string,
	last_used_time string,
    channel string,
	part_dt string) STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' WITH serdeproperties("hbase.columns.mapping" = ":key,
	addr:row_id,
	addr:created,
	addr:created_by,
	addr:last_upd,
	addr:last_upd_by,
	addr:corp_id,
	addr:org_id,
	addr:postn_id,
	addr:src_row_id,
	addr:src_created,
	addr:src_created_by,
	addr:src_last_upd,
	addr:src_last_upd_by,
	addr:data_source,
	addr:data_type,
	addr:oso_row_id,
	addr:consumer_id,
	addr:par_consumer_id,
	addr:addr_type,
	addr:country,
	addr:province,
	addr:city,
	addr:district,
	addr:addr,
	addr:uesd_times,
	addr:valid_flag,
	addr:default_flag,
	addr:last_used_time,
    addr:channel,
	addr:part_dt") tblproperties("hbase.table.name" = "linkcdc:cdc_addr");
alter 'linkcdc:cdc_addr',{NAME => 'addr',TTL => '604800',COMPRESSION=>'SNAPPY'}

基于HBase表创建Hive外部表

此种方式需要首先创建HBase表,然后基于HBase表创建Hive外部表,删除Hive表时,HBase表不会被删除,数据不会被清空。此种方式无法直接truncate表,如果需要清空数据,需要通过其他方式处理,比如insert overwrite或者先改成内部表清空后再改成外部表,
示例如下:

create 'linkcdc:cdc_addr',{NAME => 'addr',TTL => '604800',COMPRESSION=>'SNAPPY'}
create external table cdc_addr_hb(row_key string,
	row_id string,
	created string,
	created_by string,
	last_upd string,
	last_upd_by string,
	corp_id string,
	org_id string,
	postn_id string,
	src_row_id string,
	src_created string,
	src_created_by string,
	src_last_upd string,
	src_last_upd_by string,
	data_source string,
	data_type string,
	oso_row_id string,
	consumer_id string,
	par_consumer_id string,
	addr_type string,
	country string,
	province string,
	city string,
	district string,
	addr string,
	uesd_times string,
	valid_flag string,
	default_flag string,
	last_used_time string,
    channel string,
	part_dt string) STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' WITH serdeproperties("hbase.columns.mapping" = ":key,
	addr:row_id,
	addr:created,
	addr:created_by,
	addr:last_upd,
	addr:last_upd_by,
	addr:corp_id,
	addr:org_id,
	addr:postn_id,
	addr:src_row_id,
	addr:src_created,
	addr:src_created_by,
	addr:src_last_upd,
	addr:src_last_upd_by,
	addr:data_source,
	addr:data_type,
	addr:oso_row_id,
	addr:consumer_id,
	addr:par_consumer_id,
	addr:addr_type,
	addr:country,
	addr:province,
	addr:city,
	addr:district,
	addr:addr,
	addr:uesd_times,
	addr:valid_flag,
	addr:default_flag,
	addr:last_used_time,
    addr:channel,
	addr:part_dt") tblproperties("hbase.table.name" = "linkcdc:cdc_addr");
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在Hadoop生态系统中,Hive是一个用于数据仓库和数据分析的开源工具,而HBase是一个开源的、分布式的、非关系型数据库。在某些情况下,因为版本不兼容或者依赖关系错误,可能会发生Hive整合HBase时出现IncompatibleClassChangeError(不兼容的类变更错误)。 IncompatibleClassChangeError是Java虚拟机(JVM)在运行期间抛出的错误,它示在编译时使用的类与运行时使用的类发生了不兼容的变化。当Hive试图整合HBase时,如果Hive代码使用了HBase中的类,但实际运行时使用的HBase库与Hive编译时使用的库不兼容,就会出现这个错误。 解决这个问题的步骤如下: 1. 检查HBaseHive的版本是否兼容。在整合HiveHBase之前,确保使用的HBase版本与Hive版本兼容,并遵循它们之间的兼容性要求。 2. 检查依赖关系。在使用Hive整合HBase时,确保在Hive配置文件(hive-site.xml)中正确地设置了HBase相关的依赖。这包括指定HBase的主机名、端口号和名等。 3. 检查类路径。确保在Hive运行期间正确配置了HBase的类路径,以便可以找到所需的HBase类。这可以通过检查HiveHBase的环境变量设置或者Hive的启动脚本来完成。 4. 更新HiveHBase的库。如果以上步骤都没有解决问题,可能需要升级HiveHBase的库版本,以确保它们之间的兼容性。 综上所述,Hive整合HBase时出现IncompatibleClassChangeError错误可能是由于版本不兼容或者依赖关系错误导致的。通过检查版本兼容性、依赖关系、类路径和库更新等措施,可以解决这个问题。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值