在开发测试中使用HBaseMiniCluster

本文介绍了如何使用HBase Mini Cluster进行开发和测试,包括启动和停止Mini Cluster、创建HTable、运行MapReduce任务、导入导出数据。HBaseMiniCluster在Apache Kylin项目中的应用展示了其在简化测试环境搭建上的优势。
摘要由CSDN通过智能技术生成

Author: Shi, Shaofeng

      为了方便开发人员,HBase以及其它Hadoop组件提供了Mini Cluster的运行方式:在一个JVM里模拟运行Hadoop集群,包括HDFS,Zookeeper,HBase 以及MapReduce;如果你需要运行一些简单的代码或测试案例,或者想在IDE中通过断点来调试,那么这时候用Mini Cluster就再合适不过了;HBase的单元测试中已经频繁使用这种方法;本文将介绍 Mini Cluster的几种简单使用:

  • 启动、停止HBase Mini Cluster
  • 创建HTable,输入以及查询数据
  • 运行MapReduce任务
  • 导入导出HTable数据

1.准备

      要使用HBase Mini Cluster,最方便的办法是使用HBASETestingUtility类;这个类提供了启动、停止、创建、配置等实用方法来管理Mini Cluster;如果你的项目是用Maven管理,只要加入此依赖就可以:

   <dependencies>

      …

      <dependency>
         <groupId>org.apache.hbase</groupId>
         <artifactId>hbase-server</artifactId>
              <version>0.98.8-hadoop2</version>
              <scope>provided</scope>
      </dependency>
      <dependency>
         <groupId>org.apache.hbase</groupId>
         <artifactId>hbase-testing-util</artifactId>
         <version>0.98.8-hadoop2</version>
         <scope>provided</scope>
      </dependency>
…
   </dependencies>

 2.启动、停止Mini Cluster

      首先构造一个HBaseTestingUtility的实例,然后调用它的startMiniCluster()方法;它会启动一个HDFS的Mini Cluster以及一个Zookeeper的Mini Cluster,启动完成后返回一个MiniHBaseCluster对象;

 

HBaseTestingUtility UTIL = new HBaseTestingUtility();

MiniHBaseCluster hbaseCluster
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值