hbase

最新推荐文章于 2022-09-02 16:29:09 发布
最新推荐文章于 2022-09-02 16:29:09 发布
阅读量5.8k 收藏 1
点赞数
文章标签： hbase hadoop 集群 ubuntu exception timer
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zreodown/article/details/8059762
版权

HBase在完全分布式环境下，由Master进程负责管理RegionServers集群的负载均衡以及资源分配，ZooKeeper负责集群元数据的维护并且监控集群的状态以防止单点故障，每个RegionServer会负责具体数据块的读写，HBase所有的数据存储在HDSF系统上。

图一 HBase逻辑架构[1]

HBase集群部署

HBase集群物理架构

物理机

192.168.0.105 Master Ubuntu Desktop 11.10 Desktop
192.168.0.102 Slave1 Ubuntu Desktop 11.10 Desktop
192.168.0.103 Slave2 Ubuntu Desktop 11.10 Desktop
192.168.0.104 Slave3 Ubuntu Desktop 11.10 Desktop
192.168.0.101 Recover Ubuntu Desktop 11.10 Desktop

图二 集群物理架构

先决条件

  1. SSH协议[2]

    Hadoop集群之间的通讯采用的是SSH协议，所以要保证Master、Slave之间可以自由的通讯，一般推荐使用无验证通讯

    • 安装SSH 
      apt-get install openssh-server
apt-get install openssh-client
    • 创建相同用户名的SSH公钥

      在master主机和slave机上创建相同的用户hadoop

      sudo adduser hadoop
    • 在主机上生成公私钥key pair 
      ssh-keygen -t rsa -P ""
cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys
    • 将key值复制到slave1和slave2上 
      scp $HOME/.ssh/id_rsa.pub hadoop@slave1:/home/hadoop/.ssh/authorized_keys
scp $HOME/.ssh/id_rsa.pub hadoop@slave2:/home/hadoop/.ssh/authorized_keys
scp $HOME/.ssh/id_rsa.pub hadoop@slave3:/home/hadoop/.ssh/authorized_keys

    这样master就可以自由的访问slave节点了

  2. Java安装 
    sudo apt-get install sun-java6-jdk

Hadoop部署

  1. Hadoop配置[3]

    下载Hadoop 0.20.2版本[4]

    • hadoop-env.sh 
      export JAVA_HOME=/usr/lib/jvm/java-6-sun
export HADOOP_HOME=/home/hadoop/hadoop-0.20.2
    • master,slaves 
      Master, Slave1, Slave2, Slave3
    • core-site.xml 
      <property>
    <name>fs.default.name</name>
    <value>hdfs://master:9000</value>
</property>
<property>
    <name>hadoop.tmp.dir</name> //临时文件目录
    <value>/data/tmp/hadoop</value> //注意不要放到/tmp目录下
</property>
    • hdfs-site.xml 
      <property>
    <name>dfs.replication</name> //备份文件
    <value>1</value>
</property>
    • mapred.xml 
      <property>
    <name>mapred.job.tracker</name>
    <value>master:9001</value>
</property>
  2. 启动Hadoop

    hadoop namenode format //首先需要格式化namenode

    bin/start-all.sh

验证服务：MapReduce管理界面http://master:50030/jobtracker.jsp

HBase部署

  1. HBase配置

    下载HBase 0.90.50版本[5]

    • HBase-env.sh 
      export JAVA_HOME=/usr/lib/jvm/java-6-sun
export HBase_MANAGES_ZK=true //zookeeper随HBase启动
    • HBase-site.xml 
      <property>
    <name>HBase.rootdir</name>
    <value>hdfs://master:9000/HBase</value> //端口号和名称和Hadoop配置一致
</property>
<property>
    <name>HBase.cluster.distributed</name>
    <value>true</value>
</property>
<property>
    <name>dfs.replication</name>
    <value>1</value>
</property>
<property>
    <name>HBase.master</name>
    <value>master</value>
</property>
<property>
    <name>HBase.zookeeper.quorum</name>
    <value>slave1,slave2,slave3</value>
</property>
  2. 启动HBase集群

    Master主机上执行 $HBase_HOEM/bin/start-HBase.sh

验证：使用jps命令查看HBase的集群进程

HBase数据容灾

前面我们已经介绍过，如果HBase单个节点出现故障，Zookeeper会通知master主进程，master会将HLog日志进行拆分，分发到其他RegionServer上进行数据恢复。HBase对于单点故障的容错能力还是不错的，但是如果发生多点故障，现有的基本容错功能是远远不够的(会造成数据丢失)。

HBase Replication机制[6]

HBase 0.90以后开始支持Replication机制，该机制设计的主导思想是基于操作日志(put/get/delete)做数据同步，这点很像MySQL基于Binary Log做statement-based replication[7]。

如下图所示，客户端的put/delete操作会被RegionServer写入本地的HLog中去，与此同时每个RegionServer会将Hlog放入对应znode上的Replication队列，HBase集群会有一个独立的线程，根据固定大小的buffer值，将HLog内容推送到Slave Cluster集群中的某个RegionServer上(当前版本只支持单个Slave Cluster复制)，并在将当前复制的偏移量保存在ZooKeeper上，整个过程是异步完成的。

图三 HBase数据同步[8]

HBase Replication启动

  1. HBase-env.sh 
    export JAVA_HOME=/usr/lib/jvm/java-6-sun
export HBase_MANAGES_ZK=false //ZooKeeper独立启动
  2. HBase-site.xml

    master集群和slave集群的配置需要同时修改

    <property>
    <name>HBase.replication</name>
    <value>true</value>
</property>
  3. Shell启动复制功能 
    add_peer disable 'my_table_name'  //表名字
alter ' my_table_name ', {NAME => 'family_name', REPLICATION_SCOPE => '1'}  //修改表schema
enable ' my_table_name' 

验证：查看RegionServer的日志

Considering 1 rs, with ratio 0.1
Getting 1 rs from peer cluster # 1
Choosing peer 192.168.0.101:62020

数据校验

为了保证数据一致性，生产环境上做异地容灾需要增加数据校验/数据监控。HBase的Replication机制，根据官方的文档提供了数据比对的工具类VerifyReplication[9]。我们可以将其功能包装起来，做自动化校验。下面是代码片段：

final String[] argumentsArray = new String[] {
    "--starttime=xxxxxxxxxxx", //开始时间戳根据具体的业务需要
    "--stoptime=" + new Date().getTime(), //选取当前时间戳作为结束的时间戳
    "1", //peer node id
    "my_table_name" //表名
};
final Timer timer = new Timer();
timer.schedule(new TimerTask() {@Override
    public void run() {
        try {
            Configuration conf = HBaseConfiguration.create();
            Job job = VerifyReplication.createSubmittableJob(conf, argumentsArray);
            job.waitForCompletion(true);
            long value = job.getCounters().findCounter(VerifyReplication.Verifier.Counters.BADROWS).getValue();
            if (value > 0) {
                Logger.getLogger("Finding Unmatched Rows! " + value);
            }
        } catch (Exception e) {
            //异常处理策略
            final String msg = "Comparing Job Error!";
            Logger.getLogger(this.getClass()).error(msg, e);
            try {
                SMTPClientWrapper.send("xxx@xxx.com", "HBase replication error!", msg);
            } catch (Exception e1) {
                //考虑邮件服务器down机, failover
                Logger.getLogger(this.getClass()).error("send alarm email error!", e);
            }
        }
    }
}, 0, 600000); //十分钟校验一次

小结与展望

HBase的Replication机制，为增强系统可靠性提供了有力支持，但目前单节点Slave Cluster复制会增加系统的负荷并间接形成Slave Cluster的数据热点，期待HBase后续的版本支持多节点Slave Clusters复制。

引用

[1] http://ofps.oreilly.com/titles/9781449396107/intro.html

[2] http://en.wikipedia.org/wiki/Secure_Shell

[3] http://hadoop.apache.org/common/docs/current/cluster_setup.html

[4] http://hadoop.apache.org/common/releases.html#Download

[5] http://www.apache.org/dyn/closer.cgi/HBase/

[6] http://HBase.apache.org/replication.html

[7] http://dev.mysql.com/doc/refman/5.1/en/replication-formats.html

[8] http://HBase.apache.org/replication.html

[9] http://HBase.apache.org/xref/org/apache/hadoop/HBase/mapreduce/replication/VerifyReplication.html


zreodown
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
HBase数据容灾技术方案
02-26
HBase是一个分布式的、非关系型开源数据库。HBase有如下几个特点：首先HBase是No-SQL的一个典型实现，提升了系统的可扩展性；其次HBase支持线性水平扩展，极大提升了系统的可伸缩性和运算能力；最后HBase和Google的BigTable有异曲同工之妙，底层也是建立在HDFS(Hadoop分布式文件系统)之上，可以搭建在廉价的PC机集群上。No-SQL、云计算、海量数据分析的普及，使我们越来越关注系统的可靠性（HighAvailability），数据容灾/数据恢复是高可用系统的一个很重要的技术组成，本文由简入深，一步步搭建一个HBase数据集群，并详细说明生产环境如何使用HBas
HBase 灾备方案
04-30
HBase多数据中心方案及未来的增量备份功能介绍 HBase as a multiple-data-center solution and its future incremental backup function
[Hbase]Hbase技术方案
weixin_30325971的博客
11-08 79
HBase架构简介 HBase在完全分布式环境下，由Master进程负责管理RegionServers集群的负载均衡以及资源分配，ZooKeeper负责集群元数据的维护并且监控集群的状态以防止单点故障，每个RegionServer会负责具体数据块的读写，HBase所有的数据存储在HDSF系统上。 • 适合场景 （综合考虑）– 表数据量大（至少亿级别以上）– 日志append型业务，...
Hbase数据备份&&容灾方案
上等的猪头肉
10-29 267
Hbase数据备份&&容灾方案 阅读目录 一 、CopyTable 二、Export/Import(使用mapreduce) 三、Snapshot 四、Replication 1.CopyTable 支持时间区间，row 区间 ，改变表名称，改变列族名称，指定是否copy 已经被删除的数据等功能。 CopyTable 工具采用scan查询，写入新表时采用put 和delete...
CDH-Hbase的安装1
08-03
在本文中，我们将深入探讨HBase的安装过程及其在CDH环境中的集成。HBase是Apache Hadoop生态系统中的一个核心组件，它是一个分布式、版本化的、支持列族的NoSQL数据库，特别适合处理大规模的数据存储。CDH（Cloudera...
hbase 简介
09-15
HBase 是一种分布式列式存储系统，源自 Google 的 BigTable 模型，它在 Apache Hadoop 生态系统中扮演着重要角色，专为海量结构化数据的存储而设计。HBase 的设计理念是针对大规模数据集，它能够在大量廉价商用...
hbase安装包
01-22
hbase安装包，自己存储一下，方便下一次下载.........
Hbase详细安装步骤
05-07
HBase 详细安装步骤 HBase 是一个分布式、面向列的 NoSQL 数据库，它基于 Hadoop 的分布式文件系统（HDFS）和 MapReduce 编程模型。以下是在 Ubuntu 环境下安装 HBase 的详细步骤： 安装 HBase 1. 获取安装文件 ...
hbase2.5.6最新版本下载
01-10
hbase2.5.6最新版本下载
阿里的HBase业务和容灾实践
03-18
阿里的HBase业务和容灾实践，阿里穆公大作，深入阿里内部使用，使用方向推荐必备。
HBase 系列（九）——HBase容灾与备份
黑白影的博客
06-07 979
一、前言 本文主要介绍Hbase常用的三种简单的容灾备份方案，即CopyTable、Export/Import、Snapshot。分别介绍如下： 二、CopyTable 2.1 简介 CopyTable可以将现有表的数据复制到新表中，具有以下特点： 支持时间区间 、row区间 、改变表名称 、改变列族名称 、以及是否Copy已被删除的数据等功能； 执行命令前，需先创建与原表结构相同的新表； Co...
HBase-12-HBase容灾策略
dly的博客
09-02 310
CopyTable工具采用scan查询，写入新表时采用put和delete API，全部是基于hbase的client api进行读写。Export可导出数据到目标集群，然后可在目标集群Import导入数据，Export支持指定开始时间和结束时间，因此可以做增量备份。支持时间区间、row区间，改变表名称，改变列族名称，指定是否copy已经被删除的数据等功能。可以快速的恢复表至快照指定的状态从而迅速的修复数据（会丢失快照之后的数据）举例：hbase shell。//创建一个与原表同列族的表。
hbase数据备份或者容灾方案
wangneng_168的专栏
11-11 345
    HBase的数据备份或者容灾方案有这几种：Distcp，CopyTable，Export/Import，Snapshot，Replication，以下分别介绍（以下描述的内容均是基于0.94.20版本）。   一、Distcp    在使用distcp命令copy hdfs文件的方式实现备份时，需要禁用备份表确保copy时该表没有数据写入，对于在线服务的hbase集群，该方式不可...
hbase安装_HBase环境分布式搭建
weixin_39617702的博客
11-21 135
前面三个文档已经完成了基础环境的搭建《HBase基础环境搭建》《HBase基础环境搭建之Hadoop搭建》《HBase基础环境搭建之Hive和Sqoop安装》现在进入HBase的环境搭建环境工具解压tar -zxvf hbase-1.2.1-bin.tar.gz -C /opt/bigdata/环境工具解压缩tar -zxvf zookeeper-3.4.9.tar.gz -C /opt/bigd...
linux无法启动hbase密码,linux – 无法在请求的2181端口启动ZK,而导出HBASE_MANAGES_ZK = false...
weixin_33784572的博客
04-30 675
问题第一个目标是独立运行HBase. HBase启动后,导航到ip：60010 / master-status是成功的.第二个目标是运行一个独特的ZooKeeper仲裁. ZooKeeper已下载并已启动：netstat -nato | grep 2181tcp 0 0 :::2181 :::* ...
Hbase下载与安装部署（一）- 独立式
todd的博客
04-15 7078
HBase运行在Java虚拟机上，因此我们需要先在服务器上安装JDK 需要注意的是，HBase与JDK有可能存在版本兼容问题，所以在安装前需要选择兼容的版本 我这里选择的是JDK8和HBase2.4 JDK下载 官网 https://www.oracle.com/java/technologies/downloads/#java8 不想官网下载也可以在我的百度网盘下载 链接：https://pan.baidu.com/s/1dkfH443MNq5_EAN-T7vDCA 提取码：o8z6 解压JD
HBase基础【HBase简介、HBase安装、HBase shell操作】
weixin_43923463的博客
06-15 1795
HBase是一种分布式、可扩展、支持海量数据存储的NoSQL数据库。Apache HBase 是 Hadoop 数据库，一种分布式、可扩展的大数据存储。当需要对大数据进行随机、实时的读/写访问时，请使用 Apache HBase。 该项目的目标是在商用硬件集群上托管非常大的表——数十亿行 * 数百万列。 Apache HBase 是一个开源、分布式、版本化、非关系型数据库，模仿 Google 的 Bigtable：Chang 等人的结构化数据的分布式存储系统。 正如 Bigtable 利用 Google 文
docker hbase
最新发布
06-07
Docker HBase 是 Docker 容器化技术与 Apache HBase 数据存储系统结合的一种应用。HBase 是一个分布式、列式、可伸缩的 NoSQL 数据库，主要用于大规模数据存储和实时查询。将 HBase 安装在 Docker 镜像中，可以简化...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值