【学习笔记】HBASE 完全分布式集群搭建，2024年大数据开发开发者常见面试题

准备

hadoop版本：hadoop-3.2.2
zookeeper版本：apache-zookeeper-3.5.8-bin
hbase版本：hbase-2.4.17
jdk版本：jdk1.8.0_281

前提：在已部署好hadoop,zookeeper的集群上进行搭建
hadoop搭建参考： https://blog.csdn.net/SUMU31707/article/details/119845009?utm_medium=distribute.pc_relevant.none-task-blog-2defaultbaidujs_baidulandingword~default-5-119845009-blog-127474350.235v43pc_blog_bottom_relevance_base2&spm=1001.2101.3001.4242.4&utm_relevant_index=6#t15
zookeeper搭建参考： https://blog.csdn.net/weixin_40612128/article/details/123271578?spm=1001.2014.3001.5502

上传 hbase-2.4.17-bin.tar.gz 安装包并解压到 /opt/module 目录下

配置 HBASE_HOME

修改hbase-env.sh

vim /opt/module/hbase-2.4.17/conf/hbase-env.sh

配置环境变量：

export JAVA\_HOME=/opt/module/jdk1.8.0_281
export HBASE\_MANAGES\_ZK=false

修改hbase-site.xml

vim /opt/module/hbase-2.4.17/conf/hbase-site.xml

以下是几个比较重要的配置信息说明：

hbase.rootdir
这个目录是region server的共享目录，用来持久化HBase。URL需要是’完全正确’的。例如，要表示hdfs中的’/hbase’目录，namenode 运行在namenode.example.org的9090端口。则需要设置为hdfs://namenode.example.org:9000/hbase。默认情况下HBase是写到/tmp的。不改这个配置，数据会在重启的时候丢失。
默认: file:///tmp/hbase-${user.name}/hbase
hbase.master.port
HBase的Master的端口.
hbase.cluster.distributed
HBase的运行模式。false是单机模式，true是分布式模式。若为false,HBase和Zookeeper会运行在同一个JVM里面。
hbase.zookeeper.quorum
Zookeeper集群的地址列表，用逗号分割。例如：“host1.mydomain.com,host2.mydomain.com,host3.mydomain.com”.默认是localhost,是给伪分布式用的。要修改才能在完全分布式的情况下使用。如果在hbase-env.sh设置了HBASE_MANAGES_ZK，这些ZooKeeper节点就会和HBase一起启动。

<property>
    <name>hbase.cluster.distributed</name>
    <value>true</value>
  </property>
  <property>
    <name>hbase.rootdir</name>
    <value>hdfs://hbase01:8020/hbase</value>
  </property>
  <property>
        <name>hbase.master.port</name>
        <value>16000</value>
    </property>
    <property>
        <name>hbase.zookeeper.quorum</name>
        <value>hbase01:2181,hbase02:2181,hbase03:2181</value>
    </property>
    <property>
        <name>hbase.zookeeper.property.dataDir</name>
        <value>/opt/module/apache-zookeeper-3.5.8-bin/tmp</value>
    </property>
    <property>
        <name>hbase.unsafe.stream.capability.enforce</name>
        <value>false</value>
    </property>

修改 regionservers 文件

vim /opt/module/hbase-2.4.17/conf/regionservers

添加集群节点主机名（ 不能有多余空格 ）

修改环境变量文件

此处环境变量文件为自己在 /etc/profile.d/ 目录下创建的 dev_env.sh 文件。如果环境变量在 /etc/profile 中修改了，直接在 /etc/profile 即可

sudo vim /etc/profile.d/dev_env.sh

加入hbase环境：

#hbase
export HBASE\_HOME=/opt/module/hbase-2.4.17
export PATH=$PATH:$HBASE\_HOME/bin
export PATH=$PATH:$HBASE\_HOME/sbin

使生效：

source /etc/profile

拷贝文件至其他节点

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

**
[外链图片转存中…(img-buixkMYs-1712999566914)]

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！