hbase的

安装前设置
安装Hadoop在Linux环境下之前,需要建立和使用Linux SSH(安全Shell)。按照下面设立Linux环境提供的步骤。
创建一个用户 首先,建议从Unix创建一个单独的Hadoop用户,文件系统隔离Hadoop文件系统。按照下面给出创建用户的步骤。 开启root使用命令 “su”. 使用root帐户命令创建用户 “useradd username”. 现在,可以使用命令打开一个现有的用户帐户 “su username”. 打开Linux终端,输入以下命令来创建一个用户$ supassword:# useradd hadoop# passwd hadoop
New passwd:
Retype new passwd
SSH设置和密钥生成 SSH设置需要在集群上执行不同的操作,如启动,停止和分布式守护shell操作。进行身份验证不同的Hadoop用户,需要一种用于Hadoop的用户提供的公钥/私钥对,并用不同的用户共享。 以下的命令被用于生成使用SSH密钥值对。复制公钥从id_rsa.pub为authorized_keys,并提供所有者,读写权限到authorized_keys文件。$ ssh-keygen -t rsa
$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
$ chmod 0600 ~/.ssh/authorized_keys
验证sshssh localhost
安装Java Java是Hadoop和HBase主要先决条件。首先应该使用"java -verion"检查java是否存在在您的系统上。 java -version 命令的语法如下。$ java -version
如果一切正常,它会得到下面的输出。java version “1.7.0_71”
Java™ SE Runtime Environment (build 1.7.0_71-b13)
Java HotSpot™ Client VM (build 25.0-b02, mixed mode)
如果Java还没有安装在系统中,然后按照下面给出的步骤安装Java。 步骤 1 下载Java(JDK - X64.tar.gz),可以通过访问以下链接 http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html。 jdk-7u71-linux-x64.tar.gz 将被下载到系统。 步骤 2 一般来说,下载文件夹中包含有Java文件。验证它,使用下面的命令提取jdk-7u71-linux-x64.gz文件。$ cd Downloads/
$ ls
jdk-7u71-linux-x64.gz

$ tar zxf jdk-7u71-linux-x64.gz
$ ls
jdk1.7.0_71 jdk-7u71-linux-x64.gz
步骤 3 为了使Java提供给所有用户,必须将它移动到“/usr/local/”。打开终端然后以root用户身份键入以下命令。$ su
password:

mv jdk1.7.0_71 /usr/local/

exit

步骤 4	有关设置PATH和JAVA_HOME变量,添加以下命令到〜/.bashrc文件。export JAVA_HOME=/usr/local/jdk1.7.0_71

export PATH= P A T H : PATH: PATH:JAVA_HOME/bin
现在从终端验证 java -version 命令如上述说明 下载Hadoop 安装Java之后,接下来就是安装Hadoop。首先使用“Hadoop version” 命令验证 Hadoop 是否存在,如下所示。hadoop version
如果一切正常,它会得到下面的输出。Hadoop 2.6.0
Compiled by jenkins on 2014-11-13T21:10Z
Compiled with protoc 2.5.0
From source with checksum 18e43357c8f927c0695f1e9522859d6a
This command was run using
/home/hadoop/hadoop/share/hadoop/common/hadoop-common-2.6.0.jar
如果系统上是无法找到 Hadoop,那么证明还未安装,现在下载Hadoop在您的系统上。按照下面给出的命令。 从Apache软件基金会下载并使用下面的命令提取 Hadoop-2.6.0。$ su
password:

cd /usr/local

wget http://mirrors.advancedhosters.com/apache/hadoop/common/hadoop-

2.6.0/hadoop-2.6.0-src.tar.gz

tar xzf hadoop-2.6.0-src.tar.gz

mv hadoop-2.6.0/* hadoop/

exit

安装 Hadoop	可在任何需要的方式安装Hadoop。在这里将展示 HBase 模拟分布式模式功能,因此模拟分布式模式的Hadoop安装。	按下面的步骤来安装 Hadoop 2.4.1.	第1步 - 设置Hadoop	可以通过附加下面的命令在 〜/ .bashrc文件中以设置 Hadoop 环境变量。export HADOOP_HOME=/usr/local/hadoop

export HADOOP_MAPRED_HOME= H A D O O P H O M E e x p o r t H A D O O P C O M M O N H O M E = HADOOP_HOME export HADOOP_COMMON_HOME= HADOOPHOMEexportHADOOPCOMMONHOME=HADOOP_HOME
export HADOOP_HDFS_HOME= H A D O O P H O M E e x p o r t Y A R N H O M E = HADOOP_HOME export YARN_HOME= HADOOPHOMEexportYARNHOME=HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR= H A D O O P H O M E / l i b / n a t i v e e x p o r t P A T H = HADOOP_HOME/lib/native export PATH= HADOOPHOME/lib/nativeexportPATH=PATH: H A D O O P H O M E / s b i n : HADOOP_HOME/sbin: HADOOPHOME/sbin:HADOOP_HOME/bin
export HADOOP_INSTALL= H A D O O P H O M E 现 在 , 应 用 所 有 更 改 到 当 前 正 在 运 行 的 系 统 。 HADOOP_HOME 现在,应用所有更改到当前正在运行的系统。 HADOOPHOME source ~/.bashrc 第2步 - Hadoop配置 找到位于 “ H A D O O P H O M E / e t c / h a d o o p ” 目 录 下 所 有 的 H a d o o p 配 置 文 件 。 根 据 需 要 H a d o o p 将 配 置 文 件 中 的 内 容 作 修 改 。 HADOOP_HOME/etc/hadoop” 目录下所有的Hadoop配置文件。根据需要Hadoop将配置文件中的内容作修改。 HADOOPHOME/etc/hadoopHadoopHadoop cd $HADOOP_HOME/etc/hadoop
为了使用Java开发Hadoop程序,必须用java在系统中的位置来替换 hadoop-env.sh文件中的 java环境变量JAVA_HOME的值。export JAVA_HOME=/usr/local/jdk1.7.0_71
编辑以下文件来配置Hadoop。core-site.xml core-site.xml文件中包含,如:用于Hadoop实例的端口号,分配给文件系统,存储器限制用于存储数据存储器和读/写缓冲器的大小的信息。 打开core-site.xml,并在和标签之间添加以下属性。

fs.default.name
hdfs://localhost:9000


hdfs-site.xml hdfs-site.xml文件中包含,如:复制数据的值,NameNode的路径,本地文件系统,要存储Hadoop基础架构的Datanode路径的信息。假设有以下数据。

dfs.replication (data replication value) = 1
(In the below given path /hadoop/ is the user name.
hadoopinfra/hdfs/namenode is the directory created by hdfs file system.)
namenode path = //home/hadoop/hadoopinfra/hdfs/namenode
(hadoopinfra/hdfs/datanode is the directory created by hdfs file
system.)
datanode path = //home/hadoop/hadoopinfra/hdfs/datanode
打开这个文件,并在和 标记之间添加以下属性。<configuration g t ; &lt; p r o p e r t y gt; &lt;property gt;<propertygt;
<name$gt;dfs.replication</name g t ; &lt; v a l u e gt; &lt;value gt;<valuegt;1</value g t ; &lt; / p r o p e r t y gt; &lt;/property gt;</propertygt;
<property g t ; &lt; n a m e gt; &lt;name gt;<namegt;dfs.name.dir</name g t ; &lt; v a l u e gt; &lt;value gt;<valuegt;file:///home/hadoop/hadoopinfra/hdfs/namenode</value g t ; &lt; / p r o p e r t y gt; &lt;/property gt;</propertygt;
<property g t ; &lt; n a m e gt; &lt;name gt;<namegt;dfs.data.dir</name g t ; &lt; v a l u e gt; &lt;value gt;<valuegt;file:///home/hadoop/hadoopinfra/hdfs/datanode</value g t ; &lt; / p r o p e r t y gt; &lt;/property gt;</propertygt;
</configuration g t ; 注 : 上 面 的 文 件 , 所 有 的 属 性 值 是 用 户 定 义 的 , 可 以 根 据 自 己 的 H a d o o p 的 基 础 架 构 进 行 更 改 。 y a r n − s i t e . x m l 此 文 件 用 于 配 置 成 y a r n 在 H a d o o p 中 。 打 开 y a r n − s i t e . x m l 文 件 , 并 在 &lt; c o n f i g u r a t i o n &gt; &lt; c o n f i g u r a t i o n &gt; 标 签 之 前 添 加 以 下 属 性 到 这 个 文 件 中 。 &lt; c o n f i g u r a t i o n gt; 注:上面的文件,所有的属性值是用户定义的,可以根据自己的Hadoop的基础架构进行更改。yarn-site.xml 此文件用于配置成yarn在Hadoop中。打开yarn-site.xml文件,并在&lt;configuration&gt;&lt;configuration&gt;标签之前添加以下属性到这个文件中。&lt;configuration gt;Hadoopyarnsite.xmlyarnHadoopyarnsite.xml<configuration><configuration><configurationgt;
<property g t ; &lt; n a m e gt; &lt;name gt;<namegt;yarn.nodemanager.aux-services</name g t ; &lt; v a l u e gt; &lt;value gt;<valuegt;mapreduce_shuffle</value g t ; &lt; / p r o p e r t y gt; &lt;/property gt;</propertygt;
</configuration g t ; m a p r e d − s i t e . x m l 此 文 件 用 于 指 定 M a p R e d u c e 框 架 以 使 用 。 默 认 情 况 下 H a d o o p 包 含 y a r n − s i t e . x m l 模 板 。 首 先 , 它 需 要 从 m a p r e d − s i t e . x m l 复 制 模 板 到 m a p r e d − s i t e . x m l 文 件 , 使 用 下 面 的 命 令 来 。 gt; mapred-site.xml 此文件用于指定MapReduce框架以使用。默认情况下Hadoop包含yarn-site.xml模板。首先,它需要从mapred-site.xml复制模板到mapred-site.xml文件,使用下面的命令来。 gt;mapredsite.xmlMapReduce使Hadoopyarnsite.xmlmapredsite.xmlmapredsite.xml使 cp mapred-site.xml.template mapred-site.xml
打开 mapred-site.xml 文件,并在 和 标签之间添加以下属性。

mapreduce.framework.name
yarn


验证Hadoop安装 下面的步骤是用来验证Hadoop的安装。 第1步 - 名称节点设置 设置名称节点使用“hdfs namenode -format”命令如下$ cd ~
$ hdfs namenode -format
预期的结果如下。10/24/14 21:30:55 INFO namenode.NameNode: STARTUP_MSG:
/************************************************************
STARTUP_MSG: Starting NameNode
STARTUP_MSG: host = localhost/192.168.1.11
STARTUP_MSG: args = [-format]
STARTUP_MSG: version = 2.4.1


10/24/14 21:30:56 INFO common.Storage: Storage directory
/home/hadoop/hadoopinfra/hdfs/namenode has been successfully formatted.
10/24/14 21:30:56 INFO namenode.NNStorageRetentionManager: Going to
retain 1 images with txid >= 0
10/24/14 21:30:56 INFO util.ExitUtil: Exiting with status 0
10/24/14 21:30:56 INFO namenode.NameNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at localhost/192.168.1.11
***********************************************************/ 第2步 - 验证Hadoop DFS 下面的命令用来启动DFS。执行这个命令将启动Hadoop文件系统。$ start-dfs.sh
预期的结果如下。10/24/14 21:37:56
Starting namenodes on [localhost]
localhost: starting namenode, logging to /home/hadoop/hadoop-
2.4.1/logs/hadoop-hadoop-namenode-localhost.out
localhost: starting datanode, logging to /home/hadoop/hadoop-
2.4.1/logs/hadoop-hadoop-datanode-localhost.out
Starting secondary namenodes [0.0.0.0]
第3步 - 验证Yarn脚本 下面的命令用来启动yarn脚本。执行此命令将启动yarn守护进程。$ start-yarn.sh
预期的结果如下。starting yarn daemons
starting resourcemanager, logging to /home/hadoop/hadoop-
2.4.1/logs/yarn-hadoop-resourcemanager-localhost.out
localhost: starting nodemanager, logging to /home/hadoop/hadoop-
2.4.1/logs/yarn-hadoop-nodemanager-localhost.out 第4步 - 访问Hadoop上的浏览器 访问Hadoop的默认端口号为50070。使用以下网址,以获取Hadoop服务在浏览器中。http://localhost:50070
第5步 - 验证集群中的所有应用程序 访问群集的所有应用程序的默认端口号为8088。使用以下URL访问该服务。http://localhost:8088/
HBase安装 单机模式,模拟分布式模式,以及全分布式模式:可以在任何的三种模式来安装HBase。 在单机模式下安装HBase 使用 “wget” 命令下载HBase,下载网址为:http://www.interiordsgn.com/apache/hbase/stable/ ,选择最新的稳定版本,并使用 tar “zxvf” 命令将其解压缩。请参见下面的命令。$cd usr/local/
$wget http://www.interior-dsgn.com/apache/hbase/stable/hbase-0.98.8-
hadoop2-bin.tar.gz
t a r − z x v f h b a s e − 0.98.8 − h a d o o p 2 − b i n . t a r . g z 切 换 到 超 级 用 户 模 式 , 将 H B a s e 文 件 复 制 到 / u s r / l o c a l , 如 下 图 所 示 。 tar -zxvf hbase-0.98.8-hadoop2-bin.tar.gz 切换到超级用户模式,将HBase文件复制到/usr/local,如下图所示。 tarzxvfhbase0.98.8hadoop2bin.tar.gzHBase/usr/localsu
$password: enter your password here
mv hbase-0.99.1/
Hbase/
在单机模式下配置HBase 在继续HBase之前,需要编辑下列文件和配置HBase。hbase-env.sh 为HBase设置Java目录,并从conf文件夹打开hbase-env.sh文件。编辑JAVA_HOME环境变量,改变路径到当前JAVA_HOME变量,如下图所示。cd /usr/local/Hbase/conf
gedit hbase-env.sh
这将打开HBase的env.sh文件。现在使用当前值替换现有JAVA_HOME值,如下图所示。export JAVA_HOME=/usr/lib/jvm/java-1.7.0
hbase-site.xml 这是HBase的主配置文件。通过在 /usr/local/HBase 打开HBase主文件夹,设置数据目录到合适的位置。在 conf 文件夹里面有几个文件,现在打开hbase-site.xml文件,如下图所示。#cd /usr/local/HBase/
#cd conf

gedit hbase-site.xml

在hbase-site.xml文件里面,找到 <configuration> 和 </configuration> 标签。并在其中,设置属性键名为“hbase.rootdir”,如下图所示的HBase目录。<configuration>

//Here you have to set the path where you want HBase to store its files.

hbase.rootdir
file:/home/hadoop/HBase/HFiles

//Here you have to set the path where you want HBase to store its built
in zookeeper files.

hbase.zookeeper.property.dataDir
/home/hadoop/zookeeper


到此 HBase 的安装配置已成功完成。可以通过使用 HBase 的 bin 文件夹中提供 start-hbase.sh 脚本启动 HBase。为此,打开HBase 主文件夹,然后运行 HBase 启动脚本,如下图所示。$cd /usr/local/HBase/bin
. / s t a r t − h b a s e . s h 如 果 一 切 顺 利 , 当 运 行 H B a s e 启 动 脚 本 , 它 会 提 示 一 条 消 息 : H B a s e h a s s t a r t e d s t a r t i n g m a s t e r , l o g g i n g t o / u s r / l o c a l / H B a s e / b i n / . . / l o g s / h b a s e − t p m a s t e r − l o c a l h o s t . l o c a l d o m a i n . o u t 在 模 拟 分 布 式 模 式 安 装 H B a s e 现 在 , 来 看 看 如 何 安 装 H B a s e 在 模 拟 分 布 式 模 式 。 C O N F I G U R I N G H B A S E 继 续 进 行 H B a s e 之 前 , 在 本 地 系 统 或 远 程 系 统 上 配 置 H a d o o p H D F S 并 确 保 它 们 正 在 运 行 。 如 果 它 正 在 运 行 则 先 停 止 H B a s e 。 h b a s e − s i t e . x m l 编 辑 h b a s e − s i t e . x m l 文 件 中 添 加 以 下 属 性 。 &lt; p r o p e r t y &gt; &lt; n a m e &gt; h b a s e . c l u s t e r . d i s t r i b u t e d &lt; / n a m e &gt; &lt; v a l u e &gt; t r u e &lt; / v a l u e &gt; &lt; / p r o p e r t y &gt; 它 会 提 到 在 H B a s e 的 哪 种 模 式 运 行 。 从 本 地 文 件 系 统 相 同 的 文 件 改 变 h b a s e . r o o t d i r , H D F S 实 例 地 址 使 用 h d f s : / / / / U R I 语 法 。 在 本 地 主 机 的 端 口 8030 上 运 行 H D F S 。 &lt; p r o p e r t y &gt; &lt; n a m e &gt; &gt; h b a s e . r o o t d i r &lt; / n a m e &gt; &lt; v a l u e &gt; h d f s : / / l o c a l h o s t : 8030 / h b a s e &lt; / v a l u e &gt; &lt; / p r o p e r t y &gt; 启 动 H B a s e 经 过 配 置 结 束 后 , 浏 览 到 H B a s e 的 主 文 件 夹 , 并 使 用 以 下 命 令 启 动 H B a s e 。 ./start-hbase.sh 如果一切顺利,当运行HBase启动脚本,它会提示一条消息:HBase has startedstarting master, logging to /usr/local/HBase/bin/../logs/hbase-tpmaster-localhost.localdomain.out 在模拟分布式模式安装HBase 现在,来看看如何安装HBase在模拟分布式模式。 CONFIGURING HBASE 继续进行HBase之前,在本地系统或远程系统上配置Hadoop HDFS并确保它们正在运行。如果它正在运行则先停止HBase。 hbase-site.xml 编辑hbase-site.xml文件中添加以下属性。&lt;property&gt; &lt;name&gt;hbase.cluster.distributed&lt;/name&gt; &lt;value&gt;true&lt;/value&gt; &lt;/property&gt; 它会提到在HBase的哪种模式运行。 从本地文件系统相同的文件改变hbase.rootdir,HDFS实例地址使用hdfs: URI 语法。在本地主机的端口8030上运行HDFS。&lt;property&gt; &lt;name&gt;&gt;hbase.rootdir&lt;/name&gt; &lt;value&gt;hdfs://localhost:8030/hbase&lt;/value&gt; &lt;/property&gt; 启动HBase 经过配置结束后,浏览到HBase的主文件夹,并使用以下命令启动HBase。 ./starthbase.shHBaseHBasehasstartedstartingmaster,loggingto/usr/local/HBase/bin/../logs/hbasetpmasterlocalhost.localdomain.outHBaseHBaseCONFIGURINGHBASEHBaseHadoopHDFSHBasehbasesite.xmlhbasesite.xml<property><name>hbase.cluster.distributed</name><value>true</value></property>HBasehbase.rootdirHDFS使hdfs:////URI8030HDFS<property><name>>hbase.rootdir</name><value>hdfs://localhost:8030/hbase</value></property>HBaseHBase使HBasecd /usr/local/HBase
b i n / s t a r t − h b a s e . s h 注 : 在 启 动 H B a s e 之 前 , 请 确 保 H a d o o p 运 行 。 检 查 在 H D F S 的 H B a s e 目 录 H B a s e 创 建 其 目 录 在 H D F S 中 。 要 查 看 创 建 的 目 录 , 浏 览 到 H a d o o p b i n 并 键 入 以 下 命 令 bin/start-hbase.sh 注:在启动 HBase 之前,请确保 Hadoop 运行。 检查在HDFS的HBase目录 HBase创建其目录在HDFS中。要查看创建的目录,浏览到Hadoop bin并键入以下命令 bin/starthbase.shHBaseHadoopHDFSHBaseHBaseHDFSHadoopbin ./bin/hadoop fs -ls /hbase
如果一切顺利的话,它会给下面的输出。Found 7 items
drwxr-xr-x - hbase users 0 2014-06-25 18:58 /hbase/.tmp
drwxr-xr-x - hbase users 0 2014-06-25 21:49 /hbase/WALs
drwxr-xr-x - hbase users 0 2014-06-25 18:48 /hbase/corrupt
drwxr-xr-x - hbase users 0 2014-06-25 18:58 /hbase/data
-rw-r–r-- 3 hbase users 42 2014-06-25 18:41 /hbase/hbase.id
-rw-r–r-- 3 hbase users 7 2014-06-25 18:41 /hbase/hbase.version
drwxr-xr-x - hbase users 0 2014-06-25 21:49 /hbase/oldWALs
启动和停止主服务器 使用“local-master-backup.sh”就可以启动多达10台服务器。打开HBase的master主文件夹,并执行以下命令来启动它。$ ./bin/local-master-backup.sh 2 4
要中止备份主服务,需要它的进程ID,它被存储在一个文件名为“/tmp/hbase-USER-X-master.pid”中,可以使用下面的命令中止备份主服务。$ cat /tmp/hbase-user-1-master.pid |xargs kill -9
启动和停止区域服务器 可以使用下面的命令来运行在单一系统中的多个区域的服务器。$ .bin/local-regionservers.sh start 2 3
要停止区域服务器,可以使用下面的命令。$ .bin/local-regionservers.sh stop 3
启动HBaseShell 下面给出的是启动HBase shell的步骤。打开终端,并登录为超级用户。 启动Hadoop文件系统 通过Hadoop主目录下的sbin目录文件夹浏览并启动Hadoop文件系统,如下所示。$cd $HADOOP_HOME/sbin
s t a r t − a l l . s h 启 动 H B a s e 通 过 H B a s e 根 目 录 下 的 b i n 文 件 夹 浏 览 并 启 动 H B a s e 。 start-all.sh 启动HBase 通过HBase根目录下的bin文件夹浏览并启动HBase。 startall.shHBaseHBasebinHBasecd /usr/local/HBase
. / b i n / s t a r t − h b a s e . s h 启 动 H B a s e 主 服 务 器 这 在 相 同 目 录 。 启 动 它 , 如 下 图 所 示 : ./bin/start-hbase.sh 启动HBase主服务器 这在相同目录。启动它,如下图所示: ./bin/starthbase.shHBase./bin/local-master-backup.sh start 2 (number signifies specific
server.)
启动区域服务 启动区域服务器,如下所示。 . / b i n / . / l o c a l − r e g i o n s e r v e r s . s h s t a r t 3 启 动 H B a s e S h e l l 可 以 使 用 以 下 命 令 启 动 H B a s e s h e l l ./bin/./local-regionservers.sh start 3 启动HBase Shell 可以使用以下命令启动HBase shell ./bin/./localregionservers.shstart3HBaseShell使HBaseshellcd bin
$./hbase shell
这会给出HBase shell 的提示符,如下图所示。2014-12-09 14:24:27,526 INFO [main] Configuration.deprecation:
hadoop.native.lib is deprecated. Instead, use io.native.lib.available
HBase Shell; enter ‘help’ for list of supported commands.
Type “exit” to leave the HBase Shell
Version 0.98.8-hadoop2, r6cfc8d064754251365e070a10a82eb169956d5fe, Fri
Nov 14 18:26:29 PST 2014

hbase(main):001:0>
HBase的Web界面 要访问 HBase 的 Web界面,在浏览器中键入以下URLhttp://localhost:60010
以下界面列出了当前正在运行的区域服务器,备份主服务以及HBase表。 HBase区域服务器和备份主服务 HBase 表 设置Java环境 也可以使用Java库交互HBase,但访问HBase使用Java API之前,需要设置类库的路径。 设置类路径 继续进行之前编程,在.bashrc文件中设置类路径到HBase库。打开.bashrc文件编辑,如下所示。$ gedit ~/.bashrc
为HBase库设置类路径(HBase的lib文件夹),如下图所示。export CLASSPATH=$CLASSPATH://home/hadoop/hbase/lib/*
这是为了防止“未找到类(class not found)”异常,同时使用Java API访问HBase。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值