HBase
架构师思考实践
大数据、实时计算、离线计算
展开
-
《HBase权威指南》读书笔记----简介
工作中要使用HBase,刚刚开始接触HBase,理解不深,只是记录一下 。HBase基于google的bigtable论文实现,属于nosql。 几个概念:(1)列(column):最基本单位为列(column)(2)行健(row key):一列或多列形成一行,并有唯一的行健来确定存储(3)列族(column family):一行由若干列组成,若干列又构成一个列族原创 2013-10-26 23:55:48 · 994 阅读 · 0 评论 -
HBase 启动错误,HBase管理zookeeper ,无法定位登录配置
启动错误2013-12-29 17:42:22,025 INFO org.apache.zookeeper.ClientCnxn: Opening socket connection to server xxxxx:2222. Will not attempt to authenticate using SASL (无法定位登录配置)分析:是由于zookeeper连接的问题,我原创 2013-12-29 22:56:57 · 5249 阅读 · 1 评论 -
HBase安装配置,使用独立zookeeper,shell测试
前言安装前需要的条件,使用过hadoop的,基本不需要改什么了:1、java环境2、hadoop(HBase基于HDFS)3、zookeeper(我这里使用独立的zookeeper,因为之前用过已装好,当然亦可以使用HBase管理zookeeper)4、SSH,NTP时间同步5、系统调优,这个可以等安装完后改,文件打开数(ulimit和nproc)6、修改Hadoop原创 2013-12-29 22:40:55 · 19095 阅读 · 4 评论 -
HBASE安装和简单测试
先拿来,测试一下1. 修改HDFSS设置vi conf/hdfs-site.xml增加下面的设置,HBASE需要访问大量的文件dfs.datanode.max.xcievers40962. 设置NTP同步rpm -qa |grep ntpmaster用缺省配置slaves:vi /etc/ntp.confserver 192.转载 2013-12-23 17:35:24 · 1285 阅读 · 0 评论 -
数据导入HBase最常用的三种方式及实践分析
【编者按】要使用Hadoop,数据合并至关重要,HBase应用甚广。一般而言,需要 针对不同情景模式将现有的各种类型的数据库或数据文件中的数据转入至HBase 中。常见方式为:使用HBase的API中的Put方法; 使用HBase 的bulk load 工具;使用定制的MapReduce Job方式。《HBase Administration Cookbook》一书对这三种方式有着详尽描述,由转载 2014-01-07 23:05:19 · 2394 阅读 · 0 评论 -
HBase-scan API 通过scan读取表中数据
直接贴代码啦/** * * @param zkIp * @param zkPort * @param tablename * @param startRow 传null扫全表 * @param stopRow 已~结尾 * @throws Exception */ public static void scanTable(String zkIp,Stri原创 2014-07-05 18:37:54 · 5263 阅读 · 0 评论 -
hadoop做HA后,hbase修改
由于hadoop做了HA,namenode可能进行切换,hbase中的配置要做修改:hbase-site.xml中,rootdir改为和hadoop的dfs.nameservices一样,并将hadoop的core-site.xml和hdfs-site.xml拷贝到hbase的conf下,然后重启hbasehbase.rootdirhdfs://masters/hbase原创 2015-08-29 12:36:39 · 2764 阅读 · 2 评论 -
HBase源码分析 -- HBase Region 拆分(split)
代码版本:hbase-1.2.6工程:hbase-server类:org.apache.hadoop.hbase.regionserver.HRegion1、判断是否需要切分方法: checkSplit返回值: splitpoint做了一些判断后,其实是调用:byte[] ret = splitPolicy.getSplitPoint();2、切分策略o原创 2017-07-01 23:34:02 · 937 阅读 · 0 评论