BigDB
姹紫_嫣红
生活也好,工作也好,本来就是消磨人的事儿,要在被消磨之间反身抗衡是需要勇气的。
博客园:http://www.cnblogs.com/xleer/
展开
-
DEPRECATED: Use of this script to execute hdfs command is deprecated
本人安装的hadoop版本是2.6.0的,但每次执行命令时都会显示下面的信息 [hadoop@masterhadoop]$ hadoop dfs -lsDEPRECATED: Use ofthis script. to execute hdfs command is deprecated.Instead use the hdfscommand for it. 原来从0.21转载 2015-07-25 15:54:40 · 5981 阅读 · 0 评论 -
HBase编程实例
在前文中安装了Hbase,通过Hbase shell可以进行一些操作,但是和实际的编程实例联系起来不方便,因此本文介绍有关Hbase编程的实例。一、使用Eclipse开发HBase应用程序1,在Eclipse中新建一个Java Project,命名为HBaseTest,然后右键Properties中选择Java Build Path,选择Add External Jars,将H转载 2016-01-05 17:35:00 · 648 阅读 · 0 评论 -
Hadoop+HBase+ZooKeeper三者关系与安装配置
这里有几个主要关系:1.经过Map、Reduce运算后产生的结果看上去是被写入到HBase了,但是其实HBase中HLog和StoreFile中的文件在进行flush to disk操作时,这两个文件存储到了HDFS的DataNode中,HDFS才是永久存储。2.ZooKeeper跟Hadoop Core、HBase有什么关系呢?ZooKeeper都提供了哪些服务呢?主要有:管理Hadoo转载 2016-01-06 17:26:35 · 506 阅读 · 0 评论 -
tu
原创 2015-12-22 13:04:57 · 547 阅读 · 0 评论 -
大数据性能调优之HBase的RowKey设计
1 概述HBase是一个分布式的、面向列的数据库,它和一般关系型数据库的最大区别是:HBase很适合于存储非结构化的数据,还有就是它基于列的而不是基于行的模式。既然HBase是采用KeyValue的列存储,那Rowkey就是KeyValue的Key了,表示唯一一行。Rowkey也是一段二进制码流,最大长度为64KB,内容可以由使用的用户自定义。数据加载时,一般也是根据Row转载 2016-01-09 10:40:07 · 15099 阅读 · 1 评论 -
hbase安装启动成功,但是执行命令报错
执行任意命令,比如list,都会报如下错误 ERROR [main] client.HConnectionManager$HConnectionImplementation: The node /hbase is not in ZooKeeper. It should have been written by the master. Check the value configured原创 2016-01-11 14:57:27 · 3404 阅读 · 0 评论 -
hbase命令集(shell 命令,如建表,清空表,增删改查)
两篇可以参考的文章,讲的不错 http://www.cnblogs.com/nexiyi/p/hbase_shell.html (http://blog.iyunv.com/wulantian/article/details/41011297) ==============================hbase web操作访问地址 http://hmaster:60010,hmaster的...转载 2016-07-13 15:02:12 · 29596 阅读 · 0 评论 -
HBase简介(转载)
Hbase简介 started by chad walters and jim 2006.11 G release paper on BigTable 2007.2 inital Hbase prototype created as Hadoop contrib 2007.10 First useable Hbase 2008.1 Hadoop b转载 2016-10-30 11:40:40 · 404 阅读 · 0 评论 -
Interactive query on hbase(hbase交互式查询)
1.为什么使用交互式查询?用户需要实时的响应,延迟低于10ms~1s;2.Map/Reduce不适合?Map、Reduce是为了批量数据的分析设计的;Hbase上的M/R要比hdfs上的M/R要慢3~4倍,M/R的延迟非常大,SQL operation on hbasepsan,aggr,filter,groupby,sortjion,mapjion,...原创 2016-11-28 22:16:32 · 969 阅读 · 0 评论 -
HBase开发SQL查询中间件之查询原理
如何简化从hbase中查询数据为了兼容以前从关系型数据库中查询数据的接口, 让Hbase可以通过sql语句来查询其中的数据.Hive有这样的功能, 他支持通过类似sql语句的语法来操作hbase中的数据, 但是速度太慢了, 因为hive本身就不是用来查询数据的, hive是数据仓库, 做数据分析的, 不适合我们的应用场景.hbase本身提供的api中, 只有scan是用来查询数据的, 因此我们需要...转载 2016-11-28 17:23:32 · 1901 阅读 · 0 评论 -
ubuntu14.04安装hbase1.0.2
ubuntu14.04伪分布式安装Hbase:jar包下载地址:http://mirrors.hust.edu.cn/apache/hbase/ 1.将Hbase的jar包解压到/usr/local/文件夹下:sudo tar -zxvf hbase-1.0.2-bin.tar.gz2.修改Hbase文件夹的权限和所有者:3.配置Hbase文件。原创 2015-12-19 18:49:51 · 1077 阅读 · 0 评论 -
Hadoop之Hbase数据库的应用
用Java代码实现hadoop平台上Hbase数据库中数据的增、删、改、查功能。代码分析:import java.io.IOException;import java.util.ArrayList; import java.util.List; import org.apache.hadoop.conf.Configuration; import org.apache.ha原创 2015-09-10 17:59:18 · 617 阅读 · 0 评论 -
Hbase总结(四)- Hbase与传统数据库的区别
在说HBase之前,我想再唠叨几句。做互联网应用的哥们儿应该都清楚,互联网应用这东西,你没办法预测你的系统什么时候会被多少人访问,你面临的用户到底有多少,说不定今天你的用户还少,明天系统用户就变多了,结果您的系统应付不过来了了,不干了,这岂不是咱哥几个的悲哀,说时髦点就叫“杯具啊”。其实说白了,这些就是事先没有认清楚互联网应用什么才是最重要的。从系统架构的角度来说,互联网应用更加看重系统性转载 2015-07-26 15:52:20 · 1122 阅读 · 0 评论 -
HBase之Bulk Load实现快速导入数据
目录: 【1】传统的HTableOutputFormat写HBase有什么问题? 【2】BulkLoad的流程与实现? 【3】说明 【1】传统的HTableOutputFormat写HBase有什么问题?通常的Mapreduce在写入HBase时使用的是TableOutputFormat方式,在Reduce中直接生成Put对象写入到HBase。该方式转载 2015-10-19 17:36:26 · 2192 阅读 · 0 评论 -
eclipse构建HBase开发环境并运行实例对Hbase建表增删改查
首先确定hbase与Hdoop版本一致,网上都能查,我的是hadoop2.6.0+hbase1.0.0安装配置好后,明确了在终端命令行下面可以对数据库进行操作:然后对eclipse开发环境进行配置:1.从HBase集群中复制一份Hbase部署文件,放置在开发端某一目录下(如在/home/hadoop/hbase目录下)。2.在eclipse里新建一个java项目qin,然后选择项目原创 2015-07-25 20:47:27 · 3936 阅读 · 0 评论 -
Put方法实现Mysql向Hbase数据迁移
配置hadoop location同eclipse hadoop开发。创建mapreduce project项目,build path引入HBase(同eclipse中HBase开发)和mysql(mysql connection)的jar包。右键新建class类,编辑代码:package dfs;import java.io.IOException;import ja原创 2015-07-26 17:30:50 · 2111 阅读 · 2 评论 -
欢迎使用CSDN-markdown编辑器
导读:Apache Hive是一个构建于Hadoop(分布式系统基础架构)顶层的数据仓库,Apache HBase是运行于HDFS顶层的NoSQL(=Not Only SQL,泛指非关系型的数据库)数据库系统。区别于Hive,HBase具备随即读写功能,是一种面向列的数据库。 转自中国存储网,原文链接:http://www.chinastor.com/a/hbase/0G3Z532014.html转载 2015-09-22 11:23:48 · 425 阅读 · 0 评论 -
Hbase的completebulkload导入数据
有时候,我们需要将日志文件中的数据导入到Hbase中,通常情况下,你可以写一个方法逐行读取日志记录然后写入到Hbase中,但是这种方法往往效率比较低下,更好地方式试讲日志文件的内容通过某种工具直接导入到Hbase中,会显得更快速更方便,Hbase中有现成的工具支持来这么做。这两个工具分别是ImportTSV和complete不离开load。ImportTSV是用来将日志文件转化成HFile原创 2015-11-23 22:16:25 · 2123 阅读 · 0 评论 -
利用HBase提供的ImportTSV工具导入数据
利用ImportTSV将HDFS上的cvs文件导入到已经建好的Hbase表中。首先用Hbase shell建表:hbase $bin/ hbase shellhbase>create 'b',{NAME=>'cf'}然后,新建一个cvs文件,写入:(用,号隔开的)1,"tome"2,"sam"3,"jerry"4,"marry"然后利用命令将文件上传至hdfs上原创 2015-11-23 17:18:30 · 1561 阅读 · 2 评论 -
hbase数据迁移的mapreduce代码
package translate1;import java.io.IOException;import java.util.Scanner;import org.apache.hadoop.conf.*;import org.apache.hadoop.fs.Path;import org.apache.hadoop.mapreduce.*;import org.apa原创 2015-12-30 16:28:11 · 721 阅读 · 0 评论 -
hbase数据迁移put方法java代码
package ceshi;import java.io.IOException;import java.util.Scanner;import java.sql.Connection;import java.sql.DriverManager;import java.sql.Statement; import java.sql.ResultSet;import org原创 2015-12-30 16:29:20 · 1489 阅读 · 0 评论 -
hbase1.0集成phoenix
1.首先根据自己安装的hbase的版本号下载相应版本的phoenix安装包;下载地址: 下载地址:http://mirror.bit.edu.cn/apache/phoenix/我下载的是apache-phoenix-4.8.0-Hbase-1.02.移动到相应的目录,进行解压操作sudo mv apache-phoenix-4.8.0-Hbase-1.0.tar.gz /usr/local/...原创 2016-10-09 09:45:17 · 1791 阅读 · 0 评论