- 博客(15)
- 资源 (4)
- 收藏
- 关注
原创 hbase shell help
hbase(main):001:0> helpHBASE SHELL COMMANDS: alter Alter column family schema; pass table name and a dictionary specifying new column family schema. Dictionaries are described
2012-02-28 17:43:25 2651
原创 hbase 关闭 ResultScanners
如果你忘记了关闭ResultScanners,会导致RegionServer出现问题。所以一定要把ResultScanner包含在try/catch 块中...Scan scan = new Scan();// set attrs...ResultScanner rs = htable.getScanner(scan);try { for (Result r = rs
2012-02-28 17:36:50 2483
转载 Linux清空内存和磁盘缓存
细心的朋友会注意到,当你在linux下频繁存取文件后,物理内存会很快被用光,当程序结束后,内存不会被正常释放,而是一直作为caching.这个问题,貌似有不少人在问,不过都没有看到有什么很好解决的办法.那么我来谈谈这个问题.先来说说free命令[root@server ~]# free -m total used free
2012-02-24 20:27:19 856
原创 单独启动hadoop datanode和hbase regionserver
全部启动 ./hadoop-daemons.sh start datanode./hbase-daemons.sh start regionserver单独启动 ./hadoop-daemon.sh start datanode **./hbase-daemon.sh start regionserver **
2012-02-24 18:27:10 3019
转载 为什么我们说海量数据处理技术会火
为什么我们说海量数据处理技术会火http://www.36kr.com/p/85415.html大数据处理技术正在改变目前计算机的运行模式。我们已经从中获得了大量收益,因为正是大数据处理技术给我们带来了搜索引擎Google。然而故事才刚刚开始,基于以下几个原因,我们说大数据处理技术正在改变着这个世界:它能处理几乎各种类型的海量数据,无论是微博、文章、电子邮件、文档、
2012-02-24 15:59:48 1108 1
转载 大数据时代
大数据时代http://www.36kr.com/p/83147.html对数字在行?对数据着迷?那么你听到的是机遇的敲门声。周墨(音译,Mo Zhou)去年夏天刚刚完成耶鲁大学的MBA学业就被IBM抢走,加入了这家技术公司快速发展的数据顾问的队伍当中。他们帮助企业弄清楚数据爆炸的意义—Web流量、社交网络上的评论,以及监控货物、供应商及客户的软件和传感器上的数
2012-02-24 15:52:42 1455
原创 HBASE预先分配regions的实现
http://blog.csdn.net/yiboo/article/details/7284111前面写了HBASE通过预先创建regions,来平衡数据的负载,其中用到了hbase官方的example但是没有人告诉你怎么用自己试了试用法主要的就是如何分配rowkey start end之间的关系,因为我的数据的key是md5值,所以我使用了md5的两段分为300份publi
2012-02-23 18:11:19 7928 2
原创 hbase中单调递增的rowkey造成的影响
自己的数据导入由于是md5排序后的数据,所以导入的时候遇到的一个问题就是:在一个集群中,一个导入数据的进程一动不动,所以的client都在等待一个region(就是一个节点),过了一会后,变成了下一个region查到了一些资料,不过这种做饭还不是很适合我,所以我只能考虑用另外的方法来处理用多线程同时读取统一个文件的不同位置,这样读入的rowkye就分散了。多线程的数据与自己regi
2012-02-23 11:28:44 3372
翻译 HBASE通过预先创建regions,来平衡数据的负载
HBase中的表默认是创建一个region,所以大部分写入的时候,所有的客户端都会写到一个region中直到region达到设定值进行分裂split,然后通过集群进行分发。所以有一个很有用的方法来提高大数据写入过程的效率就是预先创建regions。public static boolean createTable(HBaseAdmin admin, HTableDescriptor t
2012-02-22 17:14:58 4678
原创 推荐HBase 官方文档
盛大游戏-数据仓库团队-颜开(译)http://www.yankay.com/wp-content/hbase/book.htm
2012-02-22 11:54:45 1068
转载 Apache Zookeeper入门1
本文转载之:http://www.javabloger.com/article/apache-zookeeper-hadoop.html文章介绍的不错,非常通俗易懂!ZooKeeper 是什么? ZooKeeper 顾名思义 动物园管理员,他是拿来管大象(Hadoop)、蜜蜂(Hive)、小猪(Pig) 的管理员, Apache Hbase和 Apache Solr
2012-02-22 10:53:51 3760
原创 hbase时间同步造成region severs的问题
1. 访问hbase的web配置页面为host:60010host:600302. 配置了regionservers和分布式,但是启动后只有一个regionserver,有人说是时间同步的问题, hbase.master.maxclockskew 180000 Time difference of regi
2012-02-22 10:25:13 1574
原创 几个hbase的问题
遇到很多问题,准备一个一个测试下1. 如果连续的读取一个大文件,比如1t,的内容到hbase中,用map reduce会不会比单机的java client写入快很多?考虑到在hbase写入的时候读取打文件的部分不是瓶颈,这个部分提升应该不明显2. hbase的配置项这么多,到底那几个是默认的值必须要修改的?需要统计一下3. hbase的
2012-02-22 10:08:58 926
原创 Windows下远程链接HBASE SHELL无法backspace和del的解决
在window下用secureCRT登录HBASE操作shell,发现无法使用del或backspace键删除,郁闷了很久后来发现用putty可以所以就对比了一下,发现是键盘设置的问题在secureCRT中终端-》仿真-》映射键-》其他映射 打勾Backspace发送deletedelete发送Backspace就可以了
2012-02-17 13:55:49 4470 2
转载 HBase的概念和性能选项
在本文中的HBase术语:基于列:column-oriented行:row列组:column families列:column单元:cell理解HBase(一个开源的Google的BigTable实际应用)最大的困难是HBase的数据结构概念究竟是什么?首先HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库.另一个不同的是HBase基于列的而不是基
2012-02-14 18:27:56 1222
android版本path2菜单实现源代码
2011-12-31
SWix flash反编译工具
2011-04-08
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人