HBase
文章平均质量分 57
余建新-18588497759
这个作者很懒,什么都没留下…
展开
-
HBase snapshot+replication 测试
画像标签服务(CDP)是核心服务,被公司其他系统如现金、电商、风控等核心业务调用。异常的话,影响范围大。存量数据测试通过 snapshot 迁移,增量数据测试通过 replication 同步。方案二测试,两个独立HBase集群,snapshot+replication。修改表属性,设置复制目标从集群。(2)增量数据同步 (replication)从集群确认数据同步成功。(1)存量数据迁移 (snapshot)2、在目标hbase集群上查询数据。1、同步数据到目标hbase集群。原创 2024-08-13 16:05:27 · 339 阅读 · 0 评论 -
hbase 优化节点进程停止方式
【代码】hbase 优化节点进程停止的方式。原创 2024-07-02 18:44:47 · 212 阅读 · 0 评论 -
hbase 优化节点进程停止方式。命令执行结果记录
【代码】hbase 优化节点进程停止方式。原创 2024-06-24 09:46:50 · 280 阅读 · 0 评论 -
HBase 导出导入、复制、备份、迁移
HBase 数据迁移、备份与恢复、复制。原创 2024-01-12 23:32:46 · 919 阅读 · 0 评论 -
HBase 记录
HBase原创 2023-09-10 09:37:00 · 617 阅读 · 0 评论 -
HBase 源码编译部署包
mvn clean package assembly:single -DskipTests原创 2023-07-23 22:25:39 · 579 阅读 · 0 评论 -
hbase hfile中Key的类型对应于源码
hbase hfile -b -v -f /hbase/data/ns_monitor/t_monitor_memory/e15236a1387c7148dfde23022884cde3/monitor_memory/e1f274ed5c6c44f0984ac95de30fa880查看hfile信息Block Index:size=66key=2016-06-17||mem_buffe原创 2016-10-07 14:54:28 · 611 阅读 · 0 评论 -
11-hbase-daemon.sh start regionserver启动命令分析
hbase-daemon.sh start regionserver(start)中nohup $thiscmd --config "${HBASE_CONF_DIR}" foreground_start $command $args ${HBASE_LOGOUT} 2>&1 &(foreground_start)中nice -n $HBASE_NICENESS "$HBAS原创 2016-08-26 13:04:21 · 5770 阅读 · 0 评论 -
HBase二次开发 开发环境搭建
git checkout指定版本代码git checkout rel/1.1.2原创 2016-10-12 20:07:21 · 687 阅读 · 0 评论 -
HBase中Filter总结
待总结HBase中使用不同Filter满足业务需求。原创 2016-10-01 20:10:04 · 385 阅读 · 0 评论 -
HBase管理 HBase数据备份方式对比
bulkload,会启动MapReduce任务原创 2016-09-06 17:05:38 · 701 阅读 · 0 评论 -
HBase Tools and Utilities
####129. HBase Tools and Utilities BEGIN#####1hbase org.apache.hadoop.hbase.mapreduce.Driver##1.1hbase org.apache.hadoop.hbase.mapreduce.Driver verifyrep与hbase org.apache.hadoop.hbase.mapreduc原创 2016-10-07 10:41:03 · 1642 阅读 · 0 评论 -
69.1. Considerations for Number of Regions
HBase中一台RegionServer,多少个Region比较合适?单个Region大小,设置多少比较合适?Region数量,由少变多,可以split;由多变少,怎么操作?原创 2016-10-07 11:50:46 · 373 阅读 · 0 评论 -
hbase-server-1.1.2.jar中提供的工具类
另,Hadoop、HBase、Kylin等其他Apache项目中一定有很多util工具类。原创 2016-10-02 11:33:50 · 1170 阅读 · 0 评论 -
131. Node Management
Node Management,下线节点,增加节点。graceful_stop.shrolling-restart.sh原创 2016-10-07 13:06:31 · 490 阅读 · 0 评论 -
hbase_batch_drop_table
hbase_batch_drop_table.sh#!/bin/bash##################################################################################################################### 脚本功能:批量删除HBase中的表## 修改历史:#原创 2016-10-08 14:52:32 · 599 阅读 · 0 评论 -
HBase集群运维管理 问题记录
一、问题描述hbase-daemon.sh start regionserver启动RegionServer,启动失败,报错日志:问题解决二、问题描述原创 2016-10-13 09:50:08 · 672 阅读 · 0 评论 -
HBase Snapshot
一、测试目的(文档目的):使用HBase snapshot,测试Phoenix数据备份、HBase数据备份。二、测试步骤:#2.1#定期(如1天),备份重要表、重要数据snapshot 'PH_MONITOR.T_MONITOR_INTERFACE_LOG', 'PH_MONITOR.T_MONITOR_INTERFACE_LOG_snapshot_20161001原创 2016-10-01 20:03:28 · 930 阅读 · 0 评论 -
HBase的并发机制
HBase的并发机制是怎样的?原创 2016-10-01 12:33:33 · 1315 阅读 · 0 评论 -
解决HBase开发,作“聚集函数”操作时的一个异常
使用HBase API AggregationClient做聚集操作时,原创 2014-04-19 19:37:36 · 1200 阅读 · 1 评论 -
Hive整合HBase——通过Hive读/写 HBase中的表
写在前面一:本文将Hive与HBase整合在一起,使Hive可以读取HBase中的数据,让Hadoop生态系统中最为常用的两大框架互相结合,相得益彰。写在前面二:使用软件说明:约定所有软件的存放目录:/home/yujianxin一、Hive整合HBase原理Hive与HBase整合的实现是利用两者本身对外的API接口互相进行通信,相互通信主要是依靠hive-hbase-handler-0.9.0原创 2014-06-04 12:32:03 · 18209 阅读 · 7 评论 -
《HBase上的交互式SQL查询》Intel 孙元浩
原创 2016-03-05 17:04:47 · 1964 阅读 · 0 评论 -
HBase架构图及数据模型
1、HBase架构2、HBase数据模型原创 2016-03-06 17:01:03 · 999 阅读 · 0 评论 -
HBase RowKey设计
HBase RowKey设计待参考总结OpenTSDB和《HBase实战》书中的例子。原创 2016-10-01 19:11:16 · 519 阅读 · 0 评论 -
HBase REST Server
##start up# Foregroundhbase rest start -p # Background, logging to a file in $HBASE_LOGS_DIRhbase-daemon.sh start rest -p hbase-daemon.sh stop rest##Use##by the browserhttp://192原创 2016-10-07 12:43:01 · 6348 阅读 · 0 评论 -
HBase读书笔记_HBase The Definitive Guide_第8章
LSM - 解决磁盘随机写问题(顺序写才是王道);HFile - 解决数据索引问题(只有索引才能高效读);WAL - 解决数据持久化(面对故障的持久化解决方案);zooKeeper - 解决核心数据的一致性和集群恢复;Replication - 引入类似MySQL的数据复制方案,解决可用性;此外还有:自动分拆Split、自动压缩(compaction,LSM的伴生技术)原创 2016-09-07 16:33:39 · 489 阅读 · 0 评论 -
HBase对周边系统的依赖
Zookeeper[zk: 1.hadoop.com:2181,2.hadoop.com:2181(CONNECTED) 0] ls /hbase[meta-region-server, backup-masters, region-in-transition, draining, table, running, table-lock, master, balancer, namespac原创 2016-09-07 19:06:25 · 783 阅读 · 0 评论 -
HBase Replication
Replication是主从同步、主主同步,Snapshot是数据备份。原创 2016-10-02 07:22:54 · 520 阅读 · 0 评论 -
HBase Replication
HBase Replication原创 2016-09-26 20:46:59 · 1212 阅读 · 0 评论 -
HBase 分区Region自动转移测试
原创 2016-09-27 18:21:52 · 844 阅读 · 0 评论 -
RegionServer数据本地性
参考urlhttp://hbase.apache.org/0.94/book/regions.arch.html原创 2016-09-28 10:41:46 · 742 阅读 · 0 评论 -
HBase StoreFile(HFile)
参考urlhttp://hbase.apache.org/0.94/book/regions.arch.html原创 2016-09-28 10:45:40 · 1577 阅读 · 0 评论 -
HBase建表时指定splits_key
cat /usr/local/fqlhadoop/aaronyu/HBase/t_monitor_interface_log_hbase_splits_key_2.txt CoFItgROaOrderIOrderQuerySPrUserAV com.fenqile.acom.fenqile.dcom.fenqile.order.fcom.fenqile.sa原创 2016-10-14 17:13:52 · 3026 阅读 · 0 评论 -
HBase执行命令方法总结
一、echo "scan 'ns_monitor:t_monitor_io',{LIMIT=>1}" | hbase shellecho "scan 'ns_monitor:t_monitor_io',{FILTER=>\"PrefixFilter('2001-01-01|192.168.16.123|io_r_s')\"}" | hbase shell二、hbase shell原创 2016-10-15 07:49:35 · 1368 阅读 · 1 评论 -
HBase数据导入方式
HBase,是一个数据库,是一个存储系统。那数据导入HBase有哪些方式?1、HBase API Put/Get(如Spark Streaming往HBase中写数据)2、bulkload MapReduce3、Sqoop4、Phoenix$PHOENIX_HOME/bin/psql.py -t "ns_1.table_1" -d "|" 3.hadoop.com:2181 /原创 2016-09-30 09:58:48 · 528 阅读 · 0 评论 -
Hadoop MapReduce VS HBase MapReduce
aaaa原创 2014-04-15 00:57:37 · 1236 阅读 · 0 评论