《HBase权威指南》读书笔记11:第十一章 性能优化

最新推荐文章于 2023-03-08 00:23:40 发布
最新推荐文章于 2023-03-08 00:23:40 发布
阅读量2.6k 收藏 7
点赞数 2
分类专栏： hadoop 文章标签： hbase hadoop
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nsrainbow/article/details/49624849
版权

垃圾回收优化

  • master基本不会遇到垃圾回收的问题。
  • 由于memstore的刷写机制是不连续的，所以java虚拟机的堆内存会出现孔洞。
  • 快速刷写到磁盘的数据会被划分到新生代，这种空间会被优先回收
  • 数据停留的时间太长，会被划分到老生代甚至终生代。而且老生代和终生代一般占据了好几个G，而新生代一般就几百M而已

新生代空间

由此得出新生代的空间一般的分配如下 
-XX:MaxNewSize=128m -XX:NewSize=128m
可以缩写为 
-Xmn128m
设定好之后观察是否合理
  • 如果不合理你会发现服务器的CPU使用量急剧上升，因为新生代的回收很占CPU
  • 新生代的设定如果调大，会带来的好处：则生存期较长的对象不会过快的划分为老生代。
  • 如果太大，回收会产生较长时间停顿

gc日志

如果JRE中孔洞太多，空间不够的时候，就需要压缩堆内存碎片，如果压缩内存碎片失败会出现失败日志。所以要通过以下参数开启jvm的gc日志 
-verbose:gc -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -Xloggc:$HBASE_HOME/logs/gc-${hostname}-hbase.log
日志中会出现 "concurrent mode failure" 或者 "promotion failed" 信息
注意：不过这个日志不会自动滚动，会越来越大你的手动用linux的每日滚动去做手动清理

回收策略

垃圾回收策略是可以切换的，建议用以下策略 
-XX:+UseParNewGC and -XX:+UseConcMarkSweepGC
第一个选项是设置年轻代用 Parallel New Collector 回收策略：停止jvm去清空年轻代。因为年轻代很小，所以这个过程很快，一般不到一秒，所以这个暂停是可以接受的

CMS策略

但是老生代不能用这个策略，因为老生代很大，暂停会很久，如果大于zk的会话超时，就会引起朱丽叶暂停问题。所以老生代用 并行标记回收器(Concurrent Mark-Sweep Collector, CMS)来缓解。这种策略尽量异步实现垃圾回收，但是cpu占用率高。不过如果回收失败的话，还是会让jvm暂停来进行内存整理。
使用了CMS策略有一个额外的参数设定什么时候开始进行并发标记 
-XX:CMSInitiatingOccupancyFraction=70
这个值设定了一个百分比。
70%是一个比较好的值，因为
  • 它比region的堆占用率60%略大（20%块缓存+40%memstore）
  • 这样在堆空间被占完之前就开始并行回收
  • 不会太小而导致回收频繁进行

优化原则

  • 块缓存+memstore 不能 大于 100%
  • 要留空间给其他操作，所以 块缓存+memstore = 60% 比较合理

本地memstore分配缓冲区(MSLAB)

MSLAB=Memstore-Local Allocation Buffers  本地memstore分配缓冲区
jvm孔洞（碎片）如果太多会触发 stop-the-world 垃圾回收，就是把整个jvm停掉回收垃圾。
所以MSLAB致力于减少碎片。方法是： 每次分配固定大小的对象，当这些对象被回收的时候，会留下固定大小的孔洞，之后如果新对象的大小也相同就可以直接用这些孔洞了，就不会引发 promotion fail，就不会触发 stop-the-world 过程
  • MSLAB默认是开启的，如果没有就设置 hbase.hregion.memstore.mslab.enabled来开启
  • hbase.hregion.memstore.mslab.chunksize 可以设定之前所说的固定大小孔洞的大小，默认是2MB。如果你存储的东西都很大，那就调大这个值
  • 如果你要存的东西大于存储缓冲区的上边界 hbase.hregion.memstore.mslab.max.allocation 默认值是256K。任何大于该值的单元格不会使用mslab特性，而是直接向jvm申请空间。
  • MSLAB的代价是空间的浪费，就算你没用到缓冲区的最后一个字节，缓冲区依然是那么大。所以你必须权衡利弊（我个人建议是浪费就浪费，总比引起jvm暂停好）
  • 使用缓冲区需要额外的内存复制工作，所以会比直接使用KeyValue实例要慢一点

压缩

推荐使用snappy 。不过要在一开始就使用，中间切换不好搞

优化拆分和合并

管理拆分

拆分/合并风暴

当用户的region大小以恒定的速度保持增长时，region拆分会在同一时间发生，因为同时需要压缩region中的存储文件，这个过程会重写拆分后的region，这将会引起IO上升。
建议：关闭自动拆分，然后手动调用split和major_compact 命令

如何关闭自动拆分？

将 hbase.hregion.max.filesize 调的非常大，但是不要大过 Long.MAX_VALUE （即 9223372036854775807），建议为100G
  • 手动运行还有一个好处，可以在不同时间段不同的region上执行，分散压力。
  • 用户可以做成cron的job定时执行这些操作
  • 手动拆分可以避免：当你做troubleshooting 的时候自动拆分有可能会把你正在看的region拆掉，这样就不好了

region热点

注意不要用类似时间戳这样的递增的东西做主键，防止出现region热点

预拆分region

在建立表的时候通过 SPLITS 属性可以直接定义各个region的范围，进行region的预拆分

负载均衡

master有一个内置的均衡器。默认情况下，均衡器每五分钟运行一次，这是通过 hbase.balancer.period 属性设置的。它会尝试均匀分配region到所有region服务器。启动均衡器，均衡器首先会确定一个region分配计划，该计划用于描述region如何移动。然后通过迭代调用管理API中的 unassign() 方法开始移动region。
均衡器有一个可以限制自身运行时间的上限，通过 hbase.balancer.max.balancing 属性来配置，默认设置为均衡器运行时间间隔周期的一半，即两分半钟。

合并region

  • 用 hbase org.apache.hadoop.hbase.util.Merge testtable 可以合并多个region
  • 删除大量数据的时候，可以合并region，让region不会那么多

客户端API：最佳实践

禁止自动刷写

  • 如果有大量的写入操作时，使用setAutoFlush(false) ，否则 Put 实例会被逐个传送到region服务器。禁止了自动刷写就可以等到写缓冲区被填满的时候一次性批量的发送。
  • 你可以可以使用 flushCommits() 方法显式刷写数据
  • 用 HTable 的 close 方法也会隐式的调用刷写

使用扫描缓存

  • 如果HBase被作为一个MapReduce 作业的输入源，就可以用 setCache() 设置一个比1大的多的数值，可以开启扫描缓存。这样可以一次从region取多条（比如500条）到客户端来处理。
  • 不过传输数据的开销和内存开销都会增大。所以不是越大越好

限定扫描范围

当Scan被用来处理大量行时（比如作为MapReduce输入源时）最好只设定指定的列，如果用addFamily() 会把整个family的所有列都加载进来。（ 其实就是跟传统SQL建议大家不要 SELECT * 一回事）

关闭ResultScanner

  • 一定要记得及时关闭 ResultScanner (其实跟传统数据库要记得关闭连接一回事)
  • 在finally 里面关闭 ResultScanner

块缓存用法

  • Scan可以通过设置 setCacheBlocks() 来设置使用region服务器中的块缓存。
  • 如果在MapReduce中，这个应该被设置成false
  • 如果某些行被频繁访问，这个应该被设置成true

优化获取行键的方式

如果你只是进行某些简单的行统计之类不需要获取所有列的操作，记得在 FilterList中添加 FirstKeyFilter 或者 KeyOnlyFilter ，这样就可以只返回第一个KeyValue行键，极大的减少了网络传输

关闭Put上的WAL

  • Put 的 writeToWAL(false) 可以关闭WAL，可以大幅提高吞吐量，但是副作用就是region如果出问题就会丢失数据。
  • 其实如果数据是在集群间分布均匀后，其实关闭日志不会提升多少性能
  • 所以最好不要关闭WAL。要是真的要提高吞吐量的话就用 批量导入 (bulk load) 技术。这个在 12.2.3 中会进行介绍

配置

减少ZooKeeper超时的发生

  • 默认的region和zk之间的超时时间是3分钟。推荐设置为1分钟，这样可以更快的发现这一个故障
  • 默认时间那么长是为了避免大数据到导入时出问题，如果没有大数据的导入情况就可以把超时设置短一点
  • 12.5.3中“稳定性问题”会介绍一个方法来检测这种停顿
  • 个人认为没有太大必要，要挂就是一直挂，快那么2分钟也没什么用

增加处理线程

  • hbase.regionserver.handler.count 定义了响应外部用户访问数据表请求的线程数，默认是10，有点偏小。这是为了防止用户在客户端高并发使用较大的缓冲区的情况下服务器端过载。
  • 但是当单次请求开销较小时，可以设定的高一点
  • 设置太高，会对region的内存造成压力，甚至会导致 OutOfMemoryError。而且可用内存过低的话又会触发垃圾回收，造成全面暂停

增加堆大小

  • 在 hbase-env.sh 中 调整 HBASE_HEAPSIZE ，增大为8G
  • 不过最好用 HBASE_REGIONSERVER_OPTS 而不是 HBASE_HEAPSIZE 可以单独调大region的堆大小，master不需要太大的堆大小，1G就够用了

启用数据压缩

推荐snappy，如果没有snappy就用LZO压缩

增加region大小

  • 更大的region可以减少region数量
  • 少region可以让集群运行更平稳
  • 如果一个region变热点就手动拆分它
  • 默认的region是256M，可以配置成1G或者更大
  • region太大的话高负载下的合并会停顿很长时间
  • 通过 hbase.hregion.max.filesize 设置region的大小

调整块缓存大小

  • 默认块缓存是20%（即0.2）
  • 通过 perf.hfile.block.cache.size 属性可以设置这个百分比
  • 如果根据10.2.3节提到的 evicted(LV) 参数发现有许多块被换出。这样就需要增加块缓存大小来容纳更多的块
  • 如果用户负载基本都是读请求，也可以增加块缓存
  • 块缓存+memstore上限不能超过100%。默认他们的和是60%，只有当用户确认有必要并且不会造成副作用时才调整

调整memstore限制

  • 通过 hbase.regionserver.global.memstore.upperLimit  设置上限。默认是0.4
  • hbase.regionserver.global.memstore.lowerLimit 设置下限。默认是0.35
  • 把上下限设置的接近一点来避免过度刷写
  • 如果主要处理读请求，可以考虑同时减少memstore的上下限来增加块缓存的空间。
  • 如果刷写的数据量很小，比如只有5MB，就可以增加存储限制来降低IO操作

增加阻塞是存储文件数目

  • hbase.hstore.blockingStoreFiles 设置，决定了当存储文件的数据达到阀值时，所有更新操作（put，delete）等会被阻塞。然后执行合并操作。默认值是7
  • 如果文件数一直很高，就不要提高该配置项，因为这样只会延迟问题的发生，而不能避免

增加阻塞倍率

  • hbase.hregion.memstore.block.multiplier 的默认值为2 。当memstore达到属性 multiplier  乘以 flush 的大小限制时会阻止进一步的更新
  • 当有足够的存储空间时，用户可以增加这个值来增加平滑的处理写入突发流量

减少最大日志

  • 设置 hbase.regionserver.maxlogs 属性是的用户基于磁盘的WAL文件数目，控制刷写频率。默认值是32
  • 对于写压力比较大的应用来说要把这个值调低，可以让数据更频繁的写到硬盘上，这样已经刷写到硬盘上的日志就可以被丢弃

负载测试

PE

HBase有自带的压力测试工具名叫 PE(Performance Evaluation)

YCSB

  • Yahoo 推出的云服务基准测试工具。比PE更好用，可以对hbase进行压力测试
  • YCSB提供了更多的选项，并且能够将读写负载混合在一起


alexxiyang
关注
专栏目录
《HBase权威指南》读书笔记1
软件哲学
10-14 2676
1.4 HBase结构1.4.2 HBase 的表、列和单元格基本单位是column多column组成row一个row有唯一rowkey每个column有多个版本，多个版本存储在单元格（cell）中行序是按照字典顺序进行排序的，意思是从左到右一次对比每一个键关于排序：排列顺序如果跟预期的不一样，需要补键，比如  row-1 永远小于 row-2，无论后面是什么，将始终按照这个顺序排列思考这有可能影
《HBase权威指南》读书笔记（一）
Ronnie147
06-07 324
第8章 架构 8.1 数据查找和传输 8.1.1 B+树 B树的一些特性使其能够通过主键对记录进行高效插入、査找以及删除。它表示为一个动态、多层并有上下界的索引。同时要注意维护每一段（也被称作页表）所包含的主键数目。分段B+树的效果远好于二叉树的数据划分，其大大减少了查询特定主键所需的IO操作。 除此以外，B+树能够提供髙效的范围扫描功能，这得益于它的叶节点相互连接并且按主键有序，扫描时避免了耗时的遍历树操作。这也是B+树被关系型数据库用作索引的原因之一。 如果要进行一次范围査询，则可能需要读取多个在磁盘
《HBase权威指南》读书笔记----简介
weixin_34067980的博客
10-26 88
工作中要使用HBase，刚刚开始接触HBase，理解不深，只是记录一下 。 HBase基于google的bigtable论文实现，属于nosql。 几个概念： （1）列（column）：最基本单位为列（column） （2）行健（row key）：一列或多列形成一行，并有唯一的行健来确定存储 （3）列族（column family）：一行由若干列组成，若干列又构成一个列族...
《HBase权威指南》读书笔记3
软件哲学
10-21 2097
第3章 客户端API：基础知识所有修改都保证了行级别的原子性： 要么读到最新的修改，要么等待系统允许写入改行修改用户要尽量使用批处理(batch)
《HBase权威指南》读书笔记4
软件哲学
10-22 2818
第四章 客户端API:高级特性4.1过滤器所有过滤器都在服务器端生效，叫 谓词下推（predicate push down）继承自compareFilter的Filter比较特殊，多了一个 compare() 方法HBase内置比较器comparator比较器描述BinaryComparator使用Bytes.compareTo() 比较当前值与阀值BinaryPrefixComparator与上
《HBase权威指南》读书笔记 第八章：架构，HFile格式
白色咖啡
09-17 581
HFile文件格式文件结构如上图。主要有以下部分： Data-block：数据块，每个块中存放多个KeyValue对象。默认每个块64KB。但不是严格意义上的64KB，大致维持在64KB左右。 Meta-block：储存元数据信息 File Info：储存HFile文件信息 Trailer：包含指向其他块的指针。Trailer写完了才能算一个完整的HFile文件。 通过以下工具可以手动解析HFile
hbase权威指南学习笔记
lvhuiyin的博客
08-05 3285
一、简介 1.列式存储数据库 以列为单位聚合数据，然后将列值顺序的存入磁盘，而传统数据库时为行式数据库，连续地存储整行 列式数据库：对于特定的查询，不需要所有的值，在分析型数据库最常见 1）关系型数据库存在的问题 高并发的解决步骤 增加用于读取的从服务器，将读写分离 增加缓存，如Memcached，但无法保证数据的一致性 将数据分区到多个数据库中，运维成本高。分区主要描述了逻辑上水
java程序员推荐轻薄笔记本，移动架构师成长路线
imtokenmax众筹
07-21 496
正文 在写这个文章之前，我花了点时间，自己臆想了一个电商系统，基本上算是麻雀虽小五脏俱全，我今天就用它开刀，一步步剖析，我会讲一下我们可能会接触的技术栈可能不全，但是够用，最后给个学习路线。 Tip：请多欣赏一会，每个点看一下，看看什么地方是你接触过的，什么技术栈是你不太熟悉的，我觉得还算是比较全的，有什么建议也可以留言给我。 不知道大家都看了一下没，现在我们就要庖丁解牛了，我从上到下依次分析。 前端 你可能会会好奇，你不是讲后端学习路线嘛，为啥还有前端的部分，我只能告诉你，傻瓜，肤浅。 我们可不能闭门造
mycat实战笔记
Riztal的博客
11-21 445
1、数据库设计 参考阿里巴巴开发手册 (一) 建表规约 1. 【强制】表达是与否概念的字段，必须使用 is_xxx 的方式命名，数据类型是 unsigned tinyint（1 表示是，0 表示否）。 说明：任何字段如果为非负数，必须是 unsigned。 注意：POJO 类中的任何布尔类型的变量，都不要加 is 前缀，所以，需要在<resultMap>设置从 is_xxx 到 Xxx 的映射关系。数据库表示是与否的值，使用 tinyint 类型，坚持 is_xxx.
工作记录笔记
逍遥飞鹤的专栏
04-16 7198
Java相关原理和深入学习：http://wiki.jikexueyuan.com/list/java/ RPC框架：         http://www.cnblogs.com/luxiaoxun/p/5272384.html https://my.oschina.net/huangyong/blog/361751 编程狂人周刊：http://www.tuicool.c
《HBase权威指南》读书笔记12:第十二章 集群管理
软件哲学
11-09 2449
运维任务减少节点
《HBase权威指南》读书笔记 第八章：架构，B+树
白色咖啡
08-13 902
B+树先说红黑树。红黑树是平衡二叉查找树。它通常用于Map结构的实现，可以根据Key快速找到Value。Java中的TreeMap就是通过红黑树实现的。它是一种二叉树，一个节点最多只能有两个子节点。当BST的存储结构放在硬盘上时，就出现问题了。因为二叉树的高度比较大，寻找一个叶子节点需要较多次数访问硬盘。我们知道访问硬盘的速度是非常慢的，所以BST不太适合用在硬盘上。然而B+树可以解决这个问题。B+
hbase权威指南阅读随手笔记<1>
puts "hello saint!"
11-30 3963
1、关于delete marker的问题。(p24) hbase的delete命令，并不是真的删除了文件，而是设置一个标记（delete marker）。用户在检索数据的时候，会过滤掉这些标示的数据。 HBase的删除标记有三种： 1. version delete marker 删除指定version的某个qualifier对应的value 2. column del
《HBase权威指南》学习总结
lantian0802的专栏
07-27 1898
Hbase学习总结 1.HBase概述及部分存储知识概述: 架构简介： 简述： Hbase基于hadoop的HDFS系统，其文件存储都是存储在HDFS上的。由上图看到HBase主要处理两种文件：一种是预写日志（Write-Ahead Log，WAL）即图中的HLog。另一种文件是实际的数据文件HFile（HFile本事就是HDFS的文件，文件格式遵循HBase可导入的格式
HBase学习笔记（二）
最新发布
zhang_232的专栏
03-08 384
主要有利用HBase的shell命令进行Hbase数据库的操作，其实是调用Ruby的方法。Ruby客户端调用Java编写的Hbase的API
Hbase调优
萌兔兔MMQ！！
02-16 1550
对hbase调优首先需要对hbase架构有一个初步认知。 hbase写数据 在HBase 中无论是增加新行还是修改已有的行，其内部流程都是相同的。HBase 接到命令后存下变化信息，或者写入失败抛出异常。 默认情况下，执行写入时会写到两个地方： 1、预写式日志（write-ahead log，也称HLog）； 2、MemStore。 HBase 的默认方式是把写入动作记录在这两个地方，以保证数据持久化。只有当这两个地方的变化信息都写入并确认后，才认为写动作完成。 MemStore 是内存里的写入缓冲区，H
HBASE memstore（跳跃表）底层结构，，实现过程和原理，MSLAB对memstore的GC优化
weixin_40954192的博客
06-22 977
hbase系统中一张表会被水平切分成多个region。每个region负责自己区域的数据读写请求。hbase针对每个列簇都将数据保存在store。每个store由一个memstore和多个hfile组成。 因为memstore底层的存储结构是跳跃表（ConcurrentSkipListMap）。我们先理解一下跳跃表的知识。 跳跃表： 跳跃表是一种能高效实现插入，删除，查找的内存数据结构。与红黑树以及二分法相比，跳跃表的优势在于实现简单，可以实...
hbase的负载均衡策略
lzf的博客
05-06 2382
1.负载均衡概述 Master的LoadBalancer线程周期性的在各个RegionServer间移动region维护负载均衡 1 经常被并发查询的数据不要存储在同一个RegionServer中 , 避免热点读取问题 . 2 当一个机器上经过大量的插入或者删除数据以后 ,region合并或者分裂 ,那么机器上的region的数量会相差很大 . 3 当新增了节点以后 , 应该去分配一些其他机器上的region数据 4 当某个RegionServer宕机以后 , 这台机器上数据的分配 region的执行
Hbase GC调优原理分析
全栈工程师开发手册（原创）https://github.com/tencentmusic/cube-studio
03-10 4999
实践中，HBase使用的内存不断增长，但JDK可用的垃圾收集算法仍然相同。这导致了HBase的许多用户的一个主要问题：随着Java使用堆大小继续增长，垃圾回收导致的“stop-the-world”时间变得越来越长。这在实践中意味着什么？ 在垃圾回收导致的“stop-the-world”期间，任何到HBase客户端请求都不会被处理，造成用户可见的延迟，甚至超时。如果因为暂停导致请求超过一分钟响应，H...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值