一、Apache HBase 性能调优
1、HBase性能调整:操作系统
- 内存
HBase一定需要RAM!
- 64位
使用64位平台(和64位JVM)。
- 交换
注意交换,将swappiness设为0。
- CPU
确保已将Hadoop设置为使用本机的硬件校验和。
2、HBase性能调整:网络
避免网络问题降低Hadoop和HBase性能的最重要因素可能是所使用的交换硬件,在项目范围的早期做出的决策可能会导致群集大小增加一倍或三倍(或更多)时出现重大问题。
需要考虑的重要事项:
- 切换设备的容量
- 连接的系统数量
- 上行链路容量
1)单个交换机
此配置中最重要的一个因素是硬件的交换容量能够处理连接到交换机的所有系统可以生成的通信量。一些较低价格的商用硬件可以具有比完整交换机可以使用的更慢的交换容量。
2)多个交换机
多个交换机是架构中的潜在缺陷。低价硬件的最常见配置是从一个交换机到另一个交换机的简单1Gbps上行链路。这种经常被忽视的夹点很容易成为集群通信的瓶颈。特别是对于读取和写入大量数据的MapReduce作业,此上行链路上的通信可能会饱和。
缓解这个问题非常简单,可以通过多种方式实现:
- 使用适当的硬件来处理您尝试构建的群集的规模。
- 使用较大的单个交换机配置,即单个48端口&