Hadoop之Hibench的安装配置(详细步骤)

该博客介绍了如何在Hadoop环境下配置和运行HiBench进行基准测试。首先,下载并解压Hibench安装包,然后配置hadoop.conf和hibench.conf文件,设置Hadoop路径和HDFS主节点等参数。接着,启动Hadoop集群,生成wordcount测试数据,并运行wordcount测试。最后,通过bin/run_all.sh运行所有测试实例,并查看测试报告。关闭集群的命令是stop-yarn.sh和stop-dfs.sh。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

配置前准备

下载Hibench-master.zip的安装包并解压,将解压后的HiBench-master上传到XShell

或者直接将 Hibench-master.zip的安装包上传到xshell 并解压

解压安装包

输入解压命令:

unzip Hibench-master.zip

配置

cd /home/ZQ/HiBench-master/conf/

1、配置hadoop.conf

vim hadoop.conf

将配置文件改为: 

# Hadoop home
hibench.hadoop.home    /home/ZQ/hadoop-2.7.6

# The path of hadoop executable
hibench.hadoop.executable     ${hibench.hadoop.home}/bin/hadoop

# Hadoop configraution directory
hibench.hadoop.configure.dir  ${hibench.hadoop.home}/etc/hadoop

# The root HDFS path to store HiBench data
hibench.hdfs.master       hdfs://westgisB062:8020/home/ZQ/HiBench-master


# Hadoop release provider. Supported value: apache, cdh5, hdp
hibench.hadoop.release    apache

2、配置hibench.conf

vim hibench.conf

 

运行Hibench

1、启动集群和yarn

start-dfs.sh
start-yarn.sh

2、生成wordcount测试数据

cd HiBench-master/
bin/workloads/micro/wordcount/prepare/prepare.sh

3、运行 wordcount测试例子

bin/workloads/micro/wordcount/hadoop/run.sh

4、查看测试报告

cd report/
cat hibench.report

 (测试其他例子也同理)

运行所有在conf/benchmarks.lst和conf/frameworks.lst 配置的测试实例

 cd HiBench-master/
bin/run_all.sh

 

查看测试报告

cd report/
cat hibench.report

5、关闭yarn和集群

cd
stop-yarn.sh
stop-dfs.sh

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值