HDFS性能测试

Hadoop集群提供一套测试读写HDFS的jar包,jar包在$HADOOP_HOME/share/hadoop/mapreduce目录下,名字为:hadoop-mapreduce-client-jobclient-2.8.5-tests.jar,后面2.8.5为Hadoop的版本号,我们分别来测试其读写,然后再把数据清除

一、写数据性能测试

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.8.5-tests.jar TestDFSIO -write -nrFiles 10 -fileSize 128MB

其中,TestDFSIO为写入的文件夹的名称,如果没有加路径,则会自动加上一个绝对路径,我们Hadoop集群上默认的是:/benchmarks/,所以最后写入的文件在/benchmarks/TestDFSIO文件夹下,nrFiles后面为写入的文件个数,fileSize为写入每个文件的大小,运行一遍后,发现该目录下以及写入文件了,然后再运行的控制台有打印运行的一些信息。如下图
HDSF写文件性能测试
Number of files:写入文件数

Throughput:吞吐率 这里为93.77MB/s

Average IO rate:平均吞吐率 这里速率98.36MB/s

二、读数据性能测试

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.8.5-tests.jar TestDFSIO -read -nrFiles 10 -fileSize 128MB

运行结果为:
HDFS读数据性能测试

参数和读数据的一样

三、清除数据

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.8.5-tests.jar TestDFSIO -clean
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值