实际生产环境当中,hadoop的环境搭建完成之后,第一件事情就是进行压力测试,测试我们 的集群的读取和写入速度,测试我们的网络带宽是否足够等一些基准测试。
写入速度测试
# 向HDFS文件系统中写入数据,10个文件,每个文件10MB
hadoop jar /HadoopPath/share/hadoop/mapreduce/hadoopmapreduce-client-jobclient-2.7.5.jar TestDFSIO -write -nrFiles 10 fileSize 10MB
# 测试完之后的结果会存放到HDFS上的/benchmarks/TestDFSIO中,同时在本地的执行命令的目录下也会有一份
# 写数据的测试结果
----- TestDFSIO ----- : write
Date & time: Wed Sep 23 00:16:30 CST 2020
Number of files: 10
Total MBytes processed: 100
Throughput mb/sec: 33.24
Average IO rate mb/sec: 34.5
IO rate std deviation: 6.27
Test exec time sec: 9.39