使用Teragen产生数据,使用 jar 包路径如下:
/your hadoop path/share/hadoop/mapreduce2/hadoop-mapreduce-examples-2.6.0-cdh5.9.3.jar
$ hadoop jar hadoop-mapreduce-examples-2.6.0-cdh5.9.3.jar teragen 参数1 参数2
Teragen 参数解释
- 参数1:表示需要产生行数。如1G = 102410241024/100=10737418行
- 参数2:表示放置文件的位置
默认 teragen 启动 map 数量为 2,可以指定 map 数量,-Dmapred.map.tasks=map,如:
$ hadoop jar hadoop-mapreduce-examples-2.6.0-cdh5.9.3.jar teragen -Dmapred.map.tasks=10 参数1 参数2
map 数量影响产生文件个数