Hadoop:
标题准备:下载hadoop-2.7.5
修改配置:
etc/hadoop
1)hdfs-site.xml
应该没什么要修改的。
2)core-site.xml
修改成自己的主机名
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://主机名:9000</value>
</property>
</configuration>
3)yarn-site.xml
<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>主机名</value>
</property>
...
</configuration>
4)slaves
不太确定这个文件夹的作用。。。
修改成自己的主机名。
5)hadoop_env.sh
这里面的Java_home_path需要修改成自己的JDK所在的路径。
运行:
sbin/start-all.sh(脚本)
jps命令可以查看当前启动的。
Hibench
修改配置:
/conf
1)hadoop.conf
# The root HDFS path to store HiBench data
hibench.hdfs.master hdfs://主机名:9000/user/lemaker
2)spark.conf
# Chameleon master address 2019-3-15
hibench.spark.master mesos://运行master的主机IP:端口
3)hibench.conf
4)benchmarks.list
运行:前提是先启动master、slave还有Hadoop
/bin/run_all.sh