HDFS环境搭建
- 下载jdk 和 hadoop
tar -zxvf 压缩包名字 -C ~/bigdata/
- 配置环境变量
vi ~/.bash_profile
export JAVA_HOME=/root/bigdata/jdk
export PATH=$JAVA_HOME/bin:$PATH
export HADOOP_HOME=/root/bigdata/hadoop
export PATH=$HADOOP_HOME/bin:$PATH
#保存退出后
source ~/.bash_profile
-
进入到解压后的hadoop目录 修改配置文件
-
配置文件作用
- core-site.xml 指定hdfs的访问方式
- hdfs-site.xml 指定namenode 和 datanode 的数据存储位置
- mapred-site.xml 配置mapreduce
- yarn-site.xml 配置yarn
-
修改hadoop-env.sh
cd etc/hadoop
vi hadoop-env.sh
#找到下面内容添加java home
export_JAVA_HOME=/root/bigdata/jdk
- 修改 core-site.xml 在 节点中添加
<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>file:/root/bigdata/hadoop/tmp</value>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop-master:9000</value>
</property>
</configuration>
- 修改hdfs-site.xml 在 configuration节点中添加
<property>
<name>dfs.namenode.name.dir</name>
<value>/root/bigdata/hadoop/hdfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/root/bigdata/hadoop/hdfs/data</value>
</property>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
- 修改 mapred-site.xml
默认没有这个 从模板文件复制
cp mapred-site.xml.template mapred-site.xml
- 在mapred-site.xml 的configuration 节点中添加
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
- 修改yarn-site.xml configuration 节点中添加
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
- hdfs namenode格式化 来到hadoop的bin目录
./hadoop namenode -format (这个命令只运行一次)
- 启动hdfs 进入到 sbin
./start-dfs.sh
- 启动启动yarn 在sbin中