Hadoop环境搭建

HDFS环境搭建

  • 下载jdk 和 hadoop
tar -zxvf 压缩包名字 -C ~/bigdata/
  • 配置环境变量
vi ~/.bash_profile
export JAVA_HOME=/root/bigdata/jdk
export PATH=$JAVA_HOME/bin:$PATH
export HADOOP_HOME=/root/bigdata/hadoop
export PATH=$HADOOP_HOME/bin:$PATH

#保存退出后
source ~/.bash_profile
  • 进入到解压后的hadoop目录 修改配置文件

  • 配置文件作用

    • core-site.xml 指定hdfs的访问方式
    • hdfs-site.xml 指定namenode 和 datanode 的数据存储位置
    • mapred-site.xml 配置mapreduce
    • yarn-site.xml 配置yarn
  • 修改hadoop-env.sh

cd etc/hadoop
vi hadoop-env.sh
#找到下面内容添加java home
export_JAVA_HOME=/root/bigdata/jdk
  • 修改 core-site.xml 在 节点中添加
<configuration>
        <property>
                <name>hadoop.tmp.dir</name>
                <value>file:/root/bigdata/hadoop/tmp</value>
        </property>
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://hadoop-master:9000</value>
        </property>
</configuration>
  • 修改hdfs-site.xml 在 configuration节点中添加
<property>
    <name>dfs.namenode.name.dir</name>
    <value>/root/bigdata/hadoop/hdfs/name</value>
</property>
<property>
    <name>dfs.datanode.data.dir</name>
    <value>/root/bigdata/hadoop/hdfs/data</value>
</property>
<property>
    <name>dfs.replication</name>
    <value>1</value>
</property>
  • 修改 mapred-site.xml
    默认没有这个 从模板文件复制
cp mapred-site.xml.template mapred-site.xml
  • ​在mapred-site.xml 的configuration 节点中添加
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>
  • 修改yarn-site.xml configuration 节点中添加
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
  • hdfs namenode格式化 来到hadoop的bin目录
./hadoop namenode -format (这个命令只运行一次)
  • 启动hdfs 进入到 sbin
./start-dfs.sh
  • 启动启动yarn 在sbin中
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值