Hadoop 部署配置

 

文件core-site.xml配置：

<configuration>
        <！-- 设置hdfs的默认名称 -->
        <property>
                <name>fs.default.name</name>
                <value>hdfs://master:9000</value>
        </property>
        <property>
                <name>hadoop.tmp.dir</name>
                <value>/var/lib/hadoop</value>
        </property>
        <property>
                <name>hadoop.proxyuser.root.hosts</name>
                <value>*</value>
        </property>
        <property>
                <name>hadoop.proxyuser.root.groups</name>
                <value>*</value>
        </property>
</configuration>

文件 hdfs-site.xml 配置

<configuration>
        <property>
                <name>dfs.replication</name>
                <value>2</value>
        </property>
        <property>
                <name>dfs.namenode.name.dir</name>
                <value>file:/usr/local/hadoop/hadoop_data/hdfs/namenode</value>
        </property>
        <property>
                <name>dfs.datanode.data.dir</name>
                <value>file:/usr/local/hadoop/hadoop_data/hdfs/datanode</value>
        </property>
</configuration>

<!--
    初始化 namenode 节点的文件
    hadoop namenode -format
-->

文件 mapred-site.xml 配置

<configuration>
        <property>
                <name>mapred.job.tracker</name>
                <value>master:54311</value>
        </property>
        <property>
                <name>mapreduce.framework.name</name>
                <value>yarn</value>
        </property>
</configuration>

文件 yarn-site.xml 配置

<configuration>

        <property>
                <name>yarn.resourcemanager.hostname</name>
                <value>master</value>
        </property>
                <!-- reducer获取数据的方式 -->
        <property>
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
        </property>
        <!-- NodeManger 主机与 NodeManager的链接地址 -->
        <property>
                <name>yarn.resourcemanager.resource-tracker.address</name>
                <value>master:8025</value>
        </property>
        <!-- ResourceManager 与 ApplicationMaster 的连接地址 -->
        <property>
                <name>yarn.resourcemanager.scheduler.address</name>
                <value>master:8030</value>
        </property>
        <!-- 客户端通过该地址 ResourceManager 与客户端的连接地址 -->
        <property>
                <name>yarn.resourcemanager.address</name>
                <value>master:8050</value>
        </property>
</configuration>

scp *-sit.xml文件到其他的节点

hadoop 请求地址查看   http://master:8088

hdfs 查看地址 ： http://master:9870