阿里云服务器搭建Hadoop环境以及Hive搭建

本文介绍了如何在阿里云服务器上配置Hadoop集群,包括将内网和外网IP添加到hosts文件,修改workers文件,以及在hdfs-site.xml中设置dfs.client.use.datanode.hostname。重点讲解了如何通过外网IP访问HDFS主节点。
摘要由CSDN通过智能技术生成

其他参见大数据开发系列(一)----Hadoop集群环境配置

1、配置阿里云服务器时,需要将所有的节点的内网、外网添加至linux的hosts文件中:

vi   /etc/hosts  ,添加:
172.22.234.35   xiaoye11
123.57.76.16   xiaoye11
172.46.54.58        xiaoye12
101.20.27.135    xiaoye12
172.30.31.16     xiaoye15
39.15.24.124    xiaoye15

2、配置阿里云服务器,只需要修改workers 文件,使用外网IP

123.57.76.16  
101.20.27.135

39.15.24.124

3、hdfs-site.xml文件配置:vim   hdfs-site.xml
vi     /usr/lib/JDK_2021/hadoop-3.1.2/etc/hadoop/hdfs-site.xml

配置阿里云服务器需要添加如下:
<property>
        <name>dfs.client.use.datanode.hostname</name>
        <value>true</value>
 </property>

4、使用主节点xiaoye11访问HDFS:
http://123.57.76.16:9870

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值