Hadoop运行环境搭建以及伪分布式环境搭建

本文详细介绍了如何在Linux系统中配置Java环境和Hadoop,包括修改配置文件、设置环境变量以及启动Hadoop的伪分布式模式。通过配置JAVA_HOME、HADOOP_HOME等,关联Java与Hadoop,并对core-site.xml、hdfs-site.xml等关键配置文件进行设定,最终实现Hadoop的启动并能通过浏览器访问Web界面。整个过程适合Linux初学者参考。
摘要由CSDN通过智能技术生成

在linux中安装好jdk和Hadoop后进行环境搭建

java环境配置

命令行输入:vi /etc/profile  在底部加上

JAVA_HOME=自己的jdk安装路径

完成后在命令行输入 source /etc/profile  让其生效

表示配置成功

 Hadoop环境配置

和Java环境配置大同小异

命令行输入:vi /etc/profile  在底部加上

 

完成后同样命令行输入:source /etc/profile 让其生效

 

表示配置成功

伪分布式环境搭建:

 1.让Hadoop和java关联上

        在hadoop目录下进入etc/hadoop目录 

        vi hadoop-env.sh 编辑该文件

将这里换成Java的路径 

2.配置core-site.xml文件

        vi core-site.xml

这是运行hadoop时临时文件存储路径

3.配置hdfs-site.xml

 <property>

        <name>fs.defaultFS</name>

        <value>hdfs://自己的ip地址:9000</value>

</property>(这里也可以配置在core-site.xml里面)

<property>

        <name>dfs.replication</name>

        <value>1</value>

</property>

 

 

4.配置yarn-env.sh

vi yarn-env.sh

加一行:export JAVA_HOME=自己的jdk路径

 

 5.配置yarn-site.xml

vi yarn-site.xml

 

6.配置mapred-env.sh

 

7.配置mapred-site.xml

将这个文件重命名

 

 

配置完成后格式化NameNode

 

成功

 

出现这个文件夹

启动hdfs

 

 

启动成功

在浏览器输入 

打开成功 若无法加载 可能是防火墙问题 关闭防火墙即可

 启动yarn

启动成功

浏览器输入 

可进入yarn页面

到此伪分布式环境搭建完成

Linux初学者,若有错误之处还请指出 

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值