(二) 配置开发环境 - Hadoop安装与伪分布式集群搭建

本文详细介绍了Hadoop的安装与伪分布式集群搭建过程,包括JDK安装、Hadoop解压配置、SSH免密登录设置、配置Hadoop环境、创建必要文件夹、添加环境变量以及集群的启动和验证。通过这些步骤,读者可以成功搭建并运行Hadoop伪分布式集群。
摘要由CSDN通过智能技术生成

**

Hadoop安装与伪分布式集群搭建

一. 安装JDK
https://blog.csdn.net/weixin_45873289/article/details/104945583
注:这链接里面还有jdk和hadoop安装包
二. 安装Hadoop
在这里插入图片描述
输入tar -zxvf hadoop-3.1.0.tar.gz 解压hadoop安装包(这里需要注意安装包的名称是否正确)*
在这里插入图片描述
解压成功
三. 配置Hadoop环境*
设置SSH免密登录
在之后操作集群的时候我们需要经常登录主机和从机,所以设置SSH免密登录时有必要的。
输入如下代码:

 ssh-keygen -t rsa -P ''

生成无密码密钥对,询问保存路径直接输入回车,生成密钥对:id_rsa和id_rsa.pub,默认存储在~/.ssh目录下。

接下来:把id_rsa.pub追加到授权的key里面去。

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

然后修改权限:

chmod 600 ~/.ssh/authorized_keys

接着需要启用RSA认证,启动公钥私钥配对认证方式:

vim /etc/ssh/sshd_config 如果提示权限不足在命令前加上sudo;

	1.修改ssh配置:
RSAAuthentication yes # 启用 RSA 认证
PubkeyAuthentication yes # 启用公钥私钥配对认证方式
AuthorizedKeysFile %h/.ssh/authorized_keys # 公钥文件路径

重启 SSH

			service ssh restart

好了准备工作已经做完了,我们要开始修改 Hadoop 的配置文件了,总共需要修改 6 个文件。分别是:

  • hadoop-env.sh;

  • yarn-env.sh ;

  • core-site.xml;

  • hdfs-site.xml;

  • mapred-site.xml;

  • yarn-site.xml。

  1. hadoop-env.sh 配置:
    在这里插入图片描述
    编辑 hadoop-env.sh在文件中插入如下代码:
**# The java implementation to use.**    
export JAVA_HOME=/java/jdk1
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值