Ubuntu搭建hadoop集群(分布式)

本文详述了如何在Ubuntu系统中搭建Hadoop分布式集群,包括设置主机名和hosts文件,配置SSH无密码登录,安装JDK并配置环境变量,安装Hadoop,以及启动和验证Hadoop集群的过程。
摘要由CSDN通过智能技术生成
一:

准备条件:两台ubuntu虚拟机,两台虚拟机的ip处于同一网段

 

此过程搭建都是在root用户下搭建的,避免遇到新手最怕和最常遇到权限不足的问题


二:基本环境变量

1:增加root用户

#:sudo passwd 创建root用户,然后输入root密码

2: 修改主机名

注意下文中的 vivim nano 都是文本编辑器,他们的功能相同,但是具体操作不同

 

#:Master

#:vim /etc/hostname进入hostname文件中,将原名字修改为master,注意重启生效

 

删除 127.0.1.1  xxxx  

#:vim /etc/hosts 进入hosts文件中,将slaver节点和master节点相互关联,具体操作如下

   Slaver节点的 ip slaver           例如:192.168.1.101 master

   Master节点的ip master          例如:192.168.1.102 slaver

 

 

   将它们放到文件的最后一行

 

 

#:slaver

 

#:vim /etc/hostname进入hostname文件中,将原名字修改为slaver

 

#:vim /etc/hosts 进入hosts文件中,将原文件中 127.0.1.1    xxxxxx

   改为 127.0.1.1       slaver

 

#:vim /etc/hosts 进入hosts文件中,将slaver节点和master节点相互关联,具体操作如下

   Slaver节点的 ip slaver           例如:192.168.1.101 master

   Master节点的ip master          例如:192.168.1.102 slaver


将它们放到文件的最后一行


能够ping通,说明配置成功


三:配置ssh

1:

#:Master & slaver

 

#ssh-keygen(或 ssh-keygen–t rsa) 一路回车生成秘钥


#:这个命令生成一个密钥对:id_rsa(私钥文件)和 id_rsa.pub(公钥文件),默认被保存 在/root/.ssh/目录下。





#:在 HadoopMaster 节点的/root/.ssh/目录下创建 authorized_keys 文件,将该节点生成的 id_rsa.pub 的内容拷贝到 authorized_keys 文件中。


HadoopSlaver 节点 将HadoopMaster 节点/root/.ssh/authorized_keys 文件分别拷贝到 slaver1 的 /root/.ssh 目录下:

slaver1:

# scp master:/root/.ssh/authorized_keys/root/.ssh/ 


将slaver节点的 id_rsa.pub拷贝到authorized_keys


将slaver节点的authorized_keys拷贝一份 名字为a


  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值