大数据学习笔记(十五)-- hadoop伪分布式版部署

本文详细介绍了如何在单机环境中部署Hadoop的伪分布式版本,包括环境配置、JDK设置、SSH免密钥、Hadoop安装包配置、启动服务等步骤。在部署过程中,强调了Java环境、主机名同步、SSH公钥私钥的生成以及Hadoop配置文件的修改,以确保无密码远程登录和顺利启动服务。最后,展示了Hadoop的数据存储情况和如何查看存储信息。
摘要由CSDN通过智能技术生成

伪分布式也可以成为单机版,意思就是说 hadoop集群中的所有角色均在一台机器上配置。

hadoop是java编写的所以需要jvm去执行也就是需要jdk,当机器多了以后我们跑到每一台电脑上去进行配置非常麻烦,hadoop为我们准备了脚本,我们执行脚本去登录别的机器的账号,就可以完成相应的配置。脚本不会访问etc下的profile文件。所以我们要在脚本中也配置jdk的路径和jkd下bin目录的路径。至于ssh 就是远程登录时使用的传输协议。毕竟ssh有公钥和私钥,对于这种用户名和密码高度机密的安全性还是有保证的。

搭建步骤思路

一:操作系统环境

  - 依赖软件ssh、jdk

  - 环境的配置 

       · java_home

       · 免密钥

   - 集群时间同步

   - hosts,hostname

二:hadoop部署

   - /opt/hadoop

   - 配置文件修改

       · java_home

   - 角色在哪里启动

具体搭建步骤

jdk使用的是 jdk-7u67-linux-x64.rpm  

rpm -i jdk-7u67-linux-x64.rpm 
cd /usr/java/jdk1.7.0_67

在profile文件中配置环境变量 

vi /etc/profile   

最后两行加上如下内容

export JAVA_HOME=/usr/java/jdk1.7.0_67
export PATH=$PATH:$JAVA_HOME/bin

执行脚本,并使用jps命令查看java进程

. /etc/profile
jps

使用ssh 登录 localhost然后再退出,这步不做 root目录下没有 .ssh 文件,想要查看.ssh需要用 ll -a ,该文件是隐藏的

ssh loc
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值