Hadoop环境搭建之初体验

本文介绍了如何在单机上搭建Hadoop伪分布式环境,包括SSH的安装与配置,公钥认证,Hadoop配置文件的核心设置以及启动和验证过程。
摘要由CSDN通过智能技术生成

0、版本

搭建Hadpp的版本为1.2.1 下载地址为:http://apache.fayea.com/apache-mirror/hadoop/common/hadoop-1.2.1/


1、登录验证

(1)、确定系统是否安装了ssh和ssh-keygey
可以通过which命令来确认
which ssh
which ssh-keygen
如果出现

/usr/bin/which: no ssh in (/usr/.....)则表示系统里面没有安装SSH服务,可以通过www.openssh.com下载安装

(2)、发布公钥证书

ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa

在~/.ssh/ 目录会生成id_rsa和和id_rsa.pub文件,如果使用全分布式环境,那么需要将id_rsa.pub文件复制到各台分布式机器中,如果是单机搭建伪分布式只需将id_rsa.pub文件copy到~/.ssh/目录的authorized_keys文件即可,使用如下命令都可实现该目的:

copy ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys 或

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

(3)测试登陆验证

ssh localhost或者ssh 127.0.0.1不再提示输入密码,直接登陆,那么SSH登陆设置成功。


2、配置Hadoop

(1)在HADOOP_HOME/conf目录下,打开hadoop-env.sh,设置系统的Java环境,
export JAVA_HOME=/Users/binliu/java
  (2) 如果使用的是Mac OS X系统,那么在启动hdsf的NameNode和secondaryNameNode时,会报出Unable to load realm info from SCDynamicStore 的错误提示,解决该问题的办法是,在hadoop-env.sh文件里面增加一行 export HADOOP_OPTS="-Djava.security.krb5.realm=OX.AC.UK -Djava.security.krb5.kdc=kdc0.ox.ac.uk:kdc1.ox.ac.uk" 
(3)配置core-site.xml、mapred-site.xml文件

conf/core-site.xml文件

[xhtml]  view plain copy
  1. <configuration>  
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值