Hadoop(2.5.1)伪分布式环境CentOS(6.5 64位)配置

最新推荐文章于 2018-04-20 12:09:04 发布

纪俊

最新推荐文章于 2018-04-20 12:09:04 发布

阅读量6.1k

点赞数 2

分类专栏：开发技术文章标签： hadoop 分布式大数据 centos 数据挖掘

本文链接：https://blog.csdn.net/blow_jj/article/details/39692019

版权

本文是作者基于CentOS 6.5 64位系统配置Hadoop 2.5.1伪分布式环境的实践心得，详细介绍了从SSH无密码验证配置、JDK安装、Hadoop安装到启动验证的全过程。适用于Hadoop新手入门。

摘要由CSDN通过智能技术生成

一晃六年没有写博客了，一直奋斗在技术第一线，但是时间太紧一直没空写，最近在搞Hadoop，感觉有这个必要把一些琐碎的心得分享，而且正好国庆假期使时间上有了可能。

首先感谢下面两篇文章给出的指导，本文是两者技术路线在CentOS 6.5 64位版本下对Hadoop 2.5.1伪分布式环境的一个实践。

http://www.cnblogs.com/xia520pi/archive/2012/05/16/2503949.html

http://xuyuanshuaaa.iteye.com/blog/1063303

至于为什么写这篇文章，主要是Hadoop 2.3之后从框架上做出了质变，所以配置与运行方式发生了很多改变。

概要与介绍上文都有介绍，这里不再赘述，直奔主题：

总体的流程如下：
1、实现ssh无密码验证配置
2、安装jdk，并配好环境变量
3、安装与配置Hadoop
4、格式化与启动
5、验证是否启动

下面开始：

一. SSH无密码验证配置
Hadoop 需要使用SSH 协议，namenode 使用SSH 协议启动 namenode 和datanode 进程，伪分布式模式数据节点和名称节点均是本身，必须配置 SSH localhost无密码验证。
以下用root用户登录仅为了方便起见。登录后，执行命令：ssh-keygen -t rsa

[root@master ~]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): & 按回车默认路径 &
Created directory '/root/.ssh'. &创建/root/.ssh目录&
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.

通过以上命令将在/root/.ssh/ 目录下生成id_rsa私钥和id_rsa.pub公钥。进入/root/.ssh目录在namenode节点下做如下配置：