Hadoop系列之环境搭建

前言:

       Hadoop作为目前主流的大数据框架,提供了分布式存储以及计算等一系列解决方案,Hadoop框架主要分Common(公共的工具等)、HDFS(分布式存储解决方案)、MapReduce(大数据计算和统计等)、Yarn(系统调度框架)。本文将记录搭建Hadoop环境的过程。环境:VMWare9.0.0+CentOs6.5+JDK1.8+Hadoop2.7.7,根据操作系统去选择环境是32位还是64位。Hadoop目前主流有三个版本,本文基于Apache版本。

一、配置网关和静态IP

    1、 在虚拟机安装完成之后,我们要给虚拟机配置网卡和静态IP,

         1.1、我们很多命令必须使用root用户来操作,来回切换用户的话比较繁琐,所以,首先将当前用户添加到sudoers文件。该操作必须是root账号:

此时的文件状态是只读,要修改文件的权限才能修改:chmod 777 /etc/sudoers

在root配置后面将框中的内容添加到后面。保存!

这时候如果使用sudo命令的时候会报错

sudo: /etc/sudoers is world writable
sudo: no valid sudoers sources found, quitting
sudo: unable to initialize policy plugin

这是因为我们改了文件的权限,Linux系统做的限制,只要将文件的权限改回来就好了

pkexec chmod 0440 /etc/sudoers

此后,我们可以使用sudo 命令了。

1.2、分配静态IP

编辑 sudo vim /etc/sysconfig/network-scripts/ifcfg-eth0

配置如下:我们使用的eth0网卡,bootproto改成static ,表示使用静态IP,然后配置IPaddr,netmask:子网掩码,gateway:网关

网络我们使用的是NAT模式,也可以通过图形界面去配置IP

注意:在配置网关的时候,我们要查看NAT模式的网关,

根据此网关配置。此外还要配置DNS域名解析。

1.3、修改主机名称

修改主机名称之后,还要修改hosts文件,完成域名映射。

至此,网络配置基本完成了。

2、软件安装

2.1、通过xshell将文件传递给虚拟机

在home目录下,加压文件到home/app文件夹下

加压完成之后,查看

配置PATH 

在配置文件的末尾添加java_home

并添加到path后面,保存退出!

使修改生效

配置完成之后,可以在任意目录使用Java 命令了。

3、安装Hadoop

3.1、上传文件同jdk一样,并将文件同样解压到app 文件夹之下;

3.2、解压完成之后配置hadopp_home ,配置文件通用是/etc/profile,配置HADOOP_HOME为hadoop的安装目录,

并添加到PATH下。

总结:本文记录了大数据基本环境的搭建,配置了静态IP和主机,安装了jdk环境和hadoop框架,后面将记录Hadoop伪分布式环境的搭建。

 

 

 

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值