Hadoop安装及基础搭建

这篇博客详细介绍了在CentOS7环境下进行Hadoop的安装和基础搭建过程,包括安装前的准备,如配置静态IP和主机名,以及如何进行免密登录。接着,重点讲述了伪分布式模式的搭建步骤,涉及配置hadoop-env.sh、core-site.xml、hdfs-site.xml等文件,并进行了文件系统的格式化和启动HDFS的操作。最后,通过访问特定URL验证了HDFS和YARN服务的正常运行。
摘要由CSDN通过智能技术生成

Hadoop安装及基础搭建

安装前的准备

  • 一个纯净版的centos7 虚拟机
  • 配置好静态ip
  • 主机名,主机映射

配置静态ip的方法

#这里如果使用的是V-BOX安装的那一般为enp0s3,如果是VM-ware那一般为ens33
vi /etc/sysconfig/network-scripts/ifcfg-ens33

具体的配置和修改可以去看使用V-BOX安装CentOS7并使用Mobaxterm远程连接

#配置主机名
#删除原有的localhost 
hadoop1
#配置主机映射
vi /etc/hosts
192.168.191.101 hadoop1

在/opt下创建文件夹,software,用来存放软件安装包

cd  /opt
mkdir software

进行免密登陆,这一步是必须的,完成这一步才能正常使用hadoop

ssh-keygen  -t rsa -P “”
#回车
#拷贝密钥
cat /root/.ssh/id_rsa.pub > /root/.ssh/authorized_keys

安装jdk

#解压,这里的jdk...是你的压缩包名,下面的jdk...是你解压缩出来的文件夹名
tar zxvf jdk-8u171-linux-x64.tar.gz -C /opt
#改个易读写的名字
mv /opt/jdk1.8.0_171 /opt/jdk1.8

安装Hadoop

  • Hadoop 的安装模式分为3种:单机(本地)模式,伪分布式,完全分布式(集群模式)
  • 本地模式安装
tar -zxvf hadoop-2.6.0-cdh5.14.2.tar.gz -C /opt/
#hadoop...是解压缩后的名字
mv /opt/hadoop...  /opt/hadoop
#配置环境变量
vi /etc/profile
#在文件最下方写入
#java的环境变量
export JAVA_HOME=/opt/jdk1.8
export JRE_HOME=/opt/jdk1.8/jre
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
#hadoop的环境变量
export HADOOP_HOME=/opt/hadoop
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.
  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值