登上庐山

流年易逝,望而生畏

hadoop学习(一)配置单节点hadoop环境

想要搞大数据,那么hadoop是必不可少的知识,拖了很久,终于下定决心学习大数据相关的东西,那么今天就从hadoop开始。
我的环境:Linux CentOS6.5/x-shell5/jdk1.8/hadoop-2.7.2

第一步:(不要忘记装jdk,hadoop是java写的,所以必须要装jdk,否则不能运行)
我这里选择的是hadoop-2.7.2.tar.gz,这个是最大的一个包,里面应该是比较全的东西,第一个是源码,这里暂且不管它。

第二步:安装
使用pscp将下载的hadoop包上传至linux服务器,我这里是使用的局域网上传,模拟远程服务器,至于pscp是什么,度娘去找
我喜欢将软件安装在/usr/local/目录下,这里新建了一个目录programs

上传完成之后,运行命令tar -zxvf hadoop-2.7.2.tar.gz将hadoop安装包解压缩到当前目录会出现hadoop-2.7.2目录(上图蓝色部分左一)


第三步:配置hadoop
我这里电脑有限,就不配置集群了,按照官方文档来,先配置一个单节点hadoop,单节点的hadoop不影响MapReduce和HDFS(Hadoop Distributed File System)等的使用

切到hadoop-2.7.2目录执行vi etc/hadoop/hadoop-env.sh这里需要配置一下JAVA_HOME如果安装好jdk的童鞋请自觉配置JAVA_HOME否则就要在这里指定java的路径,我在安装jdk的时候已经配置过JAVA_HOME这里就不做配置了
上图上面蓝色框内写的很清楚,唯一必须的环境变量就是JAVA_HOME其他的都是可选的。如果你的jdk没配置JAVA_HOME这里直接把${JAVA_HOME}改成你的jdk路径就行了,比如我的/usr/local/programs/jdk1.8.0_91
配置完了之后直接esc然后英文半角冒号,输入w确认键保存,然后冒号q!确认键退出vim即可。

配置完成之后,在命令行运行bin目录下的hadoop命令,你会看到一些hadoop脚本的文档提示


至此,单节点hadoop配置完成!

接下来就是hadoop的三种集成方式了:
Local (Standalone) Mode(单机模式)
Pseudo-Distributed Mode(伪分布式模式)Fully-Distributed Mode(完全分布式模式)

时间有限,下次有机会继续介绍这三种模式。
















阅读更多
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/q979076061/article/details/51550114
上一篇一文看懂大数据的技术生态圈,Hadoop,hive,spark都有了
下一篇redis3 集群配置(一)
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭