关闭

hadoop学习(一)配置单节点hadoop环境

187人阅读 评论(0) 收藏 举报
分类:
想要搞大数据,那么hadoop是必不可少的知识,拖了很久,终于下定决心学习大数据相关的东西,那么今天就从hadoop开始。
我的环境:Linux CentOS6.5/x-shell5/jdk1.8/hadoop-2.7.2

第一步:(不要忘记装jdk,hadoop是java写的,所以必须要装jdk,否则不能运行)
我这里选择的是hadoop-2.7.2.tar.gz,这个是最大的一个包,里面应该是比较全的东西,第一个是源码,这里暂且不管它。

第二步:安装
使用pscp将下载的hadoop包上传至linux服务器,我这里是使用的局域网上传,模拟远程服务器,至于pscp是什么,度娘去找
我喜欢将软件安装在/usr/local/目录下,这里新建了一个目录programs

上传完成之后,运行命令tar -zxvf hadoop-2.7.2.tar.gz将hadoop安装包解压缩到当前目录会出现hadoop-2.7.2目录(上图蓝色部分左一)


第三步:配置hadoop
我这里电脑有限,就不配置集群了,按照官方文档来,先配置一个单节点hadoop,单节点的hadoop不影响MapReduce和HDFS(Hadoop Distributed File System)等的使用

切到hadoop-2.7.2目录执行vi etc/hadoop/hadoop-env.sh这里需要配置一下JAVA_HOME如果安装好jdk的童鞋请自觉配置JAVA_HOME否则就要在这里指定java的路径,我在安装jdk的时候已经配置过JAVA_HOME这里就不做配置了
上图上面蓝色框内写的很清楚,唯一必须的环境变量就是JAVA_HOME其他的都是可选的。如果你的jdk没配置JAVA_HOME这里直接把${JAVA_HOME}改成你的jdk路径就行了,比如我的/usr/local/programs/jdk1.8.0_91
配置完了之后直接esc然后英文半角冒号,输入w确认键保存,然后冒号q!确认键退出vim即可。

配置完成之后,在命令行运行bin目录下的hadoop命令,你会看到一些hadoop脚本的文档提示


至此,单节点hadoop配置完成!

接下来就是hadoop的三种集成方式了:
  • Local (Standalone) Mode(单机模式)
  • Pseudo-Distributed Mode(伪分布式模式)
  • Fully-Distributed Mode(完全分布式模式)

    时间有限,下次有机会继续介绍这三种模式。
















  • 0
    0

    查看评论
    * 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
      个人资料
      • 访问:12699次
      • 积分:277
      • 等级:
      • 排名:千里之外
      • 原创:13篇
      • 转载:7篇
      • 译文:1篇
      • 评论:1条
      文章分类
      最新评论