Hadoop学习笔记_2：环境搭建（JDK+Hadoop）

环境搭建

• 虚拟机克隆、配置静态IP（可参照以下列举的博文作为参考配置）

  • CentOS 7 最小化安装后的注意事项及一些必备组件的安装

  • CentOS7 配置静态IP-1

  • CentOS7 配置静态IP-2

  • VMware如何克隆已安装的虚拟机VMware克隆虚拟机

  • XShell上传文件到Linux服务器上-安装lrzsz

• 在opt，目录下新建module、software文件夹。分别存放解压后文件及压缩文件包。
  
  

• JDK安装配置

  ## 解压jdk压缩包
  tar -zxvf jdk-8u144-linux-x64.tar.gz -C /opt/module/
  ## 进入/etc/profile 配置环境变量
  vim /etc/profile
  ## 文件末尾写入配置
  export JAVA_HOME=/opt/module/jdk1.8.0_144
  export PATH=$PATH:$JAVA_HOME/bin
  ## 重新加载Profile文件
  source /etc/profile
  ## 查看jdk安装情况
  $ java -version
  java version "1.8.0_144"
  Java(TM) SE Runtime Environment (build 1.8.0_144-b01)
  Java HotSpot(TM) 64-Bit Server VM (build 25.144-b01, mixed mode)
  

• Hadoop安装配置

  ## 解压hadoop压缩包
  tar -zxvf hadoop-2.7.2.tar.gz -C /opt/module/
  ## 进入/etc/profile 配置环境变量
  vim /etc/profile
  ## 文件末尾写入配置
  export HADOOP_HOME=/opt/module/hadoop-2.7.2
  export PATH=$PATH:$HADOOP_HOME/bin
  export PATH=$PATH:$HADOOP_HOME/sbin
  ## 重新加载profile文件
  source /etc/profile
  ## 查看Hadoop安装情况
  $ hadoop
  Usage: hadoop [--config confdir] [COMMAND | CLASSNAME]
    CLASSNAME            run the class named CLASSNAME
   or
    where COMMAND is one of:
    fs                   run a generic filesystem user client
    version              print the version
    jar <jar>            run a jar file
                         note: please use "yarn jar" to launch
                               YARN applications, not this command.
    checknative [-a|-h]  check native hadoop and compression libraries availability
    distcp <srcurl> <desturl> copy file or directories recursively
    archive -archiveName NAME -p <parent path> <src>* <dest> create a hadoop archive
    classpath            prints the class path needed to get the
    credential           interact with credential providers
                         Hadoop jar and the required libraries
    daemonlog            get/set the log level for each daemon
    trace                view and modify Hadoop tracing settings
  
  Most commands print help when invoked w/o parameters.
  

  在/etc/profile中添加环境变量后，是使用source /etc/profile编译后只能在当前终端生效,重新开启一个终端后，该环境变量失效，重启系统后才可解决。

  最后配置完成的/etc/profile文件截图为：
  
  重要目录：

  [root@localhost hadoop-2.7.2]# ll
  总用量 28
  drwxr-xr-x 2 root root   194 5月  22 2017 bin
  drwxr-xr-x 3 root root    20 5月  22 2017 etc
  drwxr-xr-x 2 root root   106 5月  22 2017 include
  drwxr-xr-x 3 root root    20 5月  22 2017 lib
  drwxr-xr-x 2 root root   239 5月  22 2017 libexec
  -rw-r--r-- 1 root root 15429 5月  22 2017 LICENSE.txt
  -rw-r--r-- 1 root root   101 5月  22 2017 NOTICE.txt
  -rw-r--r-- 1 root root  1366 5月  22 2017 README.txt
  drwxr-xr-x 2 root root  4096 5月  22 2017 sbin
  drwxr-xr-x 4 root root    31 5月  22 2017 share
  

  • bin 目录：存放对 Hadoop 相关服务（ HDFS,YARN）进行操作的脚本
  • etc 目录： Hadoop 的配置文件目录，存放 Hadoop 的配置文件
  • lib 目录：存放 Hadoop 的本地库（对数据进行压缩解压缩功能）
  • sbin 目录：存放启动或停止 Hadoop 相关服务的脚本
  • share 目录：存放 Hadoop 的依赖 jar 包、 文档、 和官方案例