Hadoop（一）Hadoop的介绍和安装前准备

一.什么是Hadoop？

1. Hadoop是Apache旗下的一套开源软件平台
2. Hadoop提供的功能：利用服务器集群，根据用户的自定义业务逻辑，对海量数据进行分布式处理

3. Hadoop的核心组件有：

   • HDFS（分布式文件系统）
   • Yarn（运算资源调度系统）
   • MapReduce（分布式运算编程框架）
4. 广义上来说，Hadoop通常是指一个更广泛的概念——HADOOP生态圈

二.Hadoop的产生背景

1. Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。

2. 2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。

   • 分布式文件系统（GFS），可用于处理海量网页的存储
   • 分布式计算框架MAPREDUCE，可用于处理海量网页的索引计算问题。
3. Nutch的开发人员完成了相应的开源实现HDFS和MAPREDUCE，并从Nutch中剥离成为独立项目Hadoop，到2008年1月，Hadoop成为Apache顶级项目，迎来了它的快速发展期。

三.推荐系统——Hadoop的一个典型应用案例

Hadoop可以用来做什么？
这里介绍一个数据分析系统（推荐系统）的处理流程，用于初步理解Hadoop等框架在其中的应用，暂时不用关注过多细节问题。

四.安装Hadoop之前的准备

1.创建Hadoop用户

先以root用户登录，然后使用下面命令创建一个名为hadoop的用户

useradd -m hadoop -s /bin/bash

这条命令创建了可以登陆的 hadoop 用户，并使用 /bin/bash 作为shell。
接着使用如下命令修改密码，

passwd hadoop

按提示输入两次密码，可简单的设为 “hadoop”（密码随意指定，若提示“无效的密码，过于简单”则再次输入确认就行）。

可为 hadoop 用户增加管理员权限，方便部署，避免一些比较棘手的权限问题（生产环境不建议此做法），执行：

visudo

如下图，找到 root ALL=(ALL) ALL 这行（应该在第98行），在这行下面增加一行内容：hadoop ALL=(ALL) ALL （当中的间隔为tab），如下图所示：

最后，使用新创建的hadoop用户远程登录，然后查看现在是哪个用户执行：

2.配置集群机器的免密登录

参考 Linux服务器的SSH连接使用，这篇文章介绍了服务器间的免密登录。