大数据_04 【Hadoop】

最新推荐文章于 2024-05-11 17:40:27 发布

扭转乾坤=

最新推荐文章于 2024-05-11 17:40:27 发布

阅读量7.9w

点赞数 1

本文链接：https://blog.csdn.net/weixin_44925086/article/details/109030422

版权

大数据_04 【Hadoop】

01 Hadoop的介绍以及发展历史

1. Hadoop最早起源于lucene下的Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。

2. 2003年、2004年谷歌发表的三篇论文为该问题提供了可行的解决方案。
		分布式文件系统（GFS），可用于处理海量网页的存储
		分布式计算框架MAPREDUCE，可用于处理海量网页的索引计算问题。
		分布式的结构化数据存储系统Bigtable，用来处理海量结构化数据。

3. Doug Cutting基于这三篇论文完成了相应的开源实现HDFS和MAPREDUCE，并从Nutch中剥离成为独立项目HADOOP，到2008年1月，HADOOP成为Apache顶级项目(同年，cloudera公司成立)，迎来了它的快速发展期。
为什么叫Hadoop?  Logo为什么是黄色的大象？ 
	狭义上来说，Hadoop就是单独指代Hadoop这个软件（HDFS+MAPREDUCE）
	广义上来说，Hadoop指代大数据的一个生态圈（Hadoop生态圈），包括很多其他的软件。

02 Hadoop的历史版本介绍

0.x系列版本：Hadoop当中最早的一个开源版本，在此基础上演变而来的1.x以及2.x的版本

1.x版本系列：Hadoop版本当中的第二代开源版本，主要修复0.x版本的一些bug等

2.x版本系列：架构产生重大变化，引入了yarn平台等许多新特性

04 Hadoop三大公司发型版本介绍

1、免费开源版本apache：http://Hadoop.apache.org/
优点：拥有全世界的开源贡献者，代码更新迭代版本比较快，
缺点：版本的升级，版本的维护，版本的兼容性，版本的补丁都可能考虑不太周到，学习可以用，实际生产工作环境尽量不要使用
apache所有软件的下载地址（包括各种历史版本）：http://archive.apache.org/dist/

2、免费开源版本hortonWorks：https://hortonworks.com/
hortonworks主要是雅虎主导Hadoop开发的副总裁，带领二十几个核心成员成立Hortonworks，核心产品软件HDP（ambari），HDF免费开源，并且提供一整套的web管理界面，供我们可以通过web界面管理我们的集群状态，web管理界面软件HDF网址（http://ambari.apache.org/）

3、服务收费版本ClouderaManager: https://www.cloudera.com/
cloudera主要是美国一家大数据公司在apache开源Hadoop的版本上，通过自己公司内部的各种补丁，实现版本之间的稳定运行，大数据生态圈的各个版本的软件都提供了对应的版本，解决了版本的升级困难，版本兼容性等各种问题，生产环境推荐使用。

05 Hadoop的模块组成

1、HDFS：一个高可靠、高吞吐量的分布式文件系统。
2、MapReduce：一个分布式的离线并行计算框架。
3、YARN：作业调度与集群资源管理的框架。
4、Common：支持其他模块的工具模块

06 Hadoop集群安装部署

1、	服务器主机名和IP配置（三台）
2、	修改每个主机的/etc/hosts文件，添加IP和主机名的对应关系（三台）
3、	管理节点到从节点配置无密码登录
4、	配置jdk  1.8		（三台）
5、	关闭防火墙		（三台）
6、	关闭selinux		（三台）		vi   /etc/selinux/config
								SELINUX=enforcing        SELINUX=disabled
								重启系统


安装流程
1、	上传软件包到管理节点，在管理节点解压并配置
2、	将修改完的解压包，远程拷贝到所有的从节点
3、	启动软件

Hadoop安装部署
1、	软件包上传并解压	tar -zxvf hadoop-2.6.0-cdh5.14.0-with-centos6.9.tar.gz  -C ../servers/
2、	第二步查看hadoop支持的压缩方式以及本地库【openssl要为true】		./hadoop checknative

在这里插入图片描述

3	安装openssl				yum -y install openssl-devel
							./hadoop checknative

在这里插入图片描述

3、	修改配置文件
a)	core-site.xml	
	cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
	vim core-site.xml

<configuration>
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://node01:8020</value>
	</property>
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/tempDatas</value>
	</property>
	<!--  缓冲区大小，实际工作中根据服务器性能动态调整 -->
	<property>
		<name>io.file.buffer.size</name>
		<value>4096</value>
	</property>

	<!--  开启hdfs的垃圾桶机制，删除掉的数据可以从垃圾桶中回收，单位分钟 -->
	<property>
		<name>fs.trash.interval</name>
		<value>10080</value>
	</property>
</configuration>

b)	hdfs-site.xml
	cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
	vim hdfs-site.xml
	
<configuration>
	<!-- NameNode存储元数据信息的路径，实际工作中，一般先确定磁盘的挂载目录，然后多个目录用，进行分割   --> 
	<!--   集群动态上下线 
	<property>
		<name>dfs.hosts</name>
		<value>/export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/accept_host</value>
	</property>
	
	<property>
		<name>dfs.hosts.exclude</name>
		<value>/export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/deny_host</value>
	</property>
	 -->
	 
	 <property>
			<name>dfs.namenode.secondary.http-address</name>
			<value>node01:50090</value>
	</property>

	<property>
		<name>dfs.namenode.http-address</name>
		<value>node01:50070</value>
	</property>
	<property>
		<name>dfs.namenode.name.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/namenodeDatas</value>
	</property>
	<!--  定义dataNode数据存储的节点位置，实际工作中，一般先确定磁盘的挂载目录，然后多个目录用，进行分割  -->
	<property>
		<name>dfs.datanode.data.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/datanodeDatas</value>
	</property>
	
	<property>
		<name>dfs.namenode.edits.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/edits</value>
	</property>
	<property>
		<name>dfs.namenode.checkpoint.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/snn/name</value>
	</property>
	<property>
		<name>dfs.namenode.checkpoint.edits.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/snn/edits</value>
	</property>
	<property>
		<name>dfs.replication</name>
		<value>2</value>
	</property>
	<property>
		<name>dfs.permissions</name>
		<value>false</value>
	</property>
<property>
		<name>dfs.blocksize</name>
		<value>134217728</value>
	</property>
</configuration>

c)	Hadoop-env.sh  （不用改）

	cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
	vim hadoop-env.sh

export JAVA_HOME=/export/servers/jdk1.8.0_141

d)	mapred-site.xml			i.	cp  mapred-site.xml.template    mapred-site.xml
							ii.	修改
	cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
	vim mapred-site.xml

<configuration>
	<property>
<!--运行模式-->
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>

	<property>
	<!--JVM重用 -->
		<name>mapreduce.job.ubertask.enable</name>
		<value>true</value>
	</property>
	
	<property>
		<name>mapreduce.jobhistory.address</name>
		<value>node01:10020</value>
	</property>

	<property>
		<name>mapreduce.jobhistory.webapp.address</name>
		<value>node01:19888</value>
	</property>
</configuration>

e)	yarn-site.xml
	
	cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
	vim yarn-site.xml

<configuration>
	<property>
		<name>yarn.resourcemanager.hostname</name>
		<value>node01</value>
	</property>
	<property>
<!-- nodemanager 上的附属服务，只有配置成mapreduce_shuffle 才能运行-->
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
</configuration>


f)	slaves 

4、	创建文件夹
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/tempDatas
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/namenodeDatas
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/datanodeDatas 
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/edits
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/snn/name
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/snn/edits
5、安装包的分发
		scp -r hadoop-2.6.0-cdh5.14.0/ node02:$PWD
		scp -r hadoop-2.6.0-cdh5.14.0/ node03:$PWD

6、配置hadoop环境变量
a)	 创建文件/etc/profile.d/hadoop.sh 并编辑
		export  HADOOP_HOME=/export/servers/hadoop-2.6.0-cdh5.14.0
		export  PATH=$PATH:$HADOOP_HOME/bin
		
b)	source /etc/profile
	
	cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
	vim slaves
	
node01
node02
node03

7、	启动集群
a)	格式化集群		在第主节点执行  hadoop  namenode   -format

在这里插入图片描述

b)	启动
i.	每个组件独立启动
	1.	启动namenode   node01节点   ./hadoop-daemon.sh  start  namenode
	2.	启动namenode	node01、02、03节点  ./hadoop-daemon.sh  start  datanode

	3.	启动resourcemanager   node01节点  ./yarn-daemon.sh   start  resourcemanager
	4.	启动nodemanager  node01、02、03节点    ./yarn-daemon.sh  start  nodemanager

ii.	单独启动
	1.	单独启动HDFS  :  ./start-dfs.sh        关闭 ./stop-dfs.sh
	2.	单独启动Yarn   :  ./start-yarn.sh       关闭 ./stop-yarn.sh
		
iii.	一键启动所有		启动：  ./start-all.sh      			 关闭：./stop-all.sh

8、浏览器查看启动页面

	http://主节点ip:50070

在这里插入图片描述

	http://主节点ip:8088

在这里插入图片描述

9 Hadoop集群初体验

数据的上传
		创建文件夹：hadoop  fs  -mkdir   /BD19
		 查看文件夹内容：  hadoop  fs  -ls  /BD19
		上传数据：hadoop  fs  -put XXX.txt  /BD19

大数据计算	
		计算pi   3.141592653……
hadoop jar  /export/servers/hadoop-2.6.0-cdh5.14.0/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0-cdh5.14.0.jar  pi  10  100

在这里插入图片描述

扭转乾坤=

关注

1
点赞
踩
2

收藏

觉得还不错? 一键收藏
1
评论
大数据_04 【Hadoop】

大数据_04 【Hadoop】01 Hadoop的介绍以及发展历史02 Hadoop的历史版本介绍04 Hadoop三大公司发型版本介绍05 Hadoop的模块组成06 Hadoop集群安装部署01 Hadoop的介绍以及发展历史1. Hadoop最早起源于lucene下的Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。2. 2003年、2004年谷歌发表的三篇论文
复制链接

扫一扫