第二课 大数据技术之Hadoop3.x的HDFS

第二课 大数据技术之Hadoop3.x的HDFS

第一节 HDFS概述

1.1 HDFS产出背景及定义

1. HDFS产生背景
   随着数据量越来越大，在一个操作系统存不下所有的数据，那么就分配到更多的操作系统管理的磁盘中，但是不方便管理和维护，迫切需要一种系统来管理多台机器上的文件，这就是分布式文件管理系统。HDFS只是分布式文件管理系统中的一种。
2. HDFS定义。HDFS（Hadoop Distributed File System），它是一个文件系统，用于存储文件，通过目录树来定位文件；其次，它是分布式的，由很多服务器联合起来实现其功能，集群中的服务器有各自的角色。
3. HDFS的使用场景：适合一次写入，多次读出的场景。一个文件经过创建、写入和关闭之后就不需要改变。

1.2 HDFS优缺点

1. 优点一：高容错性
   • 数据自动保存多个副本。它通过增加副本的形式，提高容错性。
   • 某一个副本丢失以后，它可以自动恢复。
2. 优点二：适合处理大数据
   • 数据规模:能够处理数据规模达到GB、TB、甚至PB级别的数据;
   • 文件规模:能够处理百万规模以上的文件数量，数量相当之大。
3. 优点三： 可构建在廉价机器上，通过多副本机制，提高可靠性。
4. 缺点一：不适合低延时数据访问，比如毫秒级的存储数据，是做不到的。
5. 缺点二：无法高效的对大量小文件进行存储。
   • 存储大量小文件的话，它会占用NameNode大量的内存来存储文件目录和块信息。这样是不可取的，因为NameNode的内存总是有限的;
   • 小文件存储的寻址时间会超过读取时间，它违反了HDFS的设计目标。
6. 不支持并发写入、文件随机修改。
   • 一个文件只能有一个写，不允许多个线程同时写;
   • 仅支持数据append(追加)，不支持文件的随机修改。

1.3 HDFS组成架构

1.4 HDFS文件块大小（面试重点）

1. HDFS中的文件在物理上是分块存储(Block )，**块的大小可以通过配置参数(dfs.blocksize)**来规定，默认大小在Hadoop2.x/3.x版本中是128M，1.x版本中是64M。
   
2. 为什么块的大小不能设置太小，也不能设置太大?
   • HDFS的块设置太小，会增加寻址时间，程序一直在找块的开始位置;
   • 如果块设置的太大，从磁盘传输数据的时间会明显大于定位这个块开始位置所需的时间。导致程序在处理这块数据时，会非常慢。
   • HDFS块的大小设置主要取决于磁盘传输速率。一般磁盘设置成128M即可，固态硬盘设置为256比较好的。

第二节 HDFS的操作

2.1 基本语法

1. hadoop fs 具体命令 或者 hdfs dfs 具体命令 两个是完全相同的。
2. 命令大全

bin/hadoop fs
bin/hdfs fs

3. 常用命令实操, 准备工作

# 启动Hadoop集群（方便后续的测试）
sbin/start-dfs.sh
sbin/start-yarn.sh
# -help：输出这个命令参数
hadoop fs -help rm
# 创建/sanguo文件夹
hadoop fs -mkdir /sanguo

#  上传 -moveFromLocal：从本地剪切粘贴到HDFS
vim shuguo.txt
# 输入：shuguo
hadoop fs  -moveFromLocal  ./shuguo.txt  /sanguo
# -copyFromLocal：从本地文件系统中拷贝文件到HDFS路径去
vim weiguo.txt # 输入：weiguo
hadoop fs -copyFromLocal weiguo.txt /sanguo
# -put：等同于copyFromLocal，生产环境更习惯用put
vim wuguo.txt # 输入：wuguo
hadoop fs -put ./wuguo.txt /sanguo
# -appendToFile：追加一个文件到已经存在的文件末尾
vim liubei.txt # 输入：liubei
hadoop fs -appendToFile liubei.txt /sanguo/shuguo.txt

# 下载
# -copyToLocal：从HDFS拷贝到本地
hadoop fs -copyToLocal /sanguo/shuguo.txt ./
# -get：等同于copyToLocal，生产环境更习惯用get
hadoop fs -get /sanguo/shuguo.txt ./shuguo2.txt

# HDFS直接操作
# -ls: 显示目录信息
hadoop fs -ls /sanguo
# -cat：显示文件内容
hadoop fs -cat /sanguo/shuguo.txt
# -chgrp、-chmod、-chown：Linux文件系统中的用法一样，修改文件所属权限
hadoop fs  -chmod 666  /sanguo/shuguo.txt
hadoop fs  -chown  atguigu:atguigu   /sanguo/shuguo.txt
# -mkdir：创建路径
hadoop fs -mkdir /jinguo
# -cp：从HDFS的一个路径拷贝到HDFS的另一个路径
hadoop fs -cp /sanguo/shuguo.txt /jinguo
# -mv：在HDFS目录中移动文件
hadoop fs -mv /sanguo/wuguo.txt /jinguo
hadoop fs -mv /sanguo/weiguo.txt /jinguo
# -tail：显示一个文件的末尾1kb的数据
hadoop fs -tail /jinguo/shuguo.txt
# -rm：删除文件或文件夹
hadoop fs -rm /sanguo/shuguo.txt
# -rm -r：递归删除目录及目录里面内容
hadoop fs -rm -r /sanguo
# -du统计文件夹的大小信息
hadoop fs -du -s -h /jinguo

# hadoop fs -du  -h /jinguo
14  42  /jinguo/shuguo.txt
7   21   /jinguo/weiguo.txt
6   18   /jinguo/wuguo.tx
# 说明：27表示文件大小；81表示27*3个副本；/jinguo表示查看的目录
# -setrep：设置HDFS中文件的副本数量
hadoop fs -setrep 10 /jinguo/shuguo.txt
# 这里设置的副本数只是记录在NameNode的元数据中，是否真的会有这么多副本，还得看DataNode的数量。因为目前只有3台设备，最多也就3个副本，只有节点数的增加到10台时，副本数才能达到10。

2.2 HDFS的API操作配置

1. 复制hadoop-3.1.0到非中文路径（比如d:\）,配置HADOOP_HOME环境变量
2. 配置Path环境变量。弄到hadoop-3.1.0的bin目录下
3. 创建Maven工程，在IDEA中创建一个Maven工程HdfsClient，并导入相应的依赖坐标+日志添加

<dependencies>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-client</artifactId>
        <version>3.1.3</version>
    </dependency>
    <dependency>
        <groupId>junit</groupId>
        <artifactId>junit</artifactId>
        <version>4.12</version>
    </dependency>
    <dependency>
        <groupId>org.slf4j</groupId>
        <artifactId>slf4j-log4j12</artifactId>
        <version>1.7.30</version>
    </dependency>
</dependencies>

4. 在项目的src/main/resources目录下，新建一个文件，命名为“log4j.properties”，在文件中填入

log4j.rootLogger=INFO, stdout  
log4j.appender.stdout=org.apache.log4j.ConsoleAppender  
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout  
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n  
log4j.appender.logfile=org.apache.log4j.FileAppender  
log4j.appender.logfile.File=target/spring.log  
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout  
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n

5. 创建包名：com.atguigu.hdfs
6. 创建HdfsClient类

package com.atguigu.hdfs;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.junit.Test;

import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;

public class HdfsClient {
   

    @Test
    public void testMkdirs() throws IOException, URISyntaxException, InterruptedException {
   

        // 1 获取文件系统