大数据开发之Hadoop学习7--HDFS客户端操作

HDFS客户端操作（开发重点）

目录

HDFS客户端操作（开发重点）

3.1 HDFS客户端环境准备

3.2 HDFS的API操作

3.2.1 HDFS文件上传（测试参数优先级）

3.2.2 HDFS文件下载

3.2.3 HDFS文件夹删除

3.2.4 HDFS文件名更改

3.2.5 HDFS文件详情查看

3.2.6 HDFS文件和文件夹判断

---

3.1 HDFS客户端环境准备

1）下载回来的Hadoop-3.1.0.tar.gz解压，然后找网盘的hadooponwindows-master.zip，使用hadooponwindows-master的bin和etc替换Hadoop-3.1.0的bin和etc

链接如下

https://pan.baidu.com/s/1vxtBxJyu7HNmOhsdjLZkYw提取码：y9a4

选择Hadoop-3.1.0，拷贝到其他地方(比如d:\)。

2）配置HADOOP_HOME环境变量。

3）配置Path环境变量。然后重启电脑

4）创建一个Maven工程HdfsClientDemo，并导入相应的依赖坐标+日志添加

<dependencies>

    <dependency>

        <groupId>junit</groupId>

        <artifactId>junit</artifactId>

        <version>4.12</version>

    </dependency>

    <dependency>

        <groupId>org.apache.logging.log4j</groupId>

        <artifactId>log4j-slf4j-impl</artifactId>

        <version>2.12.0</version>

    </dependency>

    <dependency>

        <groupId>org.apache.hadoop</groupId>

        <artifactId>hadoop-client</artifactId>

        <version>3.1.3</version>

    </dependency>

</dependencies>

在项目的src/main/resources目录下，新建一个文件，命名为“log4j2.xml”，在文件中填入

<?xml version="1.0" encoding="UTF-8"?>

<Configuration status="error" strict="true" name="XMLConfig">

    <Appenders>

        <!-- 类型名为Console，名称为必须属性 -->

        <Appender type="Console" name="STDOUT">

            <!-- 布局为PatternLayout的方式，

            输出样式为[INFO] [2018-01-22 17:34:01][org.test.Console]I'm here -->

            <Layout type="PatternLayout"

                    pattern="[%p] [%d{yyyy-MM-dd HH:mm:ss}][%c{10}]%m%n" />

        </Appender>

 

    </Appenders>

 

    <Loggers>

        <!-- 可加性为false -->

        <Logger name="test" level="info" additivity="false">

            <AppenderRef ref="STDOUT" />

        </Logger>

 

        <!-- root loggerConfig设置 -->

        <Root level="info">

            <AppenderRef ref="STDOUT" />

        </Root>

    </Loggers>

</Configuration>

5）创建包名：com.atguigu.hdfs

6）创建HdfsClient类

public class HdfsClient{  

@Test

public void testMkdirs() throws IOException, InterruptedException, URISyntaxException{

       

        // 1 获取文件系统

        Configuration configuration = new Configuration();

        // 配置在集群上运行

        // configuration.set("fs.defaultFS", "hdfs://hadoop102:8020");

        // FileSystem fs = FileSystem.get(configuration);

 

        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

       

        // 2 创建目录

        fs.mkdirs(new Path("/1108/daxian/banzhang"));

       

        // 3 关闭资源

        fs.close();

    }

}

7）执行程序

运行时需要配置用户名称

客户端去操作HDFS时，是有一个用户身份的。默认情况下，HDFS客户端API会从JVM中获取一个参数来作为自己的用户身份：-DHADOOP_USER_NAME=atguigu，atguigu为用户名称。

3.2 HDFS的API操作

3.2.1 HDFS文件上传（测试参数优先级）

1）编写源代码

@Test

public void testCopyFromLocalFile() throws IOException, InterruptedException, URISyntaxException {

 

        // 1 获取文件系统

        Configuration configuration = new Configuration();

        configuration.set("dfs.replication", "2");

        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

 

        // 2 上传文件

        fs.copyFromLocalFile(new Path("e:/banzhang.txt"), new Path("/banzhang.txt"));

 

        // 3 关闭资源

        fs.close();

 

        System.out.println("over");

2）将hdfs-site.xml拷贝到项目的根目录下

<?xml version="1.0" encoding="UTF-8"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

 

<configuration>

    <property>

        <name>dfs.replication</name>

         <value>1</value>

    </property>

</configuration>

3）参数优先级

参数优先级排序：（1）客户端代码中设置的值 >（2）ClassPath下的用户自定义配置文件 >（3）然后是服务器的默认配置

3.2.2 HDFS文件下载

@Test

public void testCopyToLocalFile() throws IOException, InterruptedException, URISyntaxException{

 

        // 1 获取文件系统

        Configuration configuration = new Configuration();

        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

       

        // 2 执行下载操作

        // boolean delSrc 指是否将原文件删除

        // Path src 指要下载的文件路径

        // Path dst 指将文件下载到的路径

        // boolean useRawLocalFileSystem 是否开启文件校验

        fs.copyToLocalFile(false, new Path("/banzhang.txt"), new Path("e:/banhua.txt"), true);

       

        // 3 关闭资源

        fs.close();

}

3.2.3 HDFS文件夹删除

@Test

public void testDelete() throws IOException, InterruptedException, URISyntaxException{

 

    // 1 获取文件系统

    Configuration configuration = new Configuration();

   FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

       

    // 2 执行删除

    fs.delete(new Path("/0508/"), true);

       

    // 3 关闭资源

    fs.close();

}

3.2.4 HDFS文件名更改

@Test

public void testRename() throws IOException, InterruptedException, URISyntaxException{

 

    // 1 获取文件系统

    Configuration configuration = new Configuration();

   FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

       

    // 2 修改文件名称

    fs.rename(new Path("/banzhang.txt"), new Path("/banhua.txt"));

       

    // 3 关闭资源

    fs.close();

}

3.2.5 HDFS文件详情查看

查看文件名称、权限、长度、块信息

@Test

public void testListFiles() throws IOException, InterruptedException, URISyntaxException{

 

// 1获取文件系统

Configuration configuration = new Configuration();

FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

    

// 2 获取文件详情

RemoteIterator<LocatedFileStatus> listFiles = fs.listFiles(new Path("/"), true);

    

while(listFiles.hasNext()){

     LocatedFileStatus status = listFiles.next();

        

     // 输出详情

     // 文件名称

     System.out.println(status.getPath().getName());

     // 长度

     System.out.println(status.getLen());

     // 权限

     System.out.println(status.getPermission());

     // 分组

     System.out.println(status.getGroup());

        

     // 获取存储的块信息

     BlockLocation[] blockLocations = status.getBlockLocations();

        

    for (BlockLocation blockLocation : blockLocations) {

           

         // 获取块存储的主机节点

         String[] hosts = blockLocation.getHosts();

           

         for (String host : hosts) {

            System.out.println(host);

         }

     }

        

     System.out.println("-----------班长的分割线----------");

}

 

// 3 关闭资源

fs.close();

}

3.2.6 HDFS文件和文件夹判断

@Test

public void testListStatus() throws IOException, InterruptedException, URISyntaxException{

    

// 1 获取文件配置信息

Configuration configuration = new Configuration();

FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

    

// 2 判断是文件还是文件夹

FileStatus[] listStatus = fs.listStatus(new Path("/"));

    

for (FileStatus fileStatus : listStatus) {

    

     // 如果是文件

     if (fileStatus.isFile()) {

            System.out.println("f:"+fileStatus.getPath().getName());

         }else {

            System.out.println("d:"+fileStatus.getPath().getName());

         }

     }

    

// 3 关闭资源

fs.close();

}