3. HDFS客户端操作

最新推荐文章于 2024-04-04 15:32:00 发布
最新推荐文章于 2024-04-04 15:32:00 发布
阅读量250 收藏
点赞数
分类专栏： # HDFS 文章标签： hadoop hdfs
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45267102/article/details/107149999
版权

文章目录

HDFS客户端操作

  1. 下面是win10系统下编译后的hadoop-2.7.2的jar包。
    1. 链接：https://pan.baidu.com/s/1O2GVUevAGzUX1-IPQZwRqQ
    2. 提取码：9mx7
  2. 下载后将其拷贝到非中文路径中，比如说：E:\hadoop\hadoop-2.7.2。
1. 配置HADOOP_HOME环境变量

在这里插入图片描述

2. 创建一个Maven工程HdfsClient
2.1 添加依赖

pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.aiguigu</groupId>
    <artifactId>HdfsClient</artifactId>
    <version>1.0-SNAPSHOT</version>
    <dependencies>

        <dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
            <version>4.13</version>
        </dependency>
        <dependency>
            <groupId>org.apache.logging.log4j</groupId>
            <artifactId>log4j-core</artifactId>
            <version>2.8.2</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-common</artifactId>
            <version>2.7.2</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-client</artifactId>
            <version>2.7.2</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-hdfs</artifactId>
            <version>2.7.2</version>
        </dependency>
        <dependency>
            <groupId>jdk.tools</groupId>
            <artifactId>jdk.tools</artifactId>
            <version>1.8</version>
            <scope>system</scope>
            <systemPath>${JAVA_HOME}\lib\tools.jar</systemPath>
        </dependency>
    </dependencies>
    
</project>
2.2 添加日志log4j

需要在项目的src/main/resources目录下，新建一个文件，命名为log4j.properties，在文件中填入

log4j.rootLogger=INFO, stdout
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n
log4j.appender.logfile=org.apache.log4j.FileAppender
log4j.appender.logfile.File=target/spring.log
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n
3. 创建HdfsClient类

注意引包不要引错了！

  1. 获取文件系统
  2. 执行操作
  3. 关闭资源
package com.atguigu.hdfs;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.*;
import org.apache.hadoop.io.IOUtils;
import org.junit.Test;
// ...

/**
 * @Date 2020/6/27 14:26
 * @Version 10.21
 * @Author DuanChaojie
 */
public class HdfsClient {

    /**
     * 测试使用客户端创建目录
     * @throws Exception
     */
    @Test
    public void testMkdirs() throws Exception {
        // 1.获取文件系统(注意包不要引错)
        Configuration conf = new Configuration();
        // 配置在集群上运行

        // 第一种配置
        //conf.set("fs.defaultFS","hdfs://hadoop:9000");
        // FileSystem fs = FileSystem.get(conf);

        // 第二种配置
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");
        fs.mkdirs(new Path("/test7"));

        fs.close();
    }
}
3.1 文件的上传，以及测试优先级

copyFromLocalFile

 /**
     * 文件的上传，以及测试优先级
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void testCopyFromLocalFile() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        // 这个优先于resources中的配置
        conf.set("dfs.replication","1");
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2.上传文件
        fs.copyFromLocalFile(new Path("E:/file/ps.txt"),new Path("/banzhang3.txt"));

        fs.close();

        System.out.println("执行结束...");
    }

resources中的hdfs-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
    <!-- 指定HDFS副本的数量(优先于，linux中的配置) -->
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
</configuration>

参数优先级排序：客户端代码中设置的值 >ClassPath（resources）下的用户自定义配置文件 >然后是服务器的默认配置

3.2 文件的下载copyToLocalFile
	 /**
     * 下载文件
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void testCopyToLocalFile() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2.执行下载操作
        fs.copyToLocalFile(true,new Path("/banzhang3.txt"),new Path("E:/file/banzhagn.txt"),true);

        // 3.关闭资源、
        fs.close();

    }
3.3 删除文件夹delete
  /**
     * 删除文件夹
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void testDelete() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2.执行删除文件夹

        fs.delete(new Path("/test"),true);

        // 3.关闭资源、
        fs.close();

    }
3.4 文件的改名rename
  /**
     * 文件名更改
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void testRename() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2.修改文件名

        fs.rename(new Path("/banzhang2.txt"),new Path("/ps.txt"));

        // 3.关闭资源、
        fs.close();

    }
3.5 查看文件详情listFiles
  /**
     * 查看文件详情
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void testListFiles() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 获取文件详情
        RemoteIterator<LocatedFileStatus> listFiles = fs.listFiles(new Path("/"), true);

        while (listFiles.hasNext()){
            // 文件详情
            LocatedFileStatus status = listFiles.next();
            System.out.println("文件详情 = " + status);
            System.out.println("文件名称 = " + status.getPath().getName());
            System.out.println("文件大小 = " + status.getLen());
            System.out.println("文件权限 = " + status.getPermission());
            System.out.println("文件分组 = " + status.getGroup());
            // 获取储存的块信息
            BlockLocation[] blockLocations = status.getBlockLocations();

            for (BlockLocation blockLocation : blockLocations) {
                // 获取块储存的主机节点
                String[] hosts = blockLocation.getHosts();

                for (String host : hosts) {
                    System.out.println("host = " + host);
                }
            }

            System.out.println("===================================");

        }

        // 3.关闭资源、
        fs.close();

    }
3.6 判断是否是文件
 /**
     * 判断是否是文件
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void testListStatus() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2.判断是文件还是文件夹
        FileStatus[] listStatus = fs.listStatus(new Path("/"));
        System.out.println("listStatus = " + listStatus);

        // 可以利用递归来遍历目录
        for (FileStatus fileStatus : listStatus) {
            if (fileStatus.isFile()){
                System.out.println("文件名 = " + fileStatus.getPath().getName());
            }
            if (fileStatus.isDirectory()) {
                System.out.println("目录名 = " + fileStatus.getPath().getName());
            }
        }

        // 3.关闭资源、
        fs.close();

    }
3.7 HDFS的I/O流操作

上面我们学的API操作HDFS系统都是框架封装好的。那么如果我们想自己实现上述API的操作该怎么实现呢？

我们可以采用IO流的方式实现数据的上传和下载。

把本地文件banhua.txt上传到HDFS根目录
 /**
     * 把本地文件banhua.txt上传到HDFS根目录
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void putFileToHDFS() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2 创建输入流
        FileInputStream fis = new FileInputStream(new File("E:/file/banhua.txt"));

        // 3.创建输出流
        FSDataOutputStream fos = fs.create(new Path("/banhua.txt"));

        // 4.流拷贝
        IOUtils.copyBytes(fis,fos,conf);

        // 3.关闭资源、
        IOUtils.closeStream(fos);
        IOUtils.closeStream(fis);
        fs.close();

    }
从HDFS上下载banhua.txt文件到本地E盘上
  /**
     * 从HDFS上下载banhua.txt文件到本地E盘上
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void getFileFromHDFS() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2 创建输入流
        FSDataInputStream fis = fs.open(new Path("/banhua.txt"));

        // 3.创建输出流
        FileOutputStream fos = new FileOutputStream("E:/file/banhua.txt");

        // 4.流拷贝
        IOUtils.copyBytes(fis,fos,conf);

        // 3.关闭资源、
        IOUtils.closeStream(fos);
        IOUtils.closeStream(fis);
        fs.close();


    }
分块读取HDFS上的大文件–下载第一部分
 /**
     * 分块读取HDFS上的大文件，比如根目录下的/user/atguigu/input/hadoop-2.7.2.tar.gz
     * 下载第一部分
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void readFileSeek1() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2 创建输入流
        FSDataInputStream fis = fs.open(new Path("/user/atguigu/input/hadoop-2.7.2.tar.gz"));

        // 3.创建输出流
        FileOutputStream fos = new FileOutputStream("E:/file/hadoop-2.7.2.tar.gz.part1");

        // 4.流拷贝
        byte[] bytes = new byte[1024];
        for (int i = 0; i < 1024 * 128; i++) {
            fis.read(bytes);
            fos.write(bytes);
        }

        // 3.关闭资源、
        IOUtils.closeStream(fos);
        IOUtils.closeStream(fis);
        fs.close();
    }

分块读取HDFS上的大文件–下载第二部分

 /**
     * 分块读取HDFS上的大文件，比如根目录下的/user/atguigu/input/hadoop-2.7.2.tar.gz
     * 下载第二部分
     * @throws IOException
     * @throws URISyntaxException
     * @throws InterruptedException
     */
    @Test
    public void readFileSeek2() throws IOException, URISyntaxException, InterruptedException {
        // 1.获取文件系统
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop:9000"), conf, "atguigu");

        // 2 创建输入流
        FSDataInputStream fis = fs.open(new Path("/user/atguigu/input/hadoop-2.7.2.tar.gz"));

        // 3.创建输出流
        FileOutputStream fos = new FileOutputStream("E:/file/hadoop-2.7.2.tar.gz.part2");

        // 4.定位输入流数据位置
        fis.seek(1024*1024*128);

        // 5.流的对拷
        IOUtils.copyBytes(fis,fos,conf);

        // 6.关闭资源、
        IOUtils.closeStream(fos);
        IOUtils.closeStream(fis);
        fs.close();
    }

在Window命令窗口中进入到目录E:/file/，然后执行如下命令，对数据进行合并 hadoop-2.7.2.tar.gz.part2 >> hadoop-2.7.2.tar.gz.part1合并完成后，将hadoop-2.7.2.tar.gz.part1重新命名为hadoop-2.7.2.tar.gz，解压发现该tar包非常完整。

4. 问题总结
问题一

idea启动出现：WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform 警告

解决方案：在log4j.propertis中添加下面的内容。

log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR
问题二

出现： java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.

解决方案：配置一下CLASSPATH，然后重启。

在这里插入图片描述

☆

喵先生呢
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
客户端操作HDFS
weixin_40434214的博客
03-04 349
客户端操作HDFS 1、使用shell命令 -help 功能：输出这个命令参数手册 -ls 功能：显示目录信息 示例： hadoop fs -ls hdfs://hadoop-server01:9000/ 备注：这些参数中，所有的hdfs路径都可以简写 –&gt;hadoop fs -ls / 等同于上一条命令的效果 -mkdir 功能：在hdfs上创建目录 示例：hadoop fs -mk...
客户端连接HDFS高可用集群
WannaRunning的博客
03-20 714
之前写过JAVA使用客户端连接Hadoop的使用，是单节点的情况；生产中使用的都是集群，网上找了好久都没找到详细的有关集群的配置方式，Hadoop nameNode HA集群中客户端需要连接客户端集群各个节点。 方式一：使用XML配置文件加载 这种方式基于Hadoop集群服务中配置的的core-site.xml文件，当然，也可以手写配置文件。（吐槽一下我在做的时候运维只提供一堆IP让我自己猜） configuration = new Configuration(); //通过加载配置文件配置 con
HDFS客户端操作
ah531531的博客
07-09 211
客户端的理解 hdfs的客户端有多种形式： 1、网页形式 2、命令行形式 3、客户端在哪里运行，没有约束，只要运行客户端的机器能够跟hdfs集群联网 文件的切块大小和存储的副本数量，都是由客户端决定！ 所谓的由客户端决定，是通过配置参数来定的 hdfs的客户端会读以下两个参数，来决定切块大小、副本数量： 切块大小的参数： dfs.blocksize 副本数量的参数...
hdfs-client 客户端连接
最新发布
qq_36012085的博客
04-04 515
在pom.xml中导入相关依赖包：hadoop_hdfs,hadoop_common,hadoop_client。在resources中创建log4j.properties文件控制日志数量。在maven resporitry官网。切记：本地目录不能带中文名字会出错。4.在idle创建maven项目。在web_url中验证是否创建。给hdfs目录所有权限可读可写。也可以导入相关日志管理。在项目中创建Java。
HDFS客户端工具.rar
11-06
HDFS客户端工具，可以通过操作客户端实现将windows本地资源上传到HDFS，也可以方便的下载、删除等操作。
HDFS 客户端操作
Da.的博客
05-10 4293
1 HDFS 客户端环境准备 1 jar 包准备 1 解压 hadoop-2.7.2.tar.gz 到非中文目录 2 进入 share 文件夹，查找所有 jar 包， 并把 jar 包拷贝到_lib 文件夹下 3 在全部 jar 包中查找 sources.jar， 并剪切到_source 文件夹 4 在全部 jar 包中查找 tests.jar， 并剪切到_test 文件夹 2 Ec
快速学习-HDFS客户端操作
01-07
第3章 HDFS客户端操作（开发重点） 3.1 HDFS客户端环境准备 根据自己电脑的操作系统拷贝对应的编译后的hadoop jar包到非中文路径（例如：D:\Develop\hadoop-2.7.2），如图3-4所示。 配置HADOOP_HOME环境变量，如图3...
HDFS的java客户端操作
01-20
以下是对HDFS Java客户端操作的详细讲解： 首先，要进行HDFS的Java客户端操作，需要设置好开发环境。在创建一个名为HdfsClientDemo的Maven工程后，需要导入相关的依赖库，如hadoop-common、hadoop-client和hadoop-...
pyhdfs:Python HDFS客户端
05-25
Python HDFS客户端 由于全球需求从Python的谈话HDFS。 用法 该库为提供了Python客户端。 通过传入两个NameNode来支持NameNode HA。 响应作为漂亮的Python类返回，并且任何失败的操作都将引发与Java异常匹配的...
windows平台下的HDFS文件浏览器
09-13
可视化hadoop页面工具,可以查看存储文件及路径, 谢谢
前端基于vue，后端基于springboot和hdfs的云盘项目.zip
03-20
人工智能-hdfs
hdfs客户端操作
xiaozhuangyumaotao的博客
07-15 208
这里hdfs客户端指的是eclipse 一、获取hadoop安装包解压后进入share文件夹里面的所有jar包 二、这里如果你客户端（eclipse所在机器）是win7，需要编译hadoop源码来适应你的机器。 三、配置HADOOP_HOME环境变量和PATH 四、拷贝win7电脑上的文件到虚拟机hadoop集群上： publicclassHdfsClientDemo1{ publicstaticvoidmain(String[]args)throwsException{ ...
HDFS客户端编程
哈
11-27 557
准备工作 启动CentOS端的Hadoop系统 第一步：创建Maven形式的Java项目 第二步：添加Maven依赖 <dependency> <groupId>junit</groupId> <artifactId>junit</artifactId> <version>4...
HDFS客户端操作（开发重点）
youif的博客
08-12 2475
HDFS客户端环境准备 1．根据自己电脑的操作系统拷贝对应的编译后的hadoop jar包到非中文路径（例如：D:\hadoop\hadoop-2.7.2），如图所示。 2．配置HADOOP_HOME环境变量，如图所示。 3. 配置Path环境变量，如图3-6所示。 4．创建一个Maven工程HdfsClientDemo 1. 2. 3. 4. 4．创建一个Maven工程Hdfs20811 5．导入相应的依赖坐标+日志添加 <dependencies> <dependen
java hdfs 批量写数据_客户端读写hdfs数据
weixin_39917894的博客
02-16 465
读： (1)客户端通过调用FIleSystem对象的open()方法来打开希望读取的文件，对于hdfs来说，这个对象是分布式文件系统的一个实例。(2)DistributedFileSystem通过使用rpc来调用namenode，以确定文件起始块的位置。对于每一个块，namenode返回存有该块副本的datanode的地址。此外，这些datanode根据他们与客户端的距离来排序(机架感应)。如果该...
HDFS客户端文件操作：参数优先级解析
"本文主要介绍HDFS客户端操作中的文件操作参数优先级，以及如何通过测试方法设置文件副本数量。" 在Hadoop的分布式文件系统（HDFS）中，客户端操作是与HDFS进行交互的重要环节。这里我们将关注的是客户端在进行文件...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值