HDFS:3.客户端操作

秋栗圆圆

已于 2022-09-26 20:02:36 修改

阅读量685

点赞数

文章标签： hadoop hdfs 大数据

于 2022-09-26 11:34:30 首次发布

本文链接：https://blog.csdn.net/m0_53336038/article/details/126991843

版权

1 准备Windows关于Hadoop的开发环境

1.1 准备开发环境

1.1.1 Windows的依赖目录，打开：

1.1.2 配置HADOOP_HOME环境变量。

1.1.3配置Path环境变量。%HADOOP_HOME%/bin然后重启电脑

1.1.4创建一个Maven工程HdfsClientDemo，并导入相应的依赖坐标+日志添加

2 HDFS的API操作

2.1 HDFS文件上传（测试参数优先级）

1 准备Windows关于Hadoop的开发环境

1.1 准备开发环境

1.1.1 Windows的依赖目录，打开：

选择Hadoop-3.1.0，拷贝到其他地方(比如d:\)。

1.1.2 配置HADOOP_HOME环境变量。

1.1.3配置Path环境变量。%HADOOP_HOME%/bin然后重启电脑

1.1.4创建一个Maven工程HdfsClientDemo，并导入相应的依赖坐标+日志添加

<dependencies>
    <dependency>
        <groupId>junit</groupId>
        <artifactId>junit</artifactId>
        <version>4.12</version>
    </dependency>
    <dependency>
        <groupId>org.apache.logging.log4j</groupId>
        <artifactId>log4j-slf4j-impl</artifactId>
        <version>2.12.0</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-client</artifactId>
        <version>3.1.3</version>
    </dependency>
</dependencies>

在项目的src/main/resources目录下，新建一个文件，命名为“log4j2.xml”，在文件中填入

<?xml version="1.0" encoding="UTF-8"?>
<Configuration status="error" strict="true" name="XMLConfig">
    <Appenders>
        <!-- 类型名为Console，名称为必须属性 -->
        <Appender type="Console" name="STDOUT">
            <!-- 布局为PatternLayout的方式，
            输出样式为[INFO] [2018-01-22 17:34:01][org.test.Console]I'm here -->
            <Layout type="PatternLayout"
                    pattern="[%p] [%d{yyyy-MM-dd HH:mm:ss}][%c{10}]%m%n" />
        </Appender>

    </Appenders>

    <Loggers>
        <!-- 可加性为false -->
        <Logger name="test" level="info" additivity="false">
            <AppenderRef ref="STDOUT" />
        </Logger>

        <!-- root loggerConfig设置 -->
        <Root level="info">
            <AppenderRef ref="STDOUT" />
        </Root>
    </Loggers>
</Configuration>

5）创建包名：com.atguigu.hdfs

6）创建HdfsClient类

课件代码：

public class HdfsClient{	
@Test
public void testMkdirs() throws IOException, InterruptedException, URISyntaxException{
		
		// 1 获取文件系统
		Configuration configuration = new Configuration();
		// 配置在集群上运行
		// configuration.set("fs.defaultFS", "hdfs://hadoop102:9820");
		// FileSystem fs = FileSystem.get(configuration);

		FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:9820"), configuration, "atguigu");
		
		// 2 创建目录
		fs.mkdirs(new Path("/1108/daxian/banzhang"));
		
		// 3 关闭资源
		fs.close();
	}
}

7）执行程序

运行时需要配置用户名称

客户端去操作HDFS时，是有一个用户身份的。默认情况下，HDFS客户端API会从JVM中获取一个参数来作为自己的用户身份：-DHADOOP_USER_NAME=atguigu，atguigu为用户名称。

实操代码

  /**
     * 获取HDFS的客户端连接对象
     * * @param uri HDFS的访问路径 hdfs://hadoop102:9820
     * * @param conf 配置对象
     * * @param user 操作的用户（用哪个用户操作的HDFS）
     *
     */
    @Test
    public void testCreateHdfsClient() throws IOException, InterruptedException {
        // HDFS的访问路径 hdfs://hadoop102:9820
        URI uri = URI.create("hdfs://hadoop102:9820");
        // conf 配置对象
        Configuration conf = new Configuration();
        // user 操作的用户（用哪个用户操作的HDFS）
        String user = "atguigu";
        //获取HDFS的客户端链接对象（文件系统对象）
        FileSystem fileSystem = FileSystem.get(uri, conf, user);
        System.out.println(fileSystem.getClass().getName());
        //关闭资源
        fileSystem.close();
    }