Hadoop之hdfs参数优先级

 省流:

低 => 高

hdfs-default.xml => hdfs-site.xml => 项目资源目录下的hdfs-site.xml => 代码里的配置

package com.bigdata.hdfs;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.junit.After;
import org.junit.Before;
import org.junit.Test;

import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;

/**
 * 客户端代码常用套路
 * 1、获取客户端操作对象
 * 2、执行相关的操作命令
 * 3、关闭资源
 * HDFS ZooKeeper
 */
public class HdfsClient {

    private FileSystem fileSystem;

    @Before
    public void init() throws URISyntaxException, IOException, InterruptedException {

        // 连接的集群和地址,客户端和namenode打交道,执行相关的操作
        URI uri = new URI("hdfs://hadoop102:8020");

        // 创建一个配置文件
        Configuration configuration = new Configuration();
        configuration.set("dfs.replication","2");

        // 用户
        String user = "mingyu";

        // 获取配置文件
        fileSystem = FileSystem.get(uri, configuration,user);
    }

    @After
    public void close() throws IOException {


        // 关闭资源
        fileSystem.close();

    }

    @Test
    public void testClient() throws URISyntaxException, IOException, InterruptedException {


        // 创建一个文件夹
        fileSystem.mkdirs(new Path("/xiyou/huaguoshan/xiaohouzi"));

    }

    /**
     * 参数优先级
     * hdfs-default.xml => hdfs-site.xml => 项目资源目录下的hdfs-site.xml => 代码里的配置
     *
     * @throws IOException
     */
    @Test
    public void testPut() throws IOException {

        // 上传文件
        // para1:是否删除源文件,para2:是否覆盖写入,para3:源路径,para4:目标路径
        fileSystem.copyFromLocalFile(false,true,new Path("E:\\sunwukong.txt"),new Path("hdfs://hadoop102/xiyou/huaguoshan/"));

    }
}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值