HDFS的api

获取文件系统句柄


    public static FileSystem getFileSystem() throws Exception{

        Configuration conf = new Configuration();

        URI uri = new URI("hdfs://cdh2:9000");  //active,不能是standby

        FileSystem  hdfs = FileSystem.get(uri, conf);    

        return hdfs ;

       

    }


创建文件目录

	public static void mkdir() throws Exception{
 
		FileSystem  hdfs = getFileSystem();	
		hdfs.mkdirs(new Path("hdfs://cdh2:9000/test2")); 
        //active,不能是standby
		hdfs.close();		
	}

上传文件


    public static void copyToHDFS() throws Exception{

         

        FileSystem  hdfs = getFileSystem();

        Path srcPath =  new Path("D:\\data\\wc.txt");

        Path descPath =  new Path("hdfs://cdh2:9000/test2/");

        hdfs.copyFromLocalFile(srcPath, descPath);

        hdfs.close();    

    }


下载文件

	public static void getFileFromHDFS() throws Exception{
		FileSystem  hdfs = getFileSystem();	
		Path srcPath =  new Path("hdfs://cdh2:9000/test2/wc.txt");
		Path descPath =  new Path("D:\\data\\target");
		hdfs.copyToLocalFile(srcPath, descPath);
		hdfs.close();		
	}

目录浏览


    public static void listAllFile() throws Exception{

         

        FileSystem  hdfs = getFileSystem();

        FileStatus[] liststatus = hdfs.listStatus(new Path("hdfs://cdh2:9000/"));

        for(FileStatus fs :  liststatus){

            System.out.println(fs);

        }

       

        Path[] path =FileUtil.stat2Paths(liststatus);

        for(Path p :  path){

            System.out.println(p);

        }  

        hdfs.close();    

    }

删除目录

	public static void deleteDir() throws Exception{
		 
		FileSystem  hdfs = getFileSystem();	
		
		hdfs.delete(new Path("hdfs://cdh2:9000/test2"), true);
 
		hdfs.close();		
	}

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
HDFS API文档是指Hadoop分布式文件系统(HDFS)的应用程序编程接口(API)的文档。HDFS是一个开源的分布式文件系统,被广泛用于大规模数据存储和处理的分布式环境中。 HDFS API文档提供了开发人员使用HDFS的接口的详细说明和示例代码。它包含了一系列的类和方法,开发人员可以利用这些API来实现对HDFS中数据的读取、写入和管理。这些API提供了对HDFS文件系统的基本操作,比如创建、删除和重命名文件,以及对文件的读取、写入和追加等。 HDFS API文档的内容通常包括以下几个方面: 1. HDFS连接和配置:文档描述了如何连接到HDFS集群,并配置必要的参数,比如HDFS集群的主机名和端口等。 2. 文件操作:文档介绍了如何在HDFS上创建、删除和重命名文件,以及如何获取文件的属性和状态信息。 3. 数据读写:文档详细说明如何使用API进行数据的读取和写入操作。开发人员可以使用这些APIHDFS中读取数据,或者将数据写入HDFS。 4. 目录和权限管理:文档介绍了如何在HDFS上进行目录的创建、删除和查询等操作,并说明了如何设置和管理文件的权限。 除了上述内容,HDFS API文档还可能包含一些高级功能的介绍,比如HDFS中的数据复制和故障恢复机制等。此外,文档通常还提供了示例代码和常见问题解答,以帮助开发人员更好地理解和使用HDFS API。 总之,HDFS API文档是Hadoop分布式文件系统(HDFS)提供的编程接口的详细说明和示例代码,帮助开发人员在分布式环境中有效地读写和管理HDFS中的数据。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值