HDFS 使用java api实现上传/下载/删除文件

6 篇文章 0 订阅
4 篇文章 0 订阅
package hadoop;


import java.io.IOException;


import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;


public class HDFSTest01 {
	
	/**
	 * 文件上传
	 * @param src 
	 * @param dst
	 * @param conf
	 * @return
	 */
	public static boolean put2HSFS(String src , String dst , Configuration conf){
		Path dstPath = new Path(dst) ;
		try{
			FileSystem hdfs = dstPath.getFileSystem(conf) ;
//			FileSystem hdfs = FileSystem.get( URI.create(dst), conf) ;
			hdfs.copyFromLocalFile(false, new Path(src), dstPath) ;
		}catch(IOException ie){
			ie.printStackTrace() ;
			return false ;
		}
		return true ;
	}
	
	/**
	 * 文件下载
	 * @param src
	 * @param dst
	 * @param conf
	 * @return
	 */
	public static boolean getFromHDFS(String src , String dst , Configuration conf){
		Path dstPath = new Path(dst) ;
		try{
			FileSystem dhfs = dstPath.getFileSystem(conf) ;
			dhfs.copyToLocalFile(false, new Path(src), dstPath) ;
		}catch(IOException ie){
			ie.printStackTrace() ;
			return false ;
		}
		return true ;
	}
	
	/**
	 * 文件检测并删除
	 * @param path
	 * @param conf
	 * @return
	 */
	public static boolean checkAndDel(final String path , Configuration conf){
		Path dstPath = new Path(path) ;
		try{
			FileSystem dhfs = dstPath.getFileSystem(conf) ;
			if(dhfs.exists(dstPath)){
				dhfs.delete(dstPath, true) ;
			}else{
				return false ;
			}
		}catch(IOException ie ){
			ie.printStackTrace() ;
			return false ;
		}
		return true ;
	}


	/**
	 * @param args
	 */
	public static void main(String[] args) {
//		String src = "hdfs://xcloud:9000/user/xcloud/input/core-site.xml" ;
		String dst = "hdfs://xcloud:9000/user/xcloud/out" ;
		String src = "/home/xcloud/cdh3/hbase-0.90.4-cdh3u2/bin/loadtable.rb" ;
		boolean status = false ;
		
		
		Configuration conf = new Configuration() ;
		status = put2HSFS( src ,  dst ,  conf) ;
		System.out.println("status="+status) ;
		
		src = "hdfs://xcloud:9000/user/xcloud/out/loadtable.rb" ;
		dst = "/tmp/output" ;
		status = getFromHDFS( src ,  dst ,  conf) ;
		System.out.println("status="+status) ;
		
		src = "hdfs://xcloud:9000/user/xcloud/out/loadtable.rb" ;
		dst = "/tmp/output/loadtable.rb" ;
		status = checkAndDel( dst ,  conf) ;
		System.out.println("status="+status) ;
	}


}


参考:

http://www.360doc.com/content/11/0406/18/11586_107636584.shtml

hadoop-0.20_程式设计.pdf


  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,根据您的要求,我可以为您编写一个简易的基于HDFSJava API文件云盘系统。该系统需要实现以下功能: 1. 用户登录和注册 2. 文件上传下载删除 3. 文件夹创建、删除、移动 4. 文件权限控制 5. 文件搜索 首先,我会使用Java中的HDFS API来连接和操作HDFS。然后,使用JavaWeb或SpringMVC框架搭建网站,并使用JSP或HTML实现网页的展示和交互。 在用户登录和注册方面,我们可以使用数据库存储用户信息,比如MySQL或Oracle。当用户注册时,需要对其输入的用户名和密码进行验证和加密处理,然后将用户信息存储到数据库中。当用户登录时,需要验证用户名和密码是否正确,并从数据库中读取用户信息并保存在Session中。 文件上传下载删除功能需要使用HDFS API实现。用户上传文件时,我们可以让用户选择本地文件上传HDFS上。用户下载文件时,需要从HDFS下载文件到本地。当用户删除文件时,也需要在HDFS上进行文件删除操作。 文件夹创建、删除、移动功能也需要使用HDFS API实现。用户可以创建文件夹,并在其中存储文件。用户可以移动文件夹或文件到其他文件夹中。当用户删除文件夹时,需要连带其内部的文件一起删除文件权限控制功能需要检查当前用户是否具有文件操作权限。我们可以在数据库中存储用户和文件的权限信息,并在操作文件时进行权限验证,以保证用户只能访问其有权限访问的文件。 最后,我们还需要实现文件搜索功能,这需要根据用户输入的关键字在HDFS中进行全文搜索,并将搜索结果展示在网页上。 以上就是基于HDFSJava API实现的简易文件云盘系统的实现方案。感谢您的提问,如果您还有其他问题,可以继续咨询我。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值