本地文件上传至hdfs文件系统

将本地文件存储到Hadoop中的hdfs中去,uploadPath问本地文件的路径,hdfsFileName为存入hdfs中的文件名,
一般路径的格式为:
String hdfsPath="hdfs://192.168.248.129:9000/"+hfdsFileName

具体代码:
public static void save(String uploadPath,String hfdsFileName)throws IOException
	{
		long startTime = System.currentTimeMillis();
		//String localPath="/home/localfile/sing.mp3";
		String localPath = uploadPath;
	    String hdfsPath="hdfs://192.168.248.129:9000/"+hfdsFileName;
		Configuration conf = new Configuration();
			
		//设定输入目录和输出目录
		Path inputDir = new Path(localPath);
		Path hdfsFile = new Path(hdfsPath);
		
		FileSystem local = FileSystem.get(conf);
		FileSystem hdfs  = hdfsFile.getFileSystem(conf);
		
		try{
			FileStatus[] inputFiles = local.listStatus(inputDir);//得到本地文件列表
			FSDataOutputStream out = hdfs.create(hdfsFile);//生成HDFS输出流
				
			for(int i = 0;i<inputFiles.length;i++)
			{
				System.out.println(inputFiles[i].getPath().getName());
				FSDataInputStream in = local.open(inputFiles[i].getPath());//打开本地输入流
				byte buffer[] = new byte[256];
				int bytesRead = 0;
				while((bytesRead = in.read(buffer))>0)
				{
					out.write(buffer,0,bytesRead);
				}
				in.close();
			}
			out.close();
			long endTime = System.currentTimeMillis();
			System.out.println("time:"+(endTime-startTime));
		}catch(Exception e)
		{
			e.printStackTrace();
		}
	}
 
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值