Hadoop通过URL方式下载文件

Hadoop通过URL方式下载文件: 注意如下

InputStream inputStream = new URL(“hdfs://Master:9000/user/hadoop/file1.txt”).openStream();//获取文件输入流

里面的路径,是你hadoop运行的IP地址以及端口号,端口号参照core-site.xml配置的端口号 后面的是hdfs 的文件路径

FileOutputStream outputStream = new FileOutputStream(new File("/home/hadoop/Desktop/file1_out.txt"));获取文件输出流

new File("/home/hadoop/Desktop/file1_out.txt")这个路径必须是以文件结尾,不能以文件夹结尾,如何没有文件将会自动创建


import java.io.File;
import java.io.FileOutputStream;
import java.io.InputStream;
import java.net.URL;
import org.apache.commons.compress.utils.IOUtils;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

public class urlHdfsDemo {
	public static void main(String [] args) throws Exception {
	URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());//注册hdfs的URL
	InputStream inputStream = new  URL("hdfs://Master:9000/user/hadoop/file1.txt").openStream();//获取文件输入流
	FileOutputStream outputStream = new FileOutputStream(new File("/home/hadoop/Desktop/file1_out.txt"));获取文件输出流
	IOUtils.copy(inputStream, outputStream);//实现文件的拷贝
	IOUtils.closeQuietly(inputStream);//关闭流
	IOUtils.closeQuietly(outputStream);
	
	}		
		

}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值