Hadoop文件上传和下载函数

  1. hadoop文件的上传函数IOUtils.copyBytes(fis,fos,configuration);
  2. java的文件输入输出流的
    注意:导入的包的问题,如果导入的包不对会报错,基本上是hadoop包的导入,但是注意这个包:
    import java.net.URI;//导入的是net网络的这个包,而不是其他的包
    实现代码:
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;

import org.junit.Test;

import java.io.*;
import java.net.URI;//导入的是net网络的这个包,而不是其他的包
import java.net.URISyntaxException;

public class TestHadoopIO {
    @Test
    //hadoop的io流的测试
    public void JavaIOtest() throws Exception{
//       a.exe复制出了b.exe
//        定义输出流
     InputStream is=new FileInputStream("a.exe");
//        定义输入流
        File file=new File("b.exe");
        if(!file.exists()){
            file.createNewFile();//如果文件没有存在就创建一个新的文件


        }

//        定义输出流写到指定的文件
        OutputStream os=new FileOutputStream(file);


//        定义缓冲区,使用读写更加的便利
       byte[] buffer=new byte[1024];
       int len=0;
        while((len=is.read(buffer))!=-1){
//把is写入的数据写到磁盘中
           os.write(buffer,0,len);
        }
        //同步到磁盘
        os.flush();

//      关闭相关的操作
        os.close();
        is.close();





    }
    @Test
    //获取文件系统
    public void hadoopIOtest() throws IOException, URISyntaxException, InterruptedException {
        Configuration cfg=new Configuration();
        FileSystem fs=FileSystem.get(new URI("hadoop100:9000"),cfg,"dev1");
        //将win10的文件上传到hdfs
//        定义输入流
        InputStream is=fs.open(new Path("/abc.txt"));




    }

//    上传文件到hdfs copyBytes(fis,fos,configuration);
    @Test
    public void putFileToHDFS() throws IOException, InterruptedException, URISyntaxException {

        // 1 获取文件系统
        Configuration configuration = new Configuration();
        FileSystem fs = FileSystem.get(new URI("hdfs://hadoop100:9000"), configuration, "dev1");

        // 2 创建输入流
        FileInputStream fis = new FileInputStream(new File("e:/banhua.txt"));

        // 3 获取输出流
        FSDataOutputStream fos = fs.create(new Path("/banhua.txt"));

      IOUtils.copyBytes(fis,fos,configuration);

        // 5 关闭资源 先打开的后关闭
        IOUtils.closeStream(fos);
        IOUtils.closeStream(fis);
        fs.close();
    }
  
    

}

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

有时间指导毕业设计

觉得写的好的话可以给我打赏

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值