实验2-HDFS实战，惊喜

最新推荐文章于 2024-06-12 17:17:01 发布

2401_84181221

最新推荐文章于 2024-06-12 17:17:01 发布

阅读量201

点赞数 1

分类专栏：程序员文章标签： hdfs hadoop 大数据

本文链接：https://blog.csdn.net/2401_84181221/article/details/137730209

版权

程序员专栏收录该内容

30 篇文章 0 订阅

订阅专栏

由于关卡设置，代码仅允许手动输入，如下：

public class FileSystemCat {

        public static void main(String[] args) throws IOException {
                //请在Begin-End之间添加你的代码，完成任务要求。
        //请按照左侧的编程要求进行编写代码
                //文件地址为 "hdfs://localhost:9000/user/hadoop/task.txt"
        /********* Begin *********/
        URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(uri,config);
        InputStream in = null;
        try {
                in = fs.open(new Path(uri));
                IOUtils.copyBytes(in, System.out, 2048, false);
        } catch (Exception e) {
                IOUtils.closeStream(in);
        }



                /********* End *********/
        }
}

第4关使用JAVA API将数据写入HDFS

由于关卡设置，代码仅允许手动输入，如下：

public class FileSystemUpload {

        public static void main(String[] args) throws IOException {
                //请在 Begin-End 之间添加代码，完成任务要求。
        /********* Begin *********/
        File localPath = new File("/develop/input/hello.txt");
        String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";

        InputStream in = new BufferedInputStream(new FileInputStream(localPath));

        Configuration config = new Configuration();

        FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);

        long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;

        FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
                long fileCount = 0;



**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。**
![img](https://img-blog.csdnimg.cn/img_convert/ab7529e177df2d7052dc963a0b35891e.png)
![img](https://img-blog.csdnimg.cn/img_convert/0ddea057261a1c82940c2002b5b6a0c1.png)
![img](https://img-blog.csdnimg.cn/img_convert/5a5eb63118bf495d979c1d827339544e.png)
![img](https://img-blog.csdnimg.cn/img_convert/dd961cb2f7fd2bba24f3f11ddfe964e3.png)
![img](https://img-blog.csdnimg.cn/img_convert/1cdb2c3c215ce399f51b62bd6100497d.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
![img](https://img-blog.csdnimg.cn/img_convert/5d2ab96ec66be561407c400d1344067e.png)

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**