实验2-HDFS实战(1)，2024年最新最详细的解释小白也能听懂

最新推荐文章于 2024-09-19 11:42:03 发布

2401_84181221

最新推荐文章于 2024-09-19 11:42:03 发布

阅读量100

点赞数 1

分类专栏：程序员文章标签： hdfs hadoop 大数据

本文链接：https://blog.csdn.net/2401_84181221/article/details/137730201

版权

程序员专栏收录该内容

29 篇文章 0 订阅

订阅专栏

public class FileSystemCat {

        public static void main(String[] args) throws IOException {
                //请在Begin-End之间添加你的代码，完成任务要求。
        //请按照左侧的编程要求进行编写代码
                //文件地址为 "hdfs://localhost:9000/user/hadoop/task.txt"
        /********* Begin *********/
        URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(uri,config);
        InputStream in = null;
        try {
                in = fs.open(new Path(uri));
                IOUtils.copyBytes(in, System.out, 2048, false);
        } catch (Exception e) {
                IOUtils.closeStream(in);
        }



                /********* End *********/
        }
}

第4关使用JAVA API将数据写入HDFS

由于关卡设置，代码仅允许手动输入，如下：

public class FileSystemUpload {

        public static void main(String[] args) throws IOException {
                //请在 Begin-End 之间添加代码，完成任务要求。
        /********* Begin *********/
        File localPath = new File("/develop/input/hello.txt");
        String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";

        InputStream in = new BufferedInputStream(new FileInputStream(localPath));

        Configuration config = new Configuration();

        FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);

        long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;

        FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
                long fileCount = 0;

                public void progress() {
                        System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
                        fileCount++;


**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。**
![img](https://img-blog.csdnimg.cn/img_convert/e1ba1747955a21f8c3099deeb4c6601b.png)
![img](https://img-blog.csdnimg.cn/img_convert/04c4b0529baf89610cbb57f6f83691c5.png)
![img](https://img-blog.csdnimg.cn/img_convert/7c25432c26b86bdd7e0d10a2bd2ce01a.png)
![img](https://img-blog.csdnimg.cn/img_convert/80f37a5863d86df4d5b49b6e00873082.png)
![img](https://img-blog.csdnimg.cn/img_convert/e400c34ec80d5bc1e7c7a34e6c6dc918.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
![img](https://img-blog.csdnimg.cn/img_convert/f37e3831875d330d3d5ea74cc2f59894.png)

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**