网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
- [3.1.6、删除子目录](#316_76)
+ [3.2、HDFS 文件操作](#32HDFS__82)
+ - [3.2.1、向 HDFS 中上传任意文本文件](#321_HDFS__86)
- [3.2.2、从 HDFS 中下载指定文件](#322_HDFS__94)
- [3.2.3、输出 HDFS 指定文件到终端中](#323_HDFS__102)
- [3.2.4、显示 HDFS 中指定的文件信息](#324_HDFS__110)
- [3.2.5、输出 HDFS 指定目录下文件信息](#325_HDFS__118)
- [3.2.6、指定路径创建和删除文件](#326_126)
- [3.2.7、指定路径创建和删除目录](#327_141)
- [3.2.8、向 HDFS 中指定的文件追加内容](#328_HDFS__156)
- [3.2.9、删除 HDFS 中指定的文件](#329_HDFS__172)
- [3.2.10、删除 HDFS 中指定的目录](#3210_HDFS__180)
- [3.2.11、将文件从源路径移动到目的路径](#3211_195)
前言
本篇文章是大数据基础系列的第五篇,完全针对 HDFS 文件系统,目的即理解 HDFS 在 Hadoop 体系结构中的角色,熟练使用 HDFS 操作常用的 Shell 命令,熟悉 HDFS 操作常用的 Java API。对大数据系列感兴趣的同学可以移步本人大数据专栏查看更多内容。
声明:本文由作者“白鹿第一帅”于 CSDN 社区原创首发,未经作者本人授权,禁止转载!爬虫、复制至第三方平台属于严重违法行为,侵权必究。亲爱的读者,如果你在第三方平台看到本声明,说明本文内容已被窃取,内容可能残缺不全,强烈建议您移步“白鹿第一帅” CSDN 博客查看原文,并在 CSDN 平台私信联系作者对该第三方违规平台举报反馈,感谢您对于原创和知识产权保护做出的贡献!
文章作者:白鹿第一帅,作者主页:https://blog.csdn.net/qq_22695001,未经授权,严禁转载,侵权必究!
前文回顾:《大数据入门系列 4:全网最全,伪分布式 Hadoop 在 Ubuntu 上的安装流程完整步骤及易错点分析》。
一、实验目的
- 理解 HDFS 在 Hadoop 体系结构中的角色。
- 熟练使用 HDFS 操作常用的 Shell 命令。
- 熟悉 HDFS 操作常用的 Java API。
二、实验平台
- 操作系统:Linux。
- Hadoop 版本:Hadoop-3.2.1。
- JDK 版本:java-8-openjdk-amd64。
- Java IDE:Eclipse。
三、实验内容和要求
3.1、HDFS 目录操作
Hadoop 系统安装好之后,第一次使用 HDFS 时,在初始化并启动之后,首先需要在 HDFS 中创建用户目录。
3.1.1、创建用户目录
本次实验全部采用 bailu 用户登录 Linux 系统,故在 HDFS 中为 bailu 用户创建用户目录,命令如下:
cd /usr/local/hadoop/hadoop-3.2.1
./bin/hdfs dfs -mkdir -p /user/bailu
具体如下图所示:
说明:该命令表示在 HDFS 中创建一个 /user/bailu 的目录。
- -mkdir 是创建目录的操作。
- -p 表示如果是多级目录,则父目录和子目录一起创建。
注意:这里 /user/bailu 就是一个多级目录,因此必须使用参数 -p,否则会出错。
3.1.2、显示 HDFS 中与当前用户对应的目录内容
/user/bailu 目录就成为 bailu 用户对应的用户目录。
我们可以使用如下命令显示 HDFS 中与当前 bailu 对应的用户目录下的内容:
./bin/hdfs dfs -ls .
说明:
- -ls 表示列出 HDFS 某个目录下的所有内容。
- . 表示 HDFS 中当前用户目录,也就是 /user/bailu 目录。
等价于:
./bin/hdfs dfs -ls /user/bailu
3.1.3、列出 HDFS 上的所有目录
如果要列出 HDFS 上的所有目录,可以使用如下命令:
./bin/hdfs dfs -ls
3.1.4、用户目录下创建一个 input 目录
在 bailu 用户下创建一个input目录,命令如下:
./bin/hdfs dfs -mkdir input
具体如下图所示:
说明:我们在创建 input 目录时,采用了相对路径形式,实际上 input 目录创建成功后,它在 HDFS 中的完整路径是 /user/bailu/input。
3.1.5、根目录下创建 input 的目录
如果要在 HDFS 的根目录下创建一个名为 input 的目录,则需要以下命令:
./bin/hdfs dfs -mkdir /input
3.1.6、删除子目录
可以使用 rm 命令删除刚才在 HDFS 中创建的 /input 目录(不是 /user/bailu/input 目录):
./bin/hdfs dfs -rm -r /input
说明:-r 参数表示如果删除 /input 目录及其子目录下的所有内容,如果要删除的目录包含了子目录,则必须使用 -r 参数,否则会执行失败。
3.2、HDFS 文件操作
首先使用 gedit 编辑器,在本地 Linux 文件系统的 /home/bailu/ 目录下创建一个文件 myLocalFile.txt,里面随意输入一些单词,具体如下图所示:
3.2.1、向 HDFS 中上传任意文本文件
向 HDFS 中上传任意文本文件,如果指定的文件在 HDFS 中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件,命令如下:
./bin/hdfs dfs -put /home/bailu/myLocalFile.txt input
具体如下图所示:
3.2.2、从 HDFS 中下载指定文件
从 HDFS 中下载指定文件,如果本地文件与要下载的文件名称相同,则自动对下载的文件重命名,命令如下:
./bin/hdfs dfs -get input/myLocalFile.txt /home/bailu/下载
具体如下图所示:
3.2.3、输出 HDFS 指定文件到终端中
将 HDFS 中指定文件的内容输出到终端中,命令如下:
./bin/hdfs dfs -cat input/myLocalFile.txt
具体如下图所示:
3.2.4、显示 HDFS 中指定的文件信息
显示 HDFS 中指定的文件的读写权限、大小、创建时间、路径等信息,命令如下:
./bin/hdfs dfs -ls input/myLocalFile.txt
具体如下图所示:
3.2.5、输出 HDFS 指定目录下文件信息
给定 HDFS 中某一个目录,输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息,如果该文件是目录,则递归输出该目录下所有文件相关信息,命令如下:
./bin/hdfs dfs -ls input
具体如下图所示:
3.2.6、指定路径创建和删除文件
提供一个 HDFS 内的文件的路径,对该文件进行创建和删除操作。如果文件所在目录不存在,则自动创建目录(以操作 empty.txt 文件为例),创建文件操作命令如下:
./bin/hdfs dfs -touchz empty.txt
具体如下图所示:
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
[外链图片转存中…(img-virZxEww-1715028459782)]
[外链图片转存中…(img-HH4mXg2j-1715028459782)]
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!