大数据:Hadoop文件操作HDFS常用命令(一)

大数据:Hadoop文件操作HDFS常用命令(一)

 

1、创建目录。在HDFS中创建一个文件目录:

hadoop dfs -mkdir

 

2、查看文件结构目录:

hdfs dfs -ls -R /

例如,在HDFS中创建一个test_dir的文件目录,然后查看:

 

如果查看具体某一个文件目录下的文件层次,则为:

hadoop fs -ls /mydir

mydir是开发者在HDFS中创建的文件夹目录。

 

3、上传单个文件。往test_dir上传一个文件,假设需要上传一个E:/hadoop/myfile/f1.txt的文件,到HDFS中的test_dir下面,则命令为:

hadoop fs -put E:/hadoop/myfile/f1.txt /test_dir

 

 

4、删除文件。如何删除文件呢?假设要删除刚才上传好的f1.txt文件,则为:

hadoop fs -rm -r -skipTrash /test_dir/f1.txt

如图:

 

 

5、删除文件夹。如果是删除整个文件夹目录,则是:

hadoop fs -rm -r -skipTrash /test_dir

如图:

 

 

6、上传整个目录文件夹。把计算机本地的一个文件夹目录全部上传到HDFS。假设本地有一个文件夹myfile,myfile下面有f1.txt,f2.txt,f3.txt。

命令:

hadoop dfs -put E:/hadoop/myfile  /

如图:

 

 

7、重命名文件夹。假设现在需要把HDFS中的myfile文件夹名字改为mydir,则为:

hdfs dfs -mv /myfile /mydir

如图:

 

8、把HDFS中整个文件夹目录下的文件合并并下载到本地。假设把之前前面已经上传到HDFS中mydir下的所有文件合并成一个完整的文件下载到本地的E:/hadoop下,名字叫temp,则命令:

hdfs dfs -getmerge /mydir E:/hadoop/temp

如图:

本例中mydir下f1.txt , f2.txt , f3.txt里面仅仅只是文本字符。当把这些文件合并到一个temp文件中后,是把f1.txt , f2.txt , f3.txt中所有文本字符合并追加到temp中去。

 

9、从HDFS中把文件下载到本地。假设把HDFS中的mydir/f1.txt文件下载到本地E:/hadoop下,则:

hadoop dfs -get /mydir/f1.txt E:/hadoop/f1.txt

 

 

10、查看HDFS中的文件内容。假设查看mydir下的f1.txt文件内容。命令为:

hadoop dfs -text /mydir/f1.txt

或者:

hadoop dfs -cat /mydir/f1.txt

如图:

 

 

11、统计HDFS基本信息。命令:

hdfs dfsadmin -report

如图:

 

 

附:

大数据平台Hadoop在Windows10上的搭建配置:https://zhangphil.blog.csdn.net/article/details/98730797

  • 18
    点赞
  • 168
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
Hadoop分布式文件系统(HDFS)是Hadoop的核心组件之一,它是一个分布式文件系统,旨在存储大量数据,并提供高吞吐量数据访问。HDFS采用管理者-工作者模式运行,其中一个NameNode(管理者)和多个DataNode(工作者)组成集群。NameNode负责管理文件系统命名空间,以及控制客户端对文件的访问。DataNode负责存储实际的数据块,并响应客户端读写请求。 HDFS的主要特点包括: - 高容错性:HDFS采用数据复制的方式来实现容错性,即将数据块复制到多个DataNode上,以保证即使某个节点出现故障,数据仍然可用。 - 适合大数据存储:HDFS适合存储大量数据,因为它可以将数据划分为多个数据块,并将这些数据块分布在不同的DataNode上,以实现并行处理。 - 流式数据访问:HDFS支持流式数据访问,即一次性读取或写入大量数据,而不是随机访问。 - 可扩展性:HDFS可以通过添加更多的DataNode来扩展存储容量和吞吐量。 下面是HDFS的一些常用命令: - hdfs dfs -ls /:列出根目录下的所有文件和目录。 - hdfs dfs -mkdir /test:在根目录下创建一个名为test的目录。 - hdfs dfs -put localfile /test:将本地文件localfile上传到HDFS的/test目录下。 - hdfs dfs -get /test/remotefile localfile:将HDFS上的/test/remotefile文件下载到本地文件localfile中。 - hdfs dfs -rm /test/remotefile:删除HDFS上的/test/remotefile文件

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值