hdfs shell操作

已于 2022-11-28 15:57:37 修改
阅读量5.9k 收藏 93
点赞数 11
分类专栏： 大数据 文章标签： hdfs hadoop 大数据
于 2022-11-23 16:35:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_72168501/article/details/127998108
版权

文章目录

HDFS 的shell操作

Shell在计算机科学中俗称“壳”，是提供给使用者使用界面的进行与系统交互的软件，通过接收用户输入的命令执行相应的操作，Shell分为图形界面Shell和命令行式Shell。文件系统（FS）Shell包含了各种的类Shell的命令，可以直接与Hadoop分布式文件系统以及其他文件系统进行交互。

一、三种Shell命令方式

在这里插入图片描述

二、常用HDFS的shell命令

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

三、HDFS常用命令操作实例

启动hadoop集群
在这里插入图片描述

1、创建单层目录

输入命令：hdfs dfa -mkdir /ied 在hdfs上创建一个/ied 目录
在这里插入图片描述
在webUI 界面查看刚刚创建的/ied 目录
在这里插入图片描述

2、创建多层目录

输入命令：hdfs dfs -mkdir -p /luzhou/lzy
在这里插入图片描述

在webUI 界面查看刚刚创建的 /luzhou/lzy文件
在这里插入图片描述

3、查看目录

输入命令：hdfs dfs -ls / hdfs根目录下的所有目录
在这里插入图片描述
输入命令：hdfs dfs -ls /luzhou 可以看到/luhzou 下面的目录
在这里插入图片描述
如果我们要查看根目录里的全部资源，那么要用到递归参数 -R (大写)
输入命令：hdfs dfs -ls -R / 把hdfs 根目录上所有的文件都递归显示出来了(采用递归算法遍历树结构)
在这里插入图片描述

4，上传本地文件到hdfs

创建test.txt 文件，输入命令：echo "hello word" > test.txt (> 重定向命令)
在这里插入图片描述
上传test.txt 文件到hdfs 的/ied目录，执行命令：hdfs dfs -put test.txt /ied
在这里插入图片描述
查看是否上传成功 输入命令：hdfs dfs -ls /ied
在这里插入图片描述
在webUI界面上进行查看
在这里插入图片描述

5、查看文件内容

输入命令：hdfs dfs -cat /ied/test.txt
在这里插入图片描述

6、下载hdfs文件到本地

先删除本文的test.txt文件，输入命令：rm -rf test.txt
在这里插入图片描述
下载hdfs文件系统的/ied/test.txt到本地目录不改名
输入命令：hdfs dfs -get /ied/test.txt
在这里插入图片描述
查看是否下载成功
在这里插入图片描述
可以将hdfs上的文件下载到本地指定位置，并且可以更改文件名
输入命令：hdfs dfs -get /ied/test.txt /home/exam.txt
在这里插入图片描述
查看是否下载成功
在这里插入图片描述

7、删除hdfs文件

输入命令：hdfs dfs -rm /ied/test.txt 把hdfs的/ied下的test.txt 文件删除
在这里插入图片描述
查看是否删除成功
在这里插入图片描述
使用通配符，可以删除满足一定特征的文件
删除/ied 目录下，所有文件名t开头的文件
在这里插入图片描述

8、删除hdfs目录

输入命令：hdfs dfs -rmdir /luzhou
在这里插入图片描述

  • 提示：rmdir命令删除不了非空目录
  • 要递归删除才能删除非空目录: hdfs dfs -rm -r /luzhou (r:recursive)
    输入命令：hdfs dfs -rm -r /luzhou
    在这里插入图片描述
    将 /BigData 变成一个空目录，(删除里面的空子目录class_one,class_two和文件test.txt)
    在这里插入图片描述
    输入命令：hdfs dfs -rm -r /BigData/* 使用通配符* 和 递归方式删除/BigData 里的所有东西

在这里插入图片描述
此时删除非空目录，输入命令：hdfs dfs -rmdir /BigData (-rmdir 专门用来删除非空目录，删除目录之前先用递归把目录里的数据删除了，再把目录删除了)
在这里插入图片描述
查看是否删除成功
在这里插入图片描述

9、移动目录或文件

-mv 具有移动和更名的双重功能
将/ied 目录更名为/ied01,执行命令：hdfs dfs -mv /ied /ied01
在这里插入图片描述
在webUI界面查看是否更名成功
在这里插入图片描述
将/ied01/exam.txt 改名为 /ied01/test.txt
输入命令：hdfs dfs -mv /ied01/exam.txt /ied01/test.txt
在这里插入图片描述
查看更名后的 test.txt 文件的内容
在这里插入图片描述
创建/ied02 目录，将/ied01/test.txt 移动到 /ied02目录，并且改名为 exam.txt
输入命令：hdfs dfs -mv /ied01/test.txt /ied02/exam.txt
在这里插入图片描述
在webUI 界面查看 文件已经移动到/ied02 目录下，原目录的文件已经为空
在这里插入图片描述
在这里插入图片描述

10、文件合并下载

创建sport.txt、music.txt和book.txt 并上传到 /ied01 目录下
在这里插入图片描述
在webUI界面上查看，注意文件是按照字典字母顺序排好了的
在这里插入图片描述
合并/ied01目录的文件下载到本地当前目录的merger.txt
输入命令：hdfs dfs -getmerge /ied01/* marge.txt
使用 -getmerge 命令，下载合并数据导本地，然后合并为文件 merger.txt
在这里插入图片描述
查看刚刚下载的 merger.txt 文件 里面是三个文件合并的数据
在这里插入图片描述

11、检查文件信息

fask: file system check —— 文件系统
检查 /ied01/book.txt 文件，输入命令：hdfs dfs fask /ied01/book.txt -files -blocjs -locations -racks
在这里插入图片描述
HDFS 里面一个文件快大概是128MB，上传一个大于128MB的文件，hadoop-3.3.4.tar.gz 大概是663.21MB 128MB X 5 = 640MB < 663 MB 所以 HDFS会将文件分为6块
在这里插入图片描述
将这个hadoop 压缩包文件上传到HDFS上
执行命令：hdfs dfs -put hadoop-3.3.4.tar.gz /ied01在这里插入图片描述
在webUI界面上查看是否成功
在这里插入图片描述
查看HDFS上hadoop-3.3.4.tar.gz 的文件信息，输入命令：hdfs fsck /ied01/hadoop-3.3.4.tar.gz files -blocks -locations -racks
在这里插入图片描述
在webUI界面上查看更加的方便，总共有六个文件快：Block0 Block1 Block2 Block3 Block4 Block5
在这里插入图片描述
第一个文件快信息
在这里插入图片描述
第六个文件快信息
在这里插入图片描述

12、创建时间戳文件

在 /ied01 目录里创建一个文件，sunshine.txt，执行命令：hdfs dfs -touchz /ied01/sunshine.txt
创建的是一个空文件，大小为0字节
在这里插入图片描述
这种空文件，一般叫做标识文件，也叫做时间戳文件，再次在/ied01目录下创建sunshine.txt 文件，两个相同文件的时间戳不一样
在这里插入图片描述
注意：如果touchz命令的路径指定的文件不存在，那就创建一个空文件，如果指定的文件存在，那就改变该文件的时间戳

13、复制文件或目录

cd: copy 拷贝或者复制

  1. 同名复制文件
    将 /ied01/music.txt 复制到 /ied02 里，输入命令：hdfs dfs -cp /ied01/music.txt /ied02
    在这里插入图片描述
    查看拷贝生成的文件
    hdfs dfs -ls /ied02/music.txt
    在这里插入图片描述
  2. 改名复制文件
    将 /ied01/book.txt 复制到 /ied02目录下，改名为read.txt，执行命令：`hdfs dfs -cp /ied01/book.txt /ied02/read.txt
    在这里插入图片描述
    查看拷贝之后的内容
    在这里插入图片描述
    拷贝之后，原文件依然存在
    在这里插入图片描述
  3. 复制目录
    将 /ied01 目录复制到 /ied03 目录，输入命令：hdfs dfs -cp /ied01 /ied03
    在这里插入图片描述
    查看拷贝之后的 /ied03 的内容，跟 /ied01 的完全相同
    在这里插入图片描述

14，查看文件大小

du：disk usage(查看文件)
输入命令：hdfs dfs -du /ied01/book.txt 一共有13个字符，10个字母和两个空格，包含一个看不见的结束符，一个字符是三个字节，所以是39个字节
在这里插入图片描述

15、上传文件

-copyFromLocal 类似于 -put，执行命令：hdfs dfs -copyFromLocal mergar.txt /ied02
在这里插入图片描述
查看是否上传成功
在这里插入图片描述

16，下载文件

copyToLocal 类似于 -get ，执行命令：hdfs dfs -copyToLocal /ied01/sunshine.txt sunlight.txt
将hdfs 上 /ied01 目录下的 sunshine.txt 文件下载到linux 本地，并且把文件更名为 sunlight.txt
在这里插入图片描述
查看下载并改名的sunlight.txt 文件
在这里插入图片描述

17、查看某目录下文件个数

输入命令：hdfs dfs -count /ied01 count: 计数 /ied01 目录下有5个文件
在这里插入图片描述

18，检查hadoop 本地库

输入命令：hdfs checknative -a
在这里插入图片描述
查看hadoop本地库文件
输入命令：ll /opt/hadoop-3.3.4/lib/native/libhadoop.so.1.0.0
在这里插入图片描述

19、进入和退出安全模式

哪些情况下HDFS 会进入安全模式 (只能读不能写)
(1) 名称节点启动时，进入安全模式，直到fsimage用edits更新完毕才退出安全模式
(2) 当文件块的副本数量少于设置的副本数量，会进入安全模式，直到生成符合要求的副本数，才会退出安全模式，其实也可以通过命令方式进入或退出安全模式

  1. 进入安全模式
    执行命令：hdfs dfsadmin -safemode enter
    注意：进入安全模式之后，只能读不能写
    在这里插入图片描述
    此时，如果要创建目录，就算报错
    在这里插入图片描述
  2. 退出安全模式
    输入命令：hdfs dfsadmin -safemode leave
    在这里插入图片描述
    此时，创建/ied04 就没有任何问题
    在这里插入图片描述

四、Shell定时采集数据到HDFS(案例)

服务器每天会产生大量日志数据，并且日志文件可能存在于每个应用程序指定的data目录中，在不使用其他工具的情况下，将服务器中的日志文件规范地放进HDFS中，通过编写简单的Shell脚本，用于每天自动采集服务器上的日志文件，并将海量的日志上传到HDFS中
创建日志存放的目录 /export/data/logs/log，执行命令：mkdir -p /export/data/logs/log
在这里插入图片描述
创建待上传文件存放的目录/export/data/logs/toupload
执行命令：mkdir -p /export/data/logs/toupload
在这里插入图片描述
查看创建的目录树结构
在这里插入图片描述

1、编程思路与步骤

在这里插入图片描述

1) 配置环境变量

首先在/export/data/logs目录下(如果目录不存在，则需要提前创建) 使用 vim 命令创建 upload2HDFS.sh 脚本文件，在编写Shell脚本时，需要设置Java环境变量和Hadoop环境变量，这样做是用来提高系统的可靠性，保障运行程序的机器在没有配置环境变量的情况下，依然能够运行脚本

2) 准备日志存放目录和待上传文件

为了让开发者便于控制上传文件的流程，可以在脚本中设置一个日志存放目录和待上传文件目录，若上传过程中发生错误只需要查看该目录就能直到文件的上传进度

3) 设置日志文件上传的路径

设置上传的HDFS目标路径，命名格式以时间结尾，并且输出打印信息

4) 实现文件上传

上传文件的过程就是遍历文件目录的过程，将文件首先移动到待上传目录，再从待上传目录中上传到HDFS中。若是在每天12点凌晨执行一次，我们可以使用Linux Crontab表达式执行定时任务

2、编写脚本，实现功能

进入 /export/data/logs 目录
在这里插入图片描述
执行命令：vim upload2HDFS.sh 编写以下代码

#!/bin/bash

JAVA_HOME=/opt/jdk1.8.0_162
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
export HADOOP_HOME=/opt/hadoop-3.3.4/
export PATH=${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin:$PATH
#日志文件存放的目录，需手动创建
log_src_dir=/export/data/logs/log/
#待上传文件存放的目录，需手动创建
log_toupload_dir=/export/data/logs/toupload/
#设置日期
date1=`date +%Y_%m_%d`
#日志文件上传到hdfs的根路径
hdfs_root_dir=/data/clickLog/$date1/
#打印环境变量信息
echo "envs: hadoop_home: $HADOOP_HOME"
#读取日志文件的目录，判断是否有需要上传的文件
echo "log_src_dir: $log_src_dir"
ls $log_src_dir | while read fileName
do
        if [[ "$fileName" == access.log.* ]]; then
                date=`date +%Y_%m_%d_%H_%M_%S`
                #将文件移动到待上传目录并重命名
                echo "moving $log_src_dir$fileName to $log_toupload_dir"lzy_click_log_$fileName"$date"
                mv $log_src_dir$fileName $log_toupload_dir"lzy_click_log_$fileName"$date
                #将待上传的文件path写入一个列表文件willDoing，
                echo $log_toupload_dir"lzy_click_log_$fileName"$date >> $log_toupload_dir"willDoing."$date
        fi
done
#找到列表文件willDoing
ls $log_toupload_dir | grep will | grep -v "_COPY_" | grep -v "_DONE_" | while read line
do
        #打印信息
        echo "toupload is in file: $line"
        #将待上传文件列表willDoing改名为willDoing_COPY_
        mv $log_toupload_dir$line $log_toupload_dir$line"_COPY_"
        #读列表文件willDoing_COPY_的内容（一个一个的待上传文件名）
        #此处的line 就是列表中的一个待上传文件的path
        cat $log_toupload_dir$line"_COPY_" | while read line
        do
                 #打印信息
                echo "puting...$line to hdfs path...$hdfs_root_dir"
                hdfs dfs -mkdir -p $hdfs_root_dir
                hdfs dfs -put $line $hdfs_root_dir
        done
        mv $log_toupload_dir$line"_COPY_"  $log_toupload_dir$line"_DONE_"
done

编辑权限，执行命令：chomd u+x upload2HDFS.sh
在这里插入图片描述
查看 /export 目录树结构
在这里插入图片描述

3、运行脚本，查看结果

  • 为了模拟生产环境，在日志存放目录/export/data/logs/log/中，手动创建日志文件，access.log表示正在源源不断的产生日志的文件，access.log.1、access.log.2等表示已经滚动完毕的日志文件，即为待上传日志文件
  • 在upload2HDFS.sh文件路径下运行脚本，先将日志存放目录log中的日志文件移到待上传toupload目录下，并根据业务需求重命名；然后脚本执行“hdfs
    dfs -put”上传命令，将待上传目录下的所有日志文件上传至HDFS；最后通过HDFS
    WebUI界面可看到需要采集的日志文件已按照日期分类，上传至HDFS中。
  • 创建四个日志文件（必须以access.log.打头）
    在这里插入图片描述
    查看 /export 目录树结构
    在这里插入图片描述

输入命令：./upload2HDFS.sh 可以看到目录后面出现了时间，那就是日志的时间
在这里插入图片描述
查看/export 目录树解构
在这里插入图片描述
在webUI界面上查看上传的日志文件
在这里插入图片描述

气质&末雨
关注
专栏目录
2.4 Apache Hadoop、HDFS - HDFS shell操作
qq_40947195的博客
04-17 674
文章目录HDFS shell操作一、HDFS shell命令行解释说明介绍文件系统协议区别参数说明二、HDFS shell命令行常用操作1、创建文件夹2、查看指定目录下内容\3、上传文件到HDFS指定目录下4、查看HDFS文件内容5、下载HDFS文件6、拷贝HDFS文件7、追加数据到HDFS文件中参考 HDFS shell操作 一、HDFS shell命令行解释说明 介绍 命令行界面（英语：command-line interface，缩写：CLI），是指用户通过键盘输入指令，计算机接收到指令后，予以执行
HDFS常用Shell命令
01-07
本篇文章只是简单阐述一下HDFS中常用命令, 在实际开发中可使用 bin/hadoop fs查看命令详情 使用HDFS基本语法: bin/hadoop fs OR bin/hdfs dfs 注:为帮助快速理解并使用本文中使用T表示target 基本命令 1.启动hadoop集群 HDFS相关组件: sbin/start-dfs.sh YARN相关组件: sbin/start-yarn.sh 2.显示目录信息 -ls hadoop fs -ls $pdir 3.在HDFS上创建目录 -mkdir hadoop fs -mkdir -p $pdir/$fname
HDFS的shell操作
qq_65274143的博客
11-17 1782
HDFS的shell操作
HDFS shell 基本操作命令
最新发布
slb190623的博客
08-06 300
HDFS shell 基本操作命令
大数据：HDFS的Shell常用命令操作
梁辰兴的博客
11-26 5218
HDFS允许用户数据组织成文件和文件夹的方式，它提供一个叫DFSShell的接口，使用户可以和HDFS中的数据交互。命令集的语法跟其他用户熟悉的shells（bash,csh）相似。Shell在计算机科学中俗称“壳”，是提供给使用者使用界面的进行与系统交互的软件，通过接收用户输入的命令执行相应的操作，Shell分为图形界面Shell和命令行式Shell。文件系统（FS）Shell包含了各种的类Shell的命令，可以直接与Hadoop分布式文件系统以及其他文件系统进行交互。三种Shell命令方式命令。
Hadoop 系列（六）—— HDFS 常用 Shell 命令
baoyonglun2437的博客
09-17 281
1. 显示当前目录结构 # 显示当前目录结构 hadoop fs -ls <path> # 递归显示当前目录结构 hadoop fs -ls -R <path> # 显示根目录下内容 hadoop fs -ls / 2. 创建目录 # 创建目录 hadoop fs -mkdir <path> # 递归创建目录 hadoop fs -mkdir -p ...
实验二、HDFS shell操作及HDFS Java API编程
04-10
适合刚接触hadoop的学生或小白，内容包括HDFS shell操作及HDFS Java API编程 有图片有代码
第二章 HDFS的Shell操作.pptx
08-10
HDFS的Shell操作，bin/hadoop fs 具体命令 OR bin/hdfs dfs 具体命令 dfs是fs的实现类等等。
大数据上课笔记之HDFS的Shell操作
Cisyamr的博客
11-25 1358
Shell在计算机科学中俗称“壳”，是提供给使用者使用界面的进行与系统交互的软件，通过接收用户输入的命令执行相应的操作，Shell分为图形界面Shell和命令行式Shell。文件系统（FS）Shell包含了各种的类Shell的命令，可以直接与Hadoop分布式文件系统以及其他文件系统进行交互。
HDFS的shell常用命令大全
Null的博客
03-28 2955
1.启动相关    启动zookeeper：     zkServer.sh start    启动HDFS   :  不管在集群中的那个节点都可以    start-dfs.sh    启动YARN   ：  只能在YARN主节点中进行启动    start-yarn.sh    HDFS :  http://hadoop02:50070    YARN ： http://hadoop05:80...
HDFS的shell命令
qq_52772669的博客
06-06 1044
hdfs的shell命令可以hadoop fs开头也可以是hdfs dfs开头。
HDFS常用的shell命令
CHEN的博客笔记
10-28 9859
HDFS Shell命令使用 hadoop fs与hdfs dfs的命令的使用是相似的，本实验使用的是hdfs dfs命令，所有命令的操作都是在hadoop用户下进行。 1.1.1.1. mkdir：创建文件夹 使用方法：hdfs fs -mkdir [-p] 接受路径指定的uri作为参数，创建这些目录。其行为类似于Unix的mkdir -p，它会创建路径中的各级父目录。 示例1:在分布式主目录下新建文件夹test [hadoop@master ~]$ hdfs dfs -mkdir /test [had
hdfs的shell操作
weixin_33721344的博客
04-11 93
在搭建环境的过程中我们用过:  以   hadoop fs   表示file system 开头   查询所有的hdfs shell命令 [root@localhost current]# hadoop fs Usage: hadoop fs [generic options] [-appendToFile &lt;localsrc&gt; ... &lt;dst&g...
HDFS的Shell操作
Gongmoye的博客
04-13 1299
HDFS的Shell操作
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值