将本地文件目录移动(或cp)到hdfs下shell脚本

这是一个Shell脚本,确保同一时间仅有一个实例运行,防止操作冲突。脚本功能包括将本地文件目录同步到HDFS,保持相同路径。执行命令为sh uploadHadoop.sh /目标目录。
摘要由CSDN通过智能技术生成

写了一下脚本,实现了以下功能:

1、保证同一时间只有一个该脚本的实例在运行,避免造成操作冲突

2、移动本地文件目录到hdfs下,目录路径相同

uploadtoHadoop.sh

#!/bin/bash
#pid=`ps -ef | grep -v grep | grep uploadtoHadoop | awk '{print $2}'`
pid=`ps -ef | grep -v grep | grep uploadtoHadoop | wc -l`

usage()
{
        echo "usage: `basename $0` /data/192.168.0.1/20110313/***/"
}
URL=$1

if [ $# -ne 1 ]
then
        usage
        exit 1
fi

if [ "$pid" = "2" ]
then
        echo start

        hadoop fs -mkdir $1/
        hadoop fs -moveFromLocal $1/* $1/

        echo complete
else
        echo program exist!
fi

 

使用如下 sh uploadHadoop.sh /待移动的目录名称

start

complete

如果该脚本同时执行2个实例,第二个实例会报错,退出。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
>