Shell实时监控目录并将数据修改格式

工作需求是将指定目录下的文件,进行格式修改,然后将其cp到指定的flume的目录,但是由于权限问题,不能直接修改源文件,所以将数据cp到临时目录进行修改,

这里将源脚本进行了阉割,大部分参数都没有指定,主要是通过

find $source_pass_path$datedaydir/ -name "$1*.json" -newermt "$b_time" ! -newermt "$c_time" | xargs -i cp {} $target_root_path$1/

 这段代码查找指定的文件,其中c_time为当前时间,然后会查找b_time到c_time之内的时间所生成的文件,将其cp到指定目录,前面的b_time是由一个文件不断刷新时间得来的,然后此脚本建议是后台多线程运行,然后通过更新time.txt文件来进行b_time时间的更新。

#!/bin/bash


process_pass_data(){
# 每次启动的时候指定当前时间为开始时间,写入time.txt
time=`date +"%Y-%m-%d %H:%M:%S"`
time_path="/home/mjxt/shell/"
time_name="time$1.txt"
if [ -f $time_path$time_name ];then
    b_time=`head -n 1 $time_path$time_name`
else
    touch $time_path$time_name
cat > /home/mjxt/shell/time$1.txt << EOF
${time}
EOF
b_time=`head -n 1 $time_path$time_name`
fi

while true
do
datedir=`date -d "0 min ago" +"%Y%m%d%H"`
datedaydir=${datedir:0:8}
datehourdir=${datedir:8:9}
c_time=`date +"%Y-%m-%d %H:%M:%S"`
find $source_pass_path$datedaydir/ -name "$1*.json" -newermt "$b_time" ! -newermt "$c_time" | xargs -i cp {} $target_root_path$1/
    sed -i ':a;N;$!ba;s/\n/ /g' $target_root_path$1/*
    sed -i 's/ //g' $target_root_path$1/*
    sed -i 's/}{/}\n{/g' $target_root_path$1/*
    mv $target_root_path$1/* $flume_folder$1/
b_time=$c_time
echo $b_time > $time_path$time_name
sleep 1
done
}


process_pass_data 01&
process_pass_data 02&


通过这restart.sh 来重启上面的real.sh脚本,不过这个是需要一直开着线程的,根据需求考虑使用。

#!/bin/bash
restart(){
process=`ps -ef|grep real.sh |grep -v grep|grep -v PPID|awk '{print $2}'`
  for i in $process
  do
    echo "kill the process [$i]"
    kill -9 $i
  done

cd /home/mjxt/shell/
./real.sh >/dev/null 2>&1 &

}
restart

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值