本需求是自己负责的一个生产系统上,有大量以zip和rar结尾的压缩文件散落在文件系统的各个文件夹,先在需要把压缩包里包含某一个特定文件(如tftpd32.exe或Tftpd32.exe,版本较旧),全都替换成比较新的tftpd32.exe版本。压缩文件总数约5000个,需要替换的数量约1500个。
因为是生产环境,不敢轻易乱动,所以脚本考虑的因素就非常多,不允许中间执行过程出现异常,所以找到文件后实际执行替换操作之前做好备份,并且将操作过程记录日志。
以下几点需要考虑:
分别处理zip和rar文件,为减低脚本的复杂程度,分作两个shell脚本。
rar在Linux下默认是没有安装解压缩工具,下载rarlinux-x64-5.2.0.tar.gz
zip包中文件含有中文文件名,unzip测试解压缩或列出内容时出现文件名乱码,原因是zip在压缩时不记录当时的编码格式。这个问题非常棘手,乱码打进压缩包是绝对不允许的,网上有几种解压办法有几种办法都不能很好的应对我的场景:并不需要实际解压zip文件,而只需使用 l ——列出文件列表、获取目录及文件名,d ——从压缩包中直接删除某个文件,a ——向压缩包添加一个文件。实际解压到文件系统上是不是乱码我们并不关心。
最后的解决办法是使用p7zip工具,配合LANG变量解决。
向压缩包里添加新文件时,要保持里面的目录结构,则必须在文件系统上存在同样的 相对目录/文件 。所以每次都要在脚本执行目录下创建临时目录tmp_dir,还要及时删除。但如果文件在压缩包的根目录下,这个临时目录就是当前脚本执行目录。
有可能会存在一个压缩包中多个文件夹中包含不止一个tftpd32.exe文件。
每个文件都有一个CRC值,处理文件名大小写不同但实质是同一个文件时有效。
以下脚本使用说明:
变量说明
filelist 变量设定你所需要检查的压缩文件列表(绝对路径),可以通过find /your/dir/ -name *.rar | sort | uniq > testfile。与脚本在相同目录下
existlist 变量是从filelist文件中得到的包含特定文件的列表,脚本执行完后可以查看
errorlist 变量是从filelist文件列表中得到的不包含特定文件的列表,当然也有可能这个压缩文件本身不完整
filebak 变量指定要替换的那个压缩文件备份的目录
oldfile 指定要替换的那个文件名
newfile 指定新文件的文件名,注意这个文件一定要在脚本当前目录下
binrar,bin7z 指定解压缩命令目录,因为7z和rar都不是CentOS自带的
fl 是filelist文件列表里的每一条记录
exist 压缩文件fl的内容列表里包含tftpd32.exe的记录,可能有多行
dirfiles 处理exist的结果,形如压缩包里的目录结构 your/dir/tftpd32.exe,可能有多行
df 是dirfiles中的单行记录,它的前面目录部分便是tmp_dir
是否有必要root用户执行看个人情况,执行后部分文件的属主可能会变,可用chown user1.user1 -R /your/dir/恢复
有部分zip文件无法使用7z,但文件本身正常,从日志可以看到error信息
tftpd32.exe区分大小写,如果要查找替换Tftpd32.exe请修改后在执行(确保grep没有-i选项)
可以处理的情况
压缩文件中无tftpd32.exe
要替换的tftpd32.exe文件在压缩文件根目录下
要替换的tftpd32.exe在嵌套子目录中
压缩文件中存在多个tftpd32.exe
压缩文件本身存在问题
该脚本有一定的危险性(虽然已备份),在正式环境中运行之前一定要多做测试。并且运行一次之后,谨慎运行第二次,因为可能会导致备份被覆盖(可换备份目录)
假如出现异常,要从备份文件恢复所有修改的文件,可以根据$existlist和filebak下的目录列表拼凑cp语句
建议执行方法./rar_new.sh | tee your.log,事后可从your.log中查看日志
处理rar的脚本rar_new.sh:
#!/bin/bash
filelist="testfile"
# filelist="crm_rar.txt"
existlist="${filelist}.exist"
errorlist="${filelist}.not"
filebak="/crmbak/rarbak"
oldfile=tftpd32.exe
newfile=tftpd32.exe
binrar="/usr/bin/rar"
IFS=$'\n'
echo "files list bellow have ${oldfile}:" > $existlist
echo "files list bellow do not have ${oldfile} or may have error:" > $errorlist
for fl in `cat $filelist`
do
# ${oldfile} exist or not, file error or not
exist=`$binrar l $fl |grep ${oldfile}`
if [ $? -ne 0 ];then
echo "$fl" >> $errorlist
continue
else
# get extracting dir and filename, could be more than one file
dirfiles=`echo "$exist" | awk '{for (i=5;i<=NF;i++) printf $i" " ; print ""}'`
fi
# echo "$exist"
if [ "$dirfiles" != "" ];then
echo "$fl" | tee -a $existlist
# backup original file
/bin/cp -af "$fl" "$filebak/"
echo "--- $fl is backed up in $filebak"
echo " $dirfiles"
for df in `echo "$dirfiles"`
do
# create temp directory to put new ${newfile} for compress
tmp_dir=$( echo "$df" | awk -F '/' '{for(i=1;i
处理zip的脚本zip_new.sh:
#!/bin/bash
# filelist="test_filelist"
filelist="crm_zip.txt"
existlist="${filelist}.exist"
errorlist="${filelist}.not"
filebak="/crmbak/zipbak"
oldfile=Tftpd32.exe
newfile=tftpd32.exe
bin7z="/usr/bin/7z"
export LANG="zh_CN.GB18030"
IFS=$'\n'
echo "files list bellow have ${oldfile}:" > $existlist
echo "files list bellow do not have ${oldfile} or may have error:" > $errorlist
for fl in `cat $filelist`
do
# ${oldfile} exist or not, file error or not
exist=`$bin7z l $fl |grep ${oldfile}`
if [ $? -ne 0 ];then
echo "$fl" >> $errorlist
continue
else
# get extracting dir and filename, could be more than one file
dirfiles=`echo "$exist" | awk '{for (i=6;i<=NF;i++) printf $i" " ; print ""}'`
fi
# echo ===== "$dirfiles"
if [ "$dirfiles" != "" ];then
echo "$fl" | tee -a $existlist
# backup original file
/bin/cp -af "$fl" "$filebak/"
echo "--- $fl is backed up in $filebak"
echo " $dirfiles"
for df in `echo "$dirfiles"`
do
# create temp directory to put new ${newfile} for compress
tmp_dir=$( echo "$df" | awk -F '/' '{for(i=1;i
原文链接地址:http://seanlook.com/2015/01/29/shell-batch-replace-files-from-rar-zip/