FTP 大文件上传优化

优化方案思路：通过tar把大文件切分成多个100m大小的文件，然后通过多进程上传。

脚本如下：

#!/bin/bash
#######################################
#Author:Jianjun Zhang
#Create Data:2017-03-22
#Propose:For big file upload
#Modify Data:
#######################################
#使用tar切分大文件成多个100m的小文件
tar -czf - ftp_test.dmp | split -b 100m -d - ftp_test.tar.gz  
#计算切分成了多少个小文件
fc=`ls -l |grep "ftp_test.tar.gz*" |wc -l`
echo $fc
#使用for循环
for ((a=0; a<$fc; a++))
do
if [ "$a" -lt 10 ]; then
i=0"$a"
else 
i="$a"
fi
#查看ftp进程数量，当小于5个FTP进程的时候继续在启用一个FTP进程
fpc=`ps -ef|grep "ftp -v -n 192.168.1.100" |wc -l`
while [ "$fpc" -gt 5 ]
do
        sleep 5
        fpc=`ps -ef|grep "ftp -v -n 192.168.1.100" |wc -l`
        echo $fpc
done
        echo $i          
#FTP部分  
echo user ftp_test ftp_test > ftp"$i".txt
echo binary >> ftp"$i".txt
echo hash >> ftp"$i".txt
echo prompt >> ftp"$i".txt
echo cd  result_bj >>ftp"$i".txt
echo passive >>ftp"$i".txt
echo put  ftp_test.tar.gz"$i" >> ftp"$i".txt
echo bye >> ftp"$i".txt
echo start upload the expdp file.
sleep 2
#后台执行FTP
ftp -v -n 192.168.1.100  < ftp"$i".txt &
rm -rf ftp"$i".txt
done

结论：上传时间 约为 单个文件上传的1/5，且不会出现FTP上传进程僵死的情况，缺点是这样上传很占用带宽。

来自 “ ITPUB博客 ” ，链接：http://blog.itpub.net/15489979/viewspace-2135883/，如需转载，请注明出处，否则将追究法律责任。

转载于:http://blog.itpub.net/15489979/viewspace-2135883/