linux(八)shell 多线程运行-脚本执行率优化篇

目录

一、场景

二、初步的优化

三、线程数控制优化方案


一、场景

   以下代码在执行的时候,整个for循环执行完毕,大概需要10000s的时间,这个时间是相当长的

#!/bin/bash
#

for(( j=0;j<=10000;j++ ))
do
   echo "success"$j
   sleep 1s
done

二、初步的优化

 为了让以上代码段执行效率提高,时间缩短,那么我们需要对代码进行优化,代码如下

#!/bin/bash
#

for(( j=0;j<=10000;j++ ))
do
{
   echo "success"$j
   sleep 1s
}&
done
wait

此时的代码可能在1s内就能执行完,原因是此时执行的代码自动生成了10000个线程,待所有的线程结束后,才进入主线程。那么问题来了。

1.如果自动生成10000个线程,都交给了计算机本身的cpu进行计算,那么如果计算机相对应的负荷只支持88个怎么办。

2.生成的线程是否及时回收关闭。

3.那如何进行对线程数进行控制。

三、线程数控制优化方案

#!/bin/bash
THREAD_NUM=500
TMP_FILE="/tmp/$$.fifo"

trap "exec 6>&-;exec 6<&-;exit 0" 2     #脚本运行过程中,如果接收到信号2(Ctrl+C)中断命令,则关闭文件描述符6的读写,并正常退出

mkfifo ${TMP_FILE}  #创建有名管道
exec 6<>${TMP_FILE} #创建文件描述符,文件描述符可使用3-(n-1),n取值范围:ulimit -n。以读写(<,读;>,写)方式绑定TMP_FILE管道文件。标识对文件描述符6的所有操作等同于对管道文件TMP_FILE的操作
rm -rf ${TMP_FILE}  #为什么不直接使用管道文件?因为管道的一个重要特性:读写必须同时存在,缺失某个操作,另一个操作就会滞留。绑定文件描述符(读、写绑定)正好解决了这个问题

for ((J=1;J<=${THREAD_NUM};J++)) #向管道中中输入THREAD_NUM个并发数量的空行。为什么写入空行而不是字符?那是因为管道文件的读取是以行为单位。
do
    echo >&6
done

START_TIME=`date +%s`

for ((I=1;I<=1000;I++))
do 
    read -u6 #从管道中读取行,每次读一行。每读一次就会减少一个空行,直到管道中没有回车符,所有行读取完毕后执行挂起,实现线程数量控制。
    {
        echo "${I}: success" ; sleep 2
        echo >&6    #任务在后台执行结束后,向文件描述符中写入一个空行。如果不在向描述符中写入空行,当后台放入THREAD_NUM个任务之后,由于描述符中没有可读取的空行,会导致read -u6停顿。
    }&
done
wait

STOP_TIME=`date +%s`
echo "TIME: $(expr ${STOP_TIME} - ${START_TIME})"
 
exec 6>&-
exec 6<&-

根据线程控制的方案,我们可以看到,10000个执行效率仅需14秒左右,此处的线程设置为1000,虽然比不上第二种,但是这种方式是可控的。

  • 8
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值