• shell多线程(2)之基于管道实现并发


    在shell脚本里批量执行程序是比较常见的方式,如果程序很多,每个执行时间比较长,则顺序执行需要花费大量的时间。

    此时并发就成为我们考虑的方向。

    上篇《shell多线程》中我们已经简单实现了基于for循环的并发,可以显著提高工作效率;

    缺点是CPU的核心不是无限的,如果全部占用,则会影响系统的正常运行。

    这个时候我们就考虑利用linux系统的管道来进行最大并发数的管控。

    1.举例:

    一个厕所有10个蹲位,如果100个人来使用,则势必形成竞争,这时管理员给每个蹲位一个锁和一把钥匙,先来的人拿钥匙开锁开始使用;

    蹲位全部占满后后面的人等待,当有一个蹲位空出,则交出钥匙给等待队列中的第一个人,如此循环,直到等待队列为空。

    2.文件描述符

    管道具有存一个读一个,读完一个就少一个,没有则阻塞,放回的可以重复取,这正是队列特性,解决这个问题的关键就是文件描述符了。

    3. mkfifo /tmp/fd1     

    创建有名管道文件exec 3<>/tmp/fd1,创建文件描述符3关联管道文件,这时候3这个文件描述符就拥有了管道的所有特性,还具有一个管道不具有的特性:无限存不阻塞,无限取不阻塞,而不用关心管道内是否为空,也不用关心是否有内容写入引用文件描述符: &3可以执行n次echo >&3 往管道里放入n把钥匙

    4.完整代码

    #!/bin/bash
    
    [ -e /tmp/fd1 ] || mkfifo /tmp/fd1 #创建有名管道
    exec 3<>/tmp/fd1                   #创建文件描述符,以可读(<)可写(>)的方式关联管道文件,这时候文件描述符3就有了有名管道文件的所有特性
    rm -rf /tmp/fd1                    #关联后的文件描述符拥有管道文件的所有特性,所以这时管道文件可以删除,我们留下文件描述符来用就可以
    for ((i=1;i<=10;i++))
    do
            echo >&3                   #&3代表引用文件描述符3,这条命令代表往管道里面放入了一个"令牌",文件描述符可以使用0/1/2/225之外的其他数字,这几个已被占用
    done
     
    for ((i=1;i<=100;i++))
    do
    read -u3                           #代表从管道中读取一个令牌
    {
            sleep 1  #sleep 1用来模仿执行一条命令需要花费的时间(可以用真实命令来代替)
            echo 'success'$i       
            echo >&3                   #代表我这一次命令执行到最后,把令牌放回管道
    }&
    done
    wait
     
    exec 3<&-                       #关闭文件描述符的读
    exec 3>&-                       #关闭文件描述符的写

    4.由于从前写的脚本大部分都是以方法的形式存在的,所以想要落地就需要对上面的脚本做一些修改,保证每次循环都会执行一个方法

    t1Fun(){
    echo 1
    }
    t2Fun(){
    echo 2
    }
    t3Fun(){
    echo 3
    }
    t4Fun(){
    echo 4
    }
    [ -e /tmp/fd1 ] || mkfifo /tmp/fd1
    exec 3<>/tmp/fd1
    rm -rf /tmp/fd1
    for ((i=1;i<5;i++))
    do
        echo >&3
    done
    
    for ((i=1;i<=4;i++))
    do 
    read -u3
    {
        sleep 1
        if [ $i -eq 1 ];then
            t1Fun
        elif [ $i -eq 2 ];then
            t2Fun
        elif [ $i -eq 3 ];then
            t3Fun
        else
            t4Fun
        fi
        echo >&3
    }&
    done 
    wait
    
    exec 3<&-
    exec 3>&-
  • 相关阅读:
    ubuntu多版本java并切换环境
    ssh 免密登陆
    linux系统的文件和目录
    docker-compose简介及使用
    vue3.0 + html2canvas 一键截图
    vue3.0 无法获取对象值
    算法——回溯算法 (Back Tracking) (转)
    VMware——CentOS-64 7——桥接模式无法连接网络的问题
    groovy 字符串和闭包
    https://blog.didispace.com/
  • 原文地址:https://www.cnblogs.com/wangbin2188/p/9258874.html
Copyright © 2020-2023  润新知