linux使用flock文件锁解决脚本周期内未执行完重复执行

最新推荐文章于 2024-01-23 16:12:52 发布

Data_IT_Farmer

最新推荐文章于 2024-01-23 16:12:52 发布

阅读量3k

点赞数 1

分类专栏： Linux crontab任务重复执行文章标签： linux crontab flock文件锁

Linux 同时被 2 个专栏收录

29 篇文章 12 订阅

订阅专栏

crontab任务重复执行

1 篇文章 0 订阅

订阅专栏

linux使用flock文件锁解决脚本周期内未执行完重复执行

关于flock

flock 是对于整个文件的建议性锁。也就是说，如果一个进程在一个文件（inode）上放了锁，那么其它进程是可以知道的。（建议性锁不强求进程遵守。）最棒的一点是，它的第一个参数是文件描述符，在此文件描述符关闭时，锁会自动释放。而当进程终止时，所有的文件描述符均会被关闭。

应用场景

linux的crontab命令，可以定时执行操作，最小周期是每分钟执行一次。现在有个问题，如果设定了任务每2分钟执行一次，但有可能执行该任务需要花费10分钟，这时系统会再执行任务。导致两个相同的任务在执行。这种情况下可能会出现一些并发问题，严重时会导致出现脏数据/性能瓶颈的恶性循环。
通过使用flock建立排它锁可以规避这个问题，如果一个进程对某个加了排他锁，则其它进程无法加锁，可以选择等待超时或马上返回。

例如
cat /opt/sleep.sh

#!/bin/bash
echo "----------------------------------"
echo "start at `date '+%Y-%m-%d %H:%M:%S'` ..."
sleep 300s
echo "finished at `date '+%Y-%m-%d %H:%M:%S'` ..."

设置计划任务每2分钟执行

2/* * * * * /opt/sleep.sh >> /tmp/sleep.log

而实际情况是10分钟后我们查看进程ps aux|grep sleep.sh 可以看到有5个进程在运行,我们则希望执行完上一任务，再执行下一任务，如果上一任务未执行完成，则这次的任务不执行，直到下一周期再判断，如果上一任务执行完成，则可以执行下一任务。

改进方法

我们可以使用一个锁文件，来记录任务是否执行中。
首先判断/tmp/sleep.lock是否存在，如果不存在，则创建，然后执行任务，任务执行完后删除锁文件。如果锁文件已经存在，则退出这次的任务。这样的确可以保证任务执行其间不会有新任务执行，但这样需要在任务文件中写代码做判断，不方便。能不能把任务锁定的判断放在任务以外呢？

lock是Linux下的文件锁。

当多个进程可能会对同样的数据执行操作时，这些进程需要保证其它进程没有也在操作，以免损坏数据。

通常，这样的进程会使用一个「锁文件」，也就是建立一个文件来告诉别的进程自己在运行，如果检测到那个文件存在则认为有操作同样数据的进程在工作。这样的问题是，进程不小心意外死亡了，没有清理掉那个锁文件，那么只能由用户手动来清理了。

使用linux flock 文件锁实现任务锁定，解决冲突

格式

flock [-sxun][-w #]
flock [-sxon][-w #] file [-c] command

选项

-s,--shared：获取一个共享锁，在定向为某文件的FD上设置共享锁而未释放锁的时间内，其他进程试图在定向为此文件的FD上设置独占锁的请求失败，而其他进程试图在定向为此文件的FD上设置共享锁的请求会成功。
-x，-e，--exclusive：获取一个排它锁，或者称为写入锁，为默认项。
-u，--unlock：手动释放锁，一般情况不必须，当FD关闭时，系统会自动解锁，此参数用于脚本命令一部分需要异步执行，一部分可以同步执行的情况。
-n，--nb, --nonblock：非阻塞模式，当获取锁失败时，返回1而不是等待。
-w, --wait, --timeout seconds：设置阻塞超时，当超过设置的秒数时，退出阻塞模式，返回1，并继续执行后面的语句。
-o, --close：表示当执行command前关闭设置锁的FD，以使command的子进程不保持锁。
-c, --command command：在shell中执行其后的语句。

独占锁/排他锁

设置锁
使用计划任务执行sleep.sh，文件锁使用独占锁，如果锁定则失败不等待。这样当任务未执行完成，下一任务判断到/tmp/mytest.lock被锁定，则结束当前的任务，下一周期再判断。参数为-xn

*/2 * * * * flock -xn /opt/crontab_lock -c "/bin/bash /opt/sleep.sh >>/opt/sleep.log "

创建独占锁/排他锁，加上等待超时/秒
启动的定时任务等待了20秒后，上一个任务释放了锁，任务可以马上拿到锁，并继续执行

*/2 * * * * flock -x -w 20 /opt/crontab_lock -c "/bin/bash /opt/sleep.sh >>/opt/sleep.log "

crontab防止脚本周期内未执行完重复执行

个人体会: flock -xn my.lock commond
my.lock是一个文件，应该可以是任意文件，可以新建一个空文件
当flock 获得锁后就会执行后面的 commond
测试过程: $1: flock -xn my.lock sleep 20
$2: flock -xn my.lock ls
只有当1返回后， 2的ls才会成功

crontab防止脚本周期内未执行完重复执行

如果某脚本要运行30分钟，可以在Crontab里把脚本间隔设为至少一小时来避免冲突。而比较糟的情况是可能该脚本在执行周期内没有完成，接着第二个脚本又开始运行了。如何确保只有一个脚本实例运行呢？一个好用的方法是利用lockf（FreeBSD 8.1下为lockf，CentOS 5.5下为flock），在脚本执行前先检测能否获取某个文件锁，以防止脚本运行冲突。

lockf的参数如下。

-k：一直等待获取文件锁。

-s：silent，不发出任何信息，即使拿不到文件锁。

-t seconds：设定timeout的时间是seconds秒，如果超过时间，则自动放弃。

以下Crontab计划任务执行前，需获取临时文件create.lock的文件锁，此项Crontab计划任务的内容如下：