幂等性设计

1.概念

   幂等性原本是数学上的概念,即使公式:f(x)=f(f(x)) 能够成立的数学性质。用在编程领域,则意为对同一个系统,使用同样的条件,一次请求和重复的多次请求对系统资源的影响是一致的

2.场景

   2.1在一次发票申请传入接口的时候,两次发票申请的单号一样,接口不能接收两个同样的单据,为防止重复,需要设计幂等。

   2.2在更新业务数据状态或者财务系统设计金额的时候更新操作在分布式系统中需要防止状态更新错误或者金额操作错误,例如重复累加或重复累减。

3.幂等的设计方法

    3.1  建立防重表(唯一索引)

         防重表可以设置在单表中,也可以放在业务数据表中,用唯一的业务字段作为防重字段,例如单号、身份证号、系统滚唯一序列号,mysql数据库中该字段是UNIQUE KEY。防重表必须设置在单表中,分表唯一键没法防重。在逆向操作中,如果数据要重复进入系统,单表需要删除防重表和业务数据表,再重新插入新数据。业务数据表防重只需要删除业务数据表,再重新插入新数据即可。

     3.2 乐观锁

         基于数据的版本version或者数据的状态或时间戳进行更新,在数据更新的时候,老版本为当前版本,才允许把当前的版本更新为新的版本,一般在数据库中用sql语句加乐观锁,而不是先读再写。是一种用户自己实现的一种锁机制,在数据更新提交时发现冲突则返回错误信息。

     3.3 token令牌+分布式锁(redis实现分布式锁)

在多线程并发的情况下,我们可以使用锁来保证一个代码块在同一时间内只能由一个线程访问。比如Java的synchronized关键字和Reentrantlock类等等。

这样子可以保证在同一个JVM进程内的多个线程同步执行。

如果在分布式的集群环境中,如何保证不同节点的线程同步执行呢?

怎么才能在分布式系统中,实现不同线程对代码和资源的同步访问?

对于单进程的并发场景,我们可以使用语言和类库提供的锁。对于分布式场景,我们可以使用分布式锁。

那么怎么才能实现分布式系统中的锁呢?

分布式锁有许多中实现方法,下面简单列举一下。

分布式锁的实现有哪些?

1.Memcached分布式锁

利用Memcached的add命令。此命令是原子性操作,只有在key不存在的情况下,才能add成功,也就意味着线程得到了锁。

2.Redis分布式锁

和Memcached的方式类似,利用Redis的setnx命令。此命令同样是原子性操作,只有在key不存在的情况下,才能set成功。(setnx命令并不完善,后续会介绍替代方案)

3.Zookeeper分布式锁

利用Zookeeper的顺序临时节点,来实现分布式锁和等待队列。Zookeeper设计的初衷,就是为了实现分布式锁服务的。

首先讲一下Redis的分布式锁,这种实现方式比较有代表性。

如何用Redis实现分布式锁?

Redis分布式锁的基本流程并不难理解,但要想写得尽善尽美,也并不是那么容易。在这里,我们需要先了解分布式锁实现的三个核心要素:

1.加锁

最简单的方法是使用setnx命令。key是锁的唯一标识,按业务来决定命名。比如想要给一种商品的秒杀活动加锁,可以给key命名为 “lock_sale_商品ID” 。而value设置成什么呢?锁的value值为一个随机生成的UUID。我们可以姑且设置成1。加锁的伪代码如下:    

setnx(key,1)

当一个线程执行setnx返回1,说明key原本不存在,该线程成功得到了锁;当一个线程执行setnx返回0,说明key已经存在,该线程抢锁失败。

2.解锁

有加锁就得有解锁。当得到锁的线程执行完任务,需要释放锁,以便其他线程可以进入。释放锁的最简单方式是执行del指令,伪代码如下:

del(key)

释放锁之后,其他线程就可以继续执行setnx命令来获得锁。

3.锁超时

锁超时是什么意思呢?如果一个得到锁的线程在执行任务的过程中挂掉,来不及显式地释放锁,这块资源将会永远被锁住,别的线程再也别想进来。

所以,setnx的key必须设置一个超时时间,单位为second,以保证即使没有被显式释放,这把锁也要在一定时间后自动释放,避免死锁。setnx不支持超时参数,所以需要额外的指令,伪代码如下:

expire(key, 30)

综合起来,我们分布式锁实现的第一版伪代码如下:

if(setnx(key,1) == 1){

    expire(key,30)

    try {

        do something ......

    } finally {

        del(key)

    }

}

 

上面的伪代码只是分布式锁的简单实现,结合实际应用场景考虑就会发现上述分布式锁的实现存在着三个致命问题:

1. setnx和expire的非原子性

设想一个极端场景,当某线程执行setnx,成功得到了锁:

setnx刚执行成功,还未来得及执行expire指令,节点1 Duang的一声挂掉了。 

这样一来,这把锁就没有设置过期时间,变得“长生不老”,别的线程再也无法获得锁了。

怎么解决呢?setnx指令本身是不支持传入超时时间的,幸好Redis 2.6.12以上版本为set指令增加了可选参数,伪代码如下:

set(key,1,30,NX)

这样就可以取代setnx指令。

2. del 导致误删

又是一个极端场景,假如某线程成功得到了锁,并且设置的超时时间是30秒。

如果某些原因导致线程A执行的很慢很慢,过了30秒都没执行完,这时候锁过期自动释放,线程B得到了锁。

随后,线程A执行完了任务,线程A接着执行del指令来释放锁。但这时候线程B还没执行完,线程A实际上删除的是线程B加的锁。 

怎么避免这种情况呢?可以在del释放锁之前做一个判断,验证当前的锁是不是自己加的锁。

至于具体的实现,可以在加锁的时候把当前的线程ID当做value,并在删除之前验证key对应的value是不是自己线程的ID。

加锁:

String threadId = Thread.currentThread().getId()

set(key,threadId ,30,NX)
 

解锁:

if(threadId .equals(redisClient.get(key))){

    del(key)

}
也可以在释放锁的时候,通过锁的默认value值UUID判断是不是该锁,若是该锁,则执行delete进行锁释放。

但是,这样做又隐含了一个新的问题,判断和释放锁是两个独立操作,不是原子性的

要想实现验证和删除过程的原子性,可以使用Lua脚本来实现。这样就能保证验证和删除过程的正确性了。

3. 出现并发的可能性

还是刚才第二点所描述的场景,虽然我们避免了线程A误删掉key的情况,但是同一时间有A,B两个线程在访问代码块,仍然是不完美的。

怎么办呢?我们可以让获得锁的线程开启一个守护线程,用来给快要过期的锁“续航”。

当过去了29秒,线程A还没执行完,这时候守护线程会执行expire指令,为这把锁“续命”20秒。守护线程从第29秒开始执行,每20秒执行一次。

当线程A执行完任务,会显式关掉守护线程。

另一种情况,如果节点1 忽然断电,由于线程A和守护线程在同一个进程,守护线程也会停下。这把锁到了超时的时候,没人给它续命,也就自动释放了。

加锁语句:

jedis.set(key, value, nxxx, expx, time)


key-键;value-值;nxxx-nx(只在key不存在时才可以set)|xx(只在key存在的时候set);expx--ex代表秒,px代表毫秒;time-过期时间,单位是expx所代表的单位。


解锁语句

jedis.del(key)

主要要解决的几个问题

  • 设置锁的过期时间,解决持有锁的客户端A挂了却一直持有锁,导致B客户端无法获得锁。
  • 如何保证锁不会被误删除,通过设置锁的value,使用lua脚本保证释放锁的原子性,防止出现i++问题
  • 过期时间如何保证大于业务执行时间,设置定时开启刷新过期时间线程,业务完成,释放锁时同时取消定时刷新过期时间任务

参考文献:https://blog.csdn.net/kongmin_123/article/details/82080962?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2.control

       

 

 

   

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值