在高性能分布式系统上,你是怎么使用锁的?

分布式系统(distributed system)是建立在网络之上的软件系统。正是因为软件的特性,所以分布式系统具有高度的内聚性和透明性。因此,网络和分布式系统之间的区别更多的在于高层软件(特别是操作系统),而不是硬件。

 

分布式锁一般有三种实现方式:

数据库乐观锁;

基于Redis的分布式锁;

基于ZooKeeper的分布式锁

 

 

redis 分布式锁原理:

在传统单体应用单机部署的情况下,可以使用 Java 并发相关的锁,如 ReentrantLcok 或 synchronized 进行互斥控制。但是,随着业务发展的需要,原单体单机部署的系统,渐渐的被部署在多机器多JVM上同时提供服务,这使得原单机部署情况下的并发控制锁策略失效了,为了解决这个问题就需要一种跨JVM的互斥机制来控制共享资源的访问,这就是分布式锁要解决的问题。

 

 

分布式锁的实现条件:

互斥性,和单体应用一样,要保证任意时刻,只能有一个客户端持有锁

可靠性,要保证系统的稳定性,不能产生死锁

一致性,要保证锁只能由加锁人解锁,不能产生A的加锁被B用户解锁的情况

  

 

 

参数说明

redis.conf 配置项说明如下:

1. Redis默认不是以守护进程的方式运行,可以通过该配置项修改,使用yes启用守护进程

  daemonize no

2. 当Redis以守护进程方式运行时,Redis默认会把pid写入/var/run/redis.pid文件,可以通过pidfile指定

  pidfile /var/run/redis.pid

3. 指定Redis监听端口,默认端口为6379,作者在自己的一篇博文中解释了为什么选用6379作为默认端口,因为6379在手机按键上MERZ对应的号码,而MERZ取自意大利歌女Alessia Merz的名字

  port 6379

4. 绑定的主机地址

  bind 127.0.0.1

5.当 客户端闲置多长时间后关闭连接,如果指定为0,表示关闭该功能

  timeout 300

6. 指定日志记录级别,Redis总共支持四个级别:debug、verbose、notice、warning,默认为verbose

  loglevel verbose

7. 日志记录方式,默认为标准输出,如果配置Redis为守护进程方式运行,而这里又配置为日志记录方式为标准输出,则日志将会发送给/dev/null

  logfile stdout

8. 设置数据库的数量,默认数据库为0,可以使用SELECT <dbid>命令在连接上指定数据库id

  databases 16

9. 指定在多长时间内,有多少次更新操作,就将数据同步到数据文件,可以多个条件配合

  save <seconds> <changes>

  Redis默认配置文件中提供了三个条件:

  save 900 1

  save 300 10

  save 60 10000

  分别表示900秒(15分钟)内有1个更改,300秒(5分钟)内有10个更改以及60秒内有10000个更改。

 

10. 指定存储至本地数据库时是否压缩数据,默认为yes,Redis采用LZF压缩,如果为了节省CPU时间,可以关闭该选项,但会导致数据库文件变的巨大

  rdbcompression yes

11. 指定本地数据库文件名,默认值为dump.rdb

  dbfilename dump.rdb

12. 指定本地数据库存放目录

  dir ./

13. 设置当本机为slav服务时,设置master服务的IP地址及端口,在Redis启动时,它会自动从master进行数据同步

  slaveof <masterip> <masterport>

14. 当master服务设置了密码保护时,slav服务连接master的密码

  masterauth <master-password>

15. 设置Redis连接密码,如果配置了连接密码,客户端在连接Redis时需要通过AUTH <password>命令提供密码,默认关闭

  requirepass foobared

16. 设置同一时间最大客户端连接数,默认无限制,Redis可以同时打开的客户端连接数为Redis进程可以打开的最大文件描述符数,如果设置 maxclients 0,表示不作限制。当客户端连接数到达限制时,Redis会关闭新的连接并向客户端返回max number of clients reached错误信息

  maxclients 128

17. 指定Redis最大内存限制,Redis在启动时会把数据加载到内存中,达到最大内存后,Redis会先尝试清除已到期或即将到期的Key,当此方法处理 后,仍然到达最大内存设置,将无法再进行写入操作,但仍然可以进行读取操作。Redis新的vm机制,会把Key存放内存,Value会存放在swap区

  maxmemory <bytes>

18. 指定是否在每次更新操作后进行日志记录,Redis在默认情况下是异步的把数据写入磁盘,如果不开启,可能会在断电时导致一段时间内的数据丢失。因为 redis本身同步数据文件是按上面save条件来同步的,所以有的数据会在一段时间内只存在于内存中。默认为no

  appendonly no

19. 指定更新日志文件名,默认为appendonly.aof

   appendfilename appendonly.aof

20. 指定更新日志条件,共有3个可选值: 

  no:表示等操作系统进行数据缓存同步到磁盘(快) 

  always:表示每次更新操作后手动调用fsync()将数据写到磁盘(慢,安全) 

  everysec:表示每秒同步一次(折衷,默认值)

  appendfsync everysec

 

21. 指定是否启用虚拟内存机制,默认值为no,简单的介绍一下,VM机制将数据分页存放,由Redis将访问量较少的页即冷数据swap到磁盘上,访问多的页面由磁盘自动换出到内存中(在后面的文章我会仔细分析Redis的VM机制)

   vm-enabled no

22. 虚拟内存文件路径,默认值为/tmp/redis.swap,不可多个Redis实例共享

   vm-swap-file /tmp/redis.swap

23. 将所有大于vm-max-memory的数据存入虚拟内存,无论vm-max-memory设置多小,所有索引数据都是内存存储的(Redis的索引数据 就是keys),也就是说,当vm-max-memory设置为0的时候,其实是所有value都存在于磁盘。默认值为0

   vm-max-memory 0

24. Redis swap文件分成了很多的page,一个对象可以保存在多个page上面,但一个page上不能被多个对象共享,vm-page-size是要根据存储的 数据大小来设定的,作者建议如果存储很多小对象,page大小最好设置为32或者64bytes;如果存储很大大对象,则可以使用更大的page,如果不 确定,就使用默认值

   vm-page-size 32

25. 设置swap文件中的page数量,由于页表(一种表示页面空闲或使用的bitmap)是在放在内存中的,,在磁盘上每8个pages将消耗1byte的内存。

   vm-pages 134217728

26. 设置访问swap文件的线程数,最好不要超过机器的核数,如果设置为0,那么所有对swap文件的操作都是串行的,可能会造成比较长时间的延迟。默认值为4

   vm-max-threads 4

27. 设置在向客户端应答时,是否把较小的包合并为一个包发送,默认为开启

  glueoutputbuf yes

28. 指定在超过一定的数量或者最大的元素超过某一临界值时,采用一种特殊的哈希算法

  hash-max-zipmap-entries 64

  hash-max-zipmap-value 512

29. 指定是否激活重置哈希,默认为开启(后面在介绍Redis的哈希算法时具体介绍)

  activerehashing yes

30. 指定包含其它的配置文件,可以在同一主机上多个Redis实例之间使用同一份配置文件,而同时各个实例又拥有自己的特定配置文件

  include /path/to/local.conf

 

   我是这样集成用reids的

导入依赖

在 pom.xml 中添加 starter-web、starter-aop、starter-data-redis 的依赖

<dependencies>

    <dependency>

        <groupId>org.springframework.boot</groupId>

        <artifactId>spring-boot-starter-web</artifactId>

    </dependency>

    <dependency>

        <groupId>org.springframework.boot</groupId>

        <artifactId>spring-boot-starter-aop</artifactId>

    </dependency>

    <dependency>

        <groupId>org.springframework.boot</groupId>

        <artifactId>spring-boot-starter-data-redis</artifactId>

    </dependency>

</dependencies>

 

 

 

属性配置

在 application.properites 资源文件中添加 redis 相关的配置项

server:

  port: 1999

spring:

  datasource:

    url: jdbc:mysql://127.0.0.1:3306/mybatis-plus-test?useUnicode=true&characterEncoding=UTF-8&useSSL=false&serverTimezone=Asia/Shanghai

    driverClassName: com.mysql.cj.jdbc.Driver

    username: root

    password: root

  redis:

    host: 127.0.0.1

    port: 6379

    timeout: 5000ms

    password:

    database: 0

    jedis:

      pool:

        max-active: 50

        max-wait: 3000ms

        max-idle: 20

        min-idle: 2

 

 

 

注解

1、创建一个 CacheLock 注解,属性配置如下

prefix:缓存中 key 的前缀

expire:过期时间,此处默认为 5 秒

timeUnit:超时单位,此处默认为秒

delimiter:key 的分隔符,将不同参数值分割开来

    package com.tuhu.twosample.chen.distributed.annotation;

    

    import java.lang.annotation.*;

    import java.util.concurrent.TimeUnit;

    

    /**

     * 锁的注解

     */

    @Target({ElementType.METHOD})

    @Retention(RetentionPolicy.RUNTIME)

    @Documented

    @Inherited

    public @interface CacheLock {

    

        /**

         * redis 锁key的前缀

         *

         * @return redis 锁key的前缀

         */

        String prefix() default "";

    

        /**

         * 过期秒数,默认为5秒

         *

         * @return 轮询锁的时间

         */

        int expire() default 5;

    

        /**

         * 超时时间单位

         *

         * @return 秒

         */

        TimeUnit timeUnit() default TimeUnit.SECONDS;

    

        /**

         * <p>Key的分隔符(默认 :)</p >

         * <p>生成的Key:N:SO1008:500</p >

         *

         * @return String

         */

        String delimiter() default ":";

    

    }

    

 

 

 

2、 key 的生成规则是自己定义的,如果通过表达式语法自己得去写解析规则还是比较麻烦的,所以依旧是用注解的方式

 

package com.tuhu.twosample.chen.distributed.annotation;

import java.lang.annotation.*;

/**

 * 锁的参数

 */

@Target({ElementType.PARAMETER, ElementType.METHOD, ElementType.FIELD})

@Retention(RetentionPolicy.RUNTIME)

@Documented

@Inherited

public @interface CacheParam {

    /**

     * 字段名称

     *

     * @return String

     */

    String name() default "";

}

key生成策略

1、接口

 

package com.tuhu.twosample.chen.distributed.common;

import org.aspectj.lang.ProceedingJoinPoint;

/**

 * key生成器

 * @author chendesheng

 * @create 2019/10/11 16:09

 */

public interface CacheKeyGenerator {

    /**

     * 获取AOP参数,生成指定缓存Key

     *

     * @param pjp PJP

     * @return 缓存KEY

     */

    String getLockKey(ProceedingJoinPoint pjp);

}

2、接口实现

 

package com.tuhu.twosample.chen.distributed.common;

import com.tuhu.twosample.chen.distributed.annotation.CacheLock;

import com.tuhu.twosample.chen.distributed.annotation.CacheParam;

import org.aspectj.lang.ProceedingJoinPoint;

import org.aspectj.lang.reflect.MethodSignature;

import org.springframework.util.ReflectionUtils;

import org.springframework.util.StringUtils;

import java.lang.annotation.Annotation;

import java.lang.reflect.Field;

import java.lang.reflect.Method;

import java.lang.reflect.Parameter;

/**

 * 通过接口注入的方式去写不同的生成规则

 */

public class LockKeyGenerator implements CacheKeyGenerator {

    @Override

    public String getLockKey(ProceedingJoinPoint pjp) {

        MethodSignature signature = (MethodSignature) pjp.getSignature();

        Method method = signature.getMethod();

        CacheLock lockAnnotation = method.getAnnotation(CacheLock.class);

        final Object[] args = pjp.getArgs();

        final Parameter[] parameters = method.getParameters();

        StringBuilder builder = new StringBuilder();

        //默认解析方法里面带 CacheParam 注解的属性,如果没有尝试着解析实体对象中的

        for (int i = 0; i < parameters.length; i++) {

            final CacheParam annotation = parameters[i].getAnnotation(CacheParam.class);

            if (annotation == null) {

                continue;

            }

            builder.append(lockAnnotation.delimiter()).append(args[i]);

        }

        if (StringUtils.isEmpty(builder.toString())) {

            final Annotation[][] parameterAnnotations = method.getParameterAnnotations();

            for (int i = 0; i < parameterAnnotations.length; i++) {

                final Object object = args[i];

                final Field[] fields = object.getClass().getDeclaredFields();

                for (Field field : fields) {

                    final CacheParam annotation = field.getAnnotation(CacheParam.class);

                    if (annotation == null) {

                        continue;

                    }

                    field.setAccessible(true);

                    builder.append(lockAnnotation.delimiter()).append(ReflectionUtils.getField(field, object));

                }

            }

        }

        return lockAnnotation.prefix() + builder.toString();

    }

}

 

(AOP)

熟悉 Redis 的朋友都知道它是线程安全的,我们利用它的特性可以很轻松的实现一个分布式锁,如opsForValue().setIfAbsent(key,value)它的作用就是如果缓存中没有当前 Key 则进行缓存同时返回 true 反之亦然;当缓存后给 key 在设置个过期时间,防止因为系统崩溃而导致锁迟迟不释放形成死锁;那么我们是不是可以这样认为当返回 true 我们认为它获取到锁了,在锁未释放的时候我们进行异常的抛出….

package com.tuhu.twosample.chen.distributed.interceptor;

import com.tuhu.twosample.chen.distributed.annotation.CacheLock;

import com.tuhu.twosample.chen.distributed.common.CacheKeyGenerator;

import org.aspectj.lang.ProceedingJoinPoint;

import org.aspectj.lang.annotation.Around;

import org.aspectj.lang.annotation.Aspect;

import org.aspectj.lang.reflect.MethodSignature;

import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.context.annotation.Configuration;

import org.springframework.data.redis.core.StringRedisTemplate;

import org.springframework.util.StringUtils;

import java.lang.reflect.Method;

/**

 */

@Aspect

@Configuration

public class LockMethodInterceptor {

    @Autowired

    public LockMethodInterceptor(StringRedisTemplate lockRedisTemplate, CacheKeyGenerator cacheKeyGenerator) {

        this.lockRedisTemplate = lockRedisTemplate;

        this.cacheKeyGenerator = cacheKeyGenerator;

    }

    private final StringRedisTemplate lockRedisTemplate;

    private final CacheKeyGenerator cacheKeyGenerator;

    @Around("execution(public * *(..)) && @annotation(com.tuhu.twosample.chen.distributed.annotation.CacheLock)")

    public Object interceptor(ProceedingJoinPoint pjp) {

        MethodSignature signature = (MethodSignature) pjp.getSignature();

        Method method = signature.getMethod();

        CacheLock lock = method.getAnnotation(CacheLock.class);

        if (StringUtils.isEmpty(lock.prefix())) {

            throw new RuntimeException("lock key can't be null...");

        }

        final String lockKey = cacheKeyGenerator.getLockKey(pjp);

        try {

            //key不存在才能设置成功

            final Boolean success = lockRedisTemplate.opsForValue().setIfAbsent(lockKey, "");

            if (success) {

                lockRedisTemplate.expire(lockKey, lock.expire(), lock.timeUnit());

            } else {

                //按理来说 我们应该抛出一个自定义的 CacheLockException 异常;

                throw new RuntimeException("请勿重复请求");

            }

            try {

                return pjp.proceed();

            } catch (Throwable throwable) {

                throw new RuntimeException("系统异常");

            }

        } finally {

            //如果演示的话需要注释该代码;实际应该放开

            // lockRedisTemplate.delete(lockKey);

        }

    }

}

 

控制层

在接口方法上添加 @CacheLock(prefix = "test"),然后动态的值可以加上@CacheParam;生成后的新 key 将被缓存起来;(如:该接口 token = 1,那么最终的 key 值为 test:1,如果多个条件则依次类推)

package com.tuhu.twosample.chen.controller;

import com.tuhu.twosample.chen.distributed.annotation.CacheLock;

import com.tuhu.twosample.chen.distributed.annotation.CacheParam;

import lombok.extern.slf4j.Slf4j;

import org.springframework.web.bind.annotation.GetMapping;

import org.springframework.web.bind.annotation.RequestMapping;

import org.springframework.web.bind.annotation.RequestParam;

import org.springframework.web.bind.annotation.RestController;

/**

 */

@RestController

@RequestMapping("/chen/lock")

@Slf4j

public class LockController {

    @CacheLock(prefix = "test")

    @GetMapping("/test")

    public String query(@CacheParam(name = "token") @RequestParam String token) {

        return "success - " + token;

    }

}

 

主函数

需要注入前面定义好的 CacheKeyGenerator 接口具体实现 ….

package com.tuhu.twosample;

import com.tuhu.twosample.chen.distributed.common.CacheKeyGenerator;

import com.tuhu.twosample.chen.distributed.common.LockKeyGenerator;

import org.mybatis.spring.annotation.MapperScan;

import org.springframework.boot.SpringApplication;

import org.springframework.boot.autoconfigure.SpringBootApplication;

import org.springframework.context.annotation.Bean;

/**

 */

@SpringBootApplication

@MapperScan("com.baomidou.mybatisplus.samples.quickstart.mapper")

@MapperScan("com.tuhu.twosample.chen.mapper")

public class TwoSampleApplication {

   public static void main(String[] args) {

        SpringApplication.run(TwoSampleApplication.class, args);

    }

    @Bean

    public CacheKeyGenerator cacheKeyGenerator() {

        return new LockKeyGenerator();

    }

}

 

精彩文章来源微信公众号     java微技术

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值