面试官:你会不会用Redis解决业务场景中延迟队列的应用实践?

RedisService redisService;

/**

  • 重试操作
  • @param retries 重试次数
  • @param context 上下文
  • @param call 重试动作
    */
    public void retry(int retries, T context, Function<Integer,Boolean> call){
    boolean done = false;
    int retry = 1;
    do {
    try {
    done = call.apply(retry);
    log.info(“[retry] context={},retry={},done={}”, JSONObject.toJSON(context),retry,done);
    retry ++;
    TimeUnit.MILLISECONDS.sleep(100);
    } catch (Exception e) {
    log.error(“[retry] 异常 ctx={}”, JSONObject.toJSON(context),e);
    retry ++;
    }
    }while (retry <= retries && !done);
    }
    }

2.1.3、定义基于Redis Cache的Manager类(WorkOrderCacheManager

该类的主要作用,基于Redis String对象存储,实现具有Key失效机制的存储。

  • 内部静态类CacheValue,作为Redis String对象存储的Value值。
  • 内部枚举类CacheType,维护了缓存Key的业务前缀。
  • 特别说明的是,我们构成Redis String存储Key的命名规则,例如:carCarthage:stored_cache_单号

/**

  • @description: 工单缓存管理器
  • @Date : 2020/7/14 下午4:28
  • @Author : 石冬冬-Seig Heil
    */
    @Component
    @Slf4j
    public class WorkOrderCacheManager extends AbstractCacheManager{

/**

  • 设置缓存并设置缓存失效日期
  • @param cache
    */
    public void setCacheInExpire(CacheValue cache){
    retry(MAX_RETRIES,cache,idx -> {
    String redisKey = redisService.getKey(getRedisKeySuffix(cache.getType(),cache.getWorkCode()));
    redisService.set(redisKey, JSONObject.toJSONString(cache),cache.getExpireSeconds());
    log.info(“[setCacheInExpire],redisKey={},CacheValue={}”,redisKey,JSONObject.toJSONString(cache));
    return Boolean.TRUE;
    });
    }

/**

  • 查询某个工单号的缓存值
  • @param cacheType 缓存类型 {@link CacheType}
  • @param workCode 工单号
  • @return
    */
    public CacheValue get(CacheType cacheType,String workCode){
    String redisKey = redisService.getKey(getRedisKeySuffix(cacheType,workCode));
    String value = redisService.get(redisKey,String.class);
    return JSONObject.parseObject(value,CacheValue.class);
    }

/**

  • 从上下文队列类型获取队列redis key
  • @param cacheType 缓存类型 {@link CacheType}
  • @param workCode 工单号
  • @return
    */
    String getRedisKeySuffix(CacheType cacheType,String workCode){
    switch (cacheType){
    case stored_cache:
    return CacheType.stored_cache.getKey() + workCode;
    case suspended_cache:
    return CacheType.suspended_cache.getKey() + workCode;
    default:
    break;
    }
    return null;
    }

/**

  • 缓存值
    /
    @Data
    @NoArgsConstructor
    @AllArgsConstructor
    @Builder
    public static class CacheValue{
    /
    *
  • 缓存类型
    /
    private CacheType type;
    /
    *
  • 工单号
    /
    private String workCode;
    /
    *
  • 优先级
    /
    private double priority;
    /
    *
  • 延迟截止时间(单位:时间戳)
    /
    private long delayedTime;
    /
    *
  • 缓存失效时间(单位:秒)
    */
    private long expireSeconds;

/**

  • 创建-挂起队列(挂起n小时执行)
  • @param workCode
  • @param priority
  • @param delayedTime
  • @param expireSeconds
  • @return
    */
    public static CacheValue buildSuspended(String workCode, double priority, long delayedTime,long expireSeconds) {
    return CacheValue.builder()
    .type(CacheType.suspended_cache)
    .workCode(workCode)
    .priority(priority)
    .delayedTime(delayedTime)
    .expireSeconds(expireSeconds)
    .build();
    }

/**

  • 转存队列(转存n天后执行)
  • @param workCode
  • @param priority
  • @param delayedTime
  • @param expireSeconds
  • @return
    */
    public static CacheValue buildStored(String workCode, double priority, long delayedTime,long expireSeconds) {
    return CacheValue.builder()
    .type(CacheType.stored_cache)
    .workCode(workCode)
    .priority(priority)
    .delayedTime(delayedTime)
    .expireSeconds(expireSeconds)
    .build();
    }
    }

/**

  • 实现 挂起|转存 缓存key
    */
    @Getter
    public enum CacheType{
    stored_cache(“stored_cache_”),
    suspended_cache(“suspended_cache_”),
    ;
    CacheType(String key) {
    this.key = key;
    }
    private String key;
    }
    }

2.1.4、工单队列管理器(WorkOrderQueueManager

该类基于Redis ZSet 对象结构的有序集合,可以实现按照优先级出队。

相关方法介绍:

  • String getRedisKey(WorkOrderContext context):从 WorkOrderContext中获取队列类型,返回集合要存储的Key。
  • Long queueSize(WorkOrderContext context):返回队列大小
  • Boolean leftPush(WorkOrderContext context):执行处理(入队操作)
  • Boolean leftPushIfAbsent(WorkOrderContext context):执行处理(入队操作),如果入队元素缺席则入队,返回true;否则返回false。
  • Long remove(WorkOrderContext context):从队列移除某个元素
  • WorkOrderContext.WorkOrder pop(WorkOrderContext context):从集合中获取评分最小的成员出队
  • Set<WorkOrderContext.WorkOrder> rank(WorkOrderContext context):按照升序查看队列中所有成员
  • Long removeRange(String key, long start, long end):按照范围移除队列元素
  • Long removeValues(String key, List<Object> values):移除指定元素
  • long getDelayedTime(WorkOrderContext.QueueType queueType,String workCode):获取对应工单的延迟时间(适用于 挂起 和 转存)

/**

  • @description: 工单队列管理器
  • @Date : 2020/7/14 下午4:28
  • @Author : 石冬冬-Seig Heil
    */
    @Component
    @Slf4j
    public class WorkOrderQueueManager extends AbstractCacheManager{

final String LOCK_KEY = “ZSET_ATOMIC_LOCK”;

@Autowired
ZSetOperations<String, Object> zSetOperations;

@Autowired
WorkOrderCacheManager workOrderCacheManager;

/**

  • 从上下文队列类型获取队列redis key
  • @param context
  • @return
    */
    String getRedisKey(WorkOrderContext context){
    String keySuffix = null;
    switch (context.getQueueType()){
    case immediate:
    keySuffix = CarthageConst.WorkOrderKey.IMMEDIATE_QUEUE_DEFAULT;
    break;
    case stored:
    keySuffix = CarthageConst.WorkOrderKey.STORED_QUEUE_DEFAULT;
    break;
    case suspended:
    keySuffix = CarthageConst.WorkOrderKey.SUSPENDED_QUEUE_DEFAULT;
    break;
    default:
    break;
    }
    if(null != keySuffix){
    if(context.isTest()){
    keySuffix += CarthageConst.TEST_SUFFIX;
    }
    return redisService.getKey(keySuffix);
    }
    return null;
    }

/**

  • 返回队列大小
  • @param context
  • @return
    */
    public Long queueSize(WorkOrderContext context) {
    return zSetOperations.size(getRedisKey(context));
    }

/**

  • 执行处理(入队操作)
  • @param context
  • @return
    */
    public Boolean leftPush(WorkOrderContext context) {
    String redisKey = getRedisKey(context);
    String workCode = context.getWorOrder().getWorkCode();
    double priority = context.getWorOrder().getPriority();
    Boolean action = zSetOperations.add(redisKey,workCode,priority);
    if(Objects.equals(Boolean.FALSE,action)){
    Long value = zSetOperations.rank(redisKey,workCode);
    log.info(“[Queue.leftPush],hasLeftPushed,action={},value={}, context={}”, action,value,JSONObject.toJSON(context));
    if(Objects.nonNull(value)){
    return Boolean.TRUE;
    }
    }
    log.info(“[Queue.leftPush] context={}”, JSONObject.toJSON(context));
    retry(MAX_RETRIES,context,idx -> action);
    return Optional.ofNullable(action).orElse(Boolean.FALSE);
    }

/**

  • 执行处理(入队操作)
  • 如果入队元素缺席则入队,返回true;否则返回false。
  • @param context
  • @return
    */
    public Boolean leftPushIfAbsent(WorkOrderContext context) {
    String redisKey = getRedisKey(context);
    String workCode = context.getWorOrder().getWorkCode();
    double priority = context.getWorOrder().getPriority();
    Boolean action = zSetOperations.add(redisKey,workCode,priority);
    log.info(“[WorkOrderQueue.leftPushIfAbsent,action={},context={}”,action, JSONObject.toJSON(context));
    return Optional.ofNullable(action).orElse(Boolean.FALSE);
    }

/**

  • 从队列移除某个元素
  • @param context
  • @return
    */
    public Long remove(WorkOrderContext context){
    String redisKey = getRedisKey(context);
    String workCode = context.getWorOrder().getWorkCode();
    log.info(“[WorkOrderQueue.remove] context={}”, JSONObject.toJSON(context));
    Long rem = zSetOperations.remove(redisKey,workCode);
    Long action = Optional.ofNullable(rem).orElse(0L);
    retry(MAX_RETRIES,context,idx -> action.longValue() > 0);
    return action;
    }

/**

  • 从集合中获取评分最小的成员出队
  • @param context
  • @return
    */
    public WorkOrderContext.WorkOrder pop(WorkOrderContext context) {
    WorkOrderContext.WorkOrder workOrder = null;
    try {
    String redisKey = getRedisKey(context);
    //通过分布式锁,实现 zset 的 zpopmin 命令操作
    boolean locked = redisService.lock(LOCK_KEY,5000);
    if(locked){
    //1、取出第一个最小评分元素
    Set<ZSetOperations.TypedTuple> set = redisService.zSetOperations().rangeWithScores(redisKey,0,0);
    if(set.isEmpty()){
    return null;
    }
    //2、移除该最小评分元素
    Long value = redisService.zSetOperations().removeRange(redisKey,0,0);
    retry(MAX_RETRIES,context,idx -> value.longValue() > 0);
    //3、返回出队成员
    workOrder = WorkOrderContext.WorkOrder.builder().build();
    for(ZSetOperations.TypedTuple each : set){
    workOrder.setWorkCode(each.getValue().toString());
    workOrder.setPriority(each.getScore());
    workOrder.setDelayedTime(0);
    break;
    }
    }
    } catch (Exception e) {
    log.error(“[WorkOrderQueue.pop] exception ctx={}”, JSONObject.toJSON(context));
    }finally {
    redisService.unlock(LOCK_KEY);
    }
    return workOrder;
    }

/**

  • 按照升序查看队列中所有成员
  • @param context
  • @return
    */
    public Set<WorkOrderContext.WorkOrder> rank(WorkOrderContext context) {

Set<ZSetOperations.TypedTuple> set = redisService.zSetOperations().rangeWithScores(getRedisKey(context),0,-1);

Set<WorkOrderContext.WorkOrder> members = Sets.newLinkedHashSetWithExpectedSize(set.size());

set.forEach(each -> {
WorkOrderContext.WorkOrder every = WorkOrderContext.WorkOrder.builder()
.workCode(each.getValue().toString())
.priority(each.getScore())
.delayedTime(getDelayedTime(context.getQueueType(),each.getValue().toString()))
.build();
members.add(every);
});
return members;
}

/**

  • 按照范围移除队列元素
  • @param key
  • @param start
  • @param end
  • @return
    */
    public Long removeRange(String key, long start, long end){
    String redisKey = redisService.getKey(key);
    Long count = zSetOperations.removeRange(redisKey,start,end);
    log.info(“[WorkOrderQueue.removeRange] redisKey={},start={},end={},count={}”, redisKey,start,end,count);
    return count;
    }

/**

  • 移除指定元素
  • @param key
  • @param values
  • @return
    */
    public Long removeValues(String key, List values){
    String redisKey = redisService.getKey(key);
    LongAdder longAdder = new LongAdder();
    values.forEach(each -> {
    Long count = zSetOperations.remove(redisKey,each);
    longAdder.add(count);
    });
    Long count = longAdder.longValue();
    log.info(“[WorkOrderQueue.removeValues] redisKey={},values={},count={}”, redisKey,JSONObject.toJSONString(values),count);
    return count;
    }

/**

  • 获取对应工单的延迟时间(适用于 挂起 和 转存)
  • @param queueType
  • @param workCode
  • @return
    */
    long getDelayedTime(WorkOrderContext.QueueType queueType,String workCode){
    long delayedTime = 0;
    WorkOrderCacheManager.CacheType cacheType = null;
    switch (queueType){
    case suspended:
    cacheType = WorkOrderCacheManager.CacheType.suspended_cache;
    break;
    case stored:
    cacheType = WorkOrderCacheManager.CacheType.stored_cache;
    break;
    default:
    break;
    }
    if(null != cacheType){
    WorkOrderCacheManager.CacheValue cacheValue = workOrderCacheManager.get(cacheType,workCode);
    if(null != cacheValue){
    delayedTime = cacheValue.getDelayedTime();
    }
    }
    return delayedTime;
    }
    }

2.2、工单队列转移管理器

2.2.1、工单队列转移管理器(WorkOrderQueueTransfer

该类实现延迟队列出队、正式队列入队的原子操作(通过Redis分布式锁实现)。

/**

  • @description: 工单队列转移管理器
  • @Date : 2020/7/23 下午6:15
  • @Author : 石冬冬-Seig Heil
    */
    @Component
    @Slf4j
    public class WorkOrderQueueTransfer extends AbstractCacheManager{

final static String ATOMIC_KEY = “delayed_queue_key_expire_lock_{0}”;

final static long ATOMIC_KEY_EXPIRE = 5000;

@Autowired
RedisService redisService;

@Autowired
WorkOrderQueueManager workOrderQueueManager;

@Autowired
WorkOrderCacheManager workOrderCacheManager;

/**

  • 从[挂起|暂存]队列转移到正式队列中
  • @param cacheType 挂起|暂存
  • @param delayedContext
  • @return
    */
    public Boolean transferImmediateQueue(WorkOrderCacheManager.CacheType cacheType,WorkOrderContext delayedContext){
    boolean tryLock = false;
    Boolean done = Boolean.FALSE;
    String lockKey = null;
    try {
    WorkOrderContext.WorkOrder workOrder = delayedContext.getWorOrder();
    lockKey = redisService.getKey(MessageFormat.format(ATOMIC_KEY,workOrder.getWorkCode()));
    tryLock = redisService.lock(lockKey,ATOMIC_KEY_EXPIRE);
    if(tryLock){
    //1、构建正式队列
    WorkOrderContext immediateContext = WorkOrderContext.buildImmediate(workOrder.getWorkCode(),workOrder.getPriority());
    done = workOrderQueueManager.leftPushIfAbsent(immediateContext);
    //2、从当前延迟队列移除该元素
    Long count = workOrderQueueManager.remove(delayedContext);
    log.info(“[挂起|转存队remove],count={},delayedContext={}”, count,JSONObject.toJSONString(delayedContext));
    }
    } catch (Exception e) {
    log.error(“[transferImmediateQueue]异常,delayedContext={},cacheType={}”, JSONObject.toJSONString(delayedContext),cacheType);
    }finally {
    if(Objects.nonNull(lockKey) && tryLock){
    redisService.unlock(lockKey);
    }
    }
    return Optional.ofNullable(done).orElse(Boolean.FALSE);
    }
    }

2.3、Redis过期key监听

2.3.1、Redis过期回调监听(RedisKeyExpirationListener

/**

  • @description: Redis过期回调监听
  • @Date : 2020/7/18 上午10:43
  • @Author : 石冬冬-Seig Heil
    */
    @Component
    @Slf4j
    public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener {

final static String STORED_CACHE_KEY_PREFIX = WorkOrderCacheManager.CacheType.stored_cache.getKey();

final static String SUSPENDED_CACHE_KEY_PREFIX = WorkOrderCacheManager.CacheType.suspended_cache.getKey();

@Autowired
TraceLogService traceLogService;

@Autowired
RedisService redisService;

@Autowired
WorkOrderService workOrderService;

@Autowired
DelayedScheduledOperateBridge delayedScheduledOperateBridge;

public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) {
super(listenerContainer);
}

@Override
public void onMessage(Message message, byte[] pattern) {
Date startTime = TimeTools.createNowTime();
String expiredKey = message.toString();
String bizPrefix = redisService.getKeyPrefix().getName();
if(!expiredKey.startsWith(bizPrefix)){
return;
}
String caseOfStored = redisService.getKey(STORED_CACHE_KEY_PREFIX);
String caseOfSuspended = redisService.getKey(SUSPENDED_CACHE_KEY_PREFIX);

WorkOrderCacheManager.CacheType cacheType;
WorkOrderContext.QueueType queueType;
if(expiredKey.startsWith(caseOfStored)){
queueType = WorkOrderContext.QueueType.stored;
cacheType = WorkOrderCacheManager.CacheType.stored_cache;
}else if(expiredKey.startsWith(caseOfSuspended)){
queueType = WorkOrderContext.QueueType.suspended;
cacheType = WorkOrderCacheManager.CacheType.suspended_cache;
}else{
return;
}
String workCode = getWorkCode(expiredKey);
log.info(“监听到 redis key=[{}] 已过期”,expiredKey);
if(Objects.nonNull(workCode)){
log.info(“监听到 redis key=[{}],挂起|转存工单开始处理,workCode={}”,expiredKey,workCode);
WorkOrder workOrder = workOrderService.queryOne(workCode);
if(Objects.isNull(workOrder)){
log.info(“监听到 redis key=[{}],挂起|转存工单开始处理,未找到工单,workCode={}”,expiredKey,workCode);
return;
}
WorkOrderContext delayedContext = WorkOrderContext.builder()
.worOrder(WorkOrderContext.WorkOrder.builder().delayedTime(5).priority(workOrder.getCasePriority()).workCode(workOrder.getWorkCode()).build())
.queueType(queueType). build();
Boolean done = delayedScheduledOperateBridge.transferImmediateQueue(cacheType,delayedContext);
saveTraceLog(delayedContext,done,traceLog -> {
JSONObject requestBody = new JSONObject();
requestBody.put(“expiredKey”,expiredKey);
requestBody.put(“workCode”,workCode);
traceLog.setRequestBody(requestBody.toJSONString());
traceLog.setRequestTime(startTime);
});
}
}

/**

  • traceLog入库
  • @param context
  • @param done
  • @param consumer
    */
    void saveTraceLog(WorkOrderContext context, Boolean done, Consumer consumer){
    try {
    String hostAddress = InetAddress.getLocalHost().getHostAddress();
    JSONObject responseBody = new JSONObject();
    responseBody.put(“workOrderContext”,context);
    responseBody.put(“transferImmediateQueue”,done);
    TraceLog traceLog = TraceLog.builder()
    自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!

如果你觉得这些内容对你有帮助,可以扫码获取!!(备注Java获取)

img

最后

看完美团、字节、腾讯这三家的面试问题,是不是感觉问的特别多,可能咱们又得开启面试造火箭、工作拧螺丝的模式去准备下一次的面试了。

开篇有提及我可是足足背下了1000道题目,多少还是有点用的呢,我看了下,上面这些问题大部分都能从我背的题里找到的,所以今天给大家分享一下互联网工程师必备的面试1000题

注意不论是我说的互联网面试1000题,还是后面提及的算法与数据结构、设计模式以及更多的Java学习笔记等,皆可分享给各位朋友

最新“美团+字节+腾讯”一二三面问题,挑战一下你能走到哪一面?

互联网工程师必备的面试1000题

而且从上面三家来看,算法与数据结构是必备不可少的呀,因此我建议大家可以去刷刷这本左程云大佬著作的《程序员代码面试指南 IT名企算法与数据结构题目最优解》,里面近200道真实出现过的经典代码面试题

最新“美团+字节+腾讯”一二三面问题,挑战一下你能走到哪一面?

《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门即可获取!
faed303032d36.jpg" alt=“img” style=“zoom: 33%;” />

最后

看完美团、字节、腾讯这三家的面试问题,是不是感觉问的特别多,可能咱们又得开启面试造火箭、工作拧螺丝的模式去准备下一次的面试了。

开篇有提及我可是足足背下了1000道题目,多少还是有点用的呢,我看了下,上面这些问题大部分都能从我背的题里找到的,所以今天给大家分享一下互联网工程师必备的面试1000题

注意不论是我说的互联网面试1000题,还是后面提及的算法与数据结构、设计模式以及更多的Java学习笔记等,皆可分享给各位朋友

[外链图片转存中…(img-Lpo5aEbs-1712530881003)]

互联网工程师必备的面试1000题

而且从上面三家来看,算法与数据结构是必备不可少的呀,因此我建议大家可以去刷刷这本左程云大佬著作的《程序员代码面试指南 IT名企算法与数据结构题目最优解》,里面近200道真实出现过的经典代码面试题

[外链图片转存中…(img-noDf2CJy-1712530881003)]

《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门即可获取!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值