跨场景适用的高效异步处理解决方案

一、前言

良好的系统设计必须要做到开闭原则，随着业务的不断迭代更新，核心代码也会被不断改动，出错的概率也会大大增加。但是大部分增加的功能都是在扩展原有的功能，既要保证性能又要保证质量，我们往往都会使用异步线程池来处理，然而却增加了很多不确定性因素。
由此我设计了一套通用的异步处理SDK，可以很轻松的实现各种异步处理

二、目的

通过异步处理不仅能够保证方法能够得到有效的执行而且不影响主流程
更重要的是各种兜底方法保证数据不丢失，从而达到最终一致性

三、优点

无侵入设计，独立数据库，独立定时任务，独立消息队列，独立人工执行界面(统一登录认证)
使用spring事务事件机制，即使异步策略解析失败也不会影响业务，如果你的方法正在运行事务，会等事务提交后或回滚后再处理事件，就算事务提交了，异步策略解析失败了，我们还有兜底方案执行（除非数据库有问题，消息队列有问题，方法有bug）

四、原理

容器初始化bean完成后遍历所有方法，把有@AsyncExec注解的方法缓存起来方法运行时通过AOP切面发布事件事务事件监听处理异步执行策略

@TransactionalEventListener(fallbackExecution = true, phase = TransactionPhase.AFTER_COMPLETION)
fallbackExecution=true 没有事务正在运行，依然处理事件
TransactionPhase.AFTER_COMPLETION 事务提交后和事务回滚后都处理事件

五、组件

1、kafka 消息队列
2、xxl job 定时任务
3、mysql 数据库
4、spring 切面
5、vue 界面
六、流程图

六、设计模式

1、策略
2、模板方法
3、动态代理

七、数据库脚本

八、异步策略

九、安全级别

十、执行状态

十一、流程图

十二、apollo 配置

# 开关：默认关闭
async.enabled=true

# 应用名称
spring.application.name=xxx

# 数据源 druid 
spring.datasource.driver-class-name=com.mysql.jdbc.Driver
spring.datasource.url=jdbc:mysql://127.0.0.1:3306/fc_async?useUnicode=true&characterEncoding=utf-8&zeroDateTimeBehavior=convertToNull&useSSL=false&allowMultiQueries=true&rewriteBatchedStatements=true
spring.datasource.username=user
spring.datasource.password=xxxx
spring.datasource.filters=config
spring.datasource.connectionProperties=config.decrypt=true;config.decrypt.key=yyy
#静态地址
spring.resources.add-mappings=true
spring.resources.static-locations=classpath:/static/

# 以下配置都有默认值
# 核心线程数
async.executor.thread.corePoolSize=10
# 最大线程数
async.executor.thread.maxPoolSize=50
# 队列容量
async.executor.thread.queueCapacity=10000
# 活跃时间
async.executor.thread.keepAliveSeconds=600

# 执行成功是否删除记录：默认删除
async.exec.deleted=true
 
# 自定义队列名称前缀：默认应用名称
async.topic=${spring.application.name}
 
# 重试执行次数：默认5次
async.exec.count=5
 
# 重试最大查询数量
async.retry.limit=100

# 补偿最大查询数量
async.comp.limit=100

# 登录拦截：默认false
async.login=false

十四、用法

1，异步开关
scm.async.enabled=true
2，在需要异步执行的方法加注解 （必须是spring代理方法）
@AsyncExec(type = AsyncExecEnum.SAVE_ASYNC, remark = "数据字典")
3，人工处理地址
http://localhost:8004/async/index.html

十五、注意

1，应用名称
spring.application.name
2，队列名称
KaTeX parse error: Expected '}', got 'EOF' at end of input: {async.topic:{spring.application.name}}_async_queue
自定义topic：async.topic=xxx
3，自己业务要做幂等
4，一个应用公用一个队列
自产自消
5，定时任务
异步重试定时任务（2分钟重试一次，可配置重试次数）
异步补偿定时任务（一小时补偿一次，创建时间在一小时之前的）
十六、效果展示