常用中间件封装思路粗记

MQ

  1. 自定义注解 ,编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean,去创建对应消费者的容器 并启动
  2. 消费者容器类主要组件DefaultMQPushConsumer SmartInitializingSingleton#afterSingletonsInstantiated 时候会去初始化,包括nameserver、topic、消费模式(集群、广播),顺序消费还是并发消费,并设置对应的 MessageListener(我们可以自己实现MessageListener放进去,从而可以对消费前、后进行添加拦截器,消费拦截器可以帮我们实现 幂等(基于redis),tid、env 项目环境基线消费、消费耗时统计 等传递),通过message property传递
  3. MQAdminInstance.threadLocalMqAdminExt().examineConsumerConnectionInfo(consumerGroup)consumerConnection.getConnectionSet().isEmpty();可以判断消费者组是否在线
  4. 消费者容器类启动 ,容器会实现SmartLifecycle的接口,实现DefaultMQPushConsumer启动 和销毁
  5. 针对发送者DefaultMQProducerImpl的 线程池传递问题,我们可以在SmartInitializingSingleton#afterSingletonsInstantiated 去替换成ttl的DefaultMQProducerImpl发送者本身就有拦截器SendMessageHook,我们可以在配置类里直接给他set进去
  6. 通过实现InitializingBean#afterPropertiesSet手动创建 HttpServerProvider.provider() 服务;实现MQ、Dubbo、Task下线

Task

  1. module 分为 api、abstract、具体实现Api放常量、注解这些、abstract放 抽象的方法 例如 加载、注册处理器,具体实现moudel 实现不同中间件的差异
  2. xxlJob几个原生核心方法IJobHandler loadJobHandler(String name) IJobHandler registJobHandler(String name, IJobHandler jobHandler)
  3. alibaba.schedulerx几个原生核心方法JobProcessorRepository.loadJobProcessor(String name)
    JobProcessorRepository.registJobProcessor(name, jobHandler)
  4. 自定义注解 ,编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean的方法,去注册 自定义MethodJobHandler 子类,
    MethodJobHandler实现了IJobHandler 接口,我们可以在自定义MethodJobHandler 重写 execute方法,实现我们定时任务拦截器的注入,这样定时任务调用前后可以拦截
  5. 拦截器前可以使用 AbstractTaskHelper.log 放入我们的tid
  6. 通过实现InitializingBean#afterPropertiesSet手动创建 HttpServerProvider.provider() 服务;实现MQ、Dubbo、Task下线
    Task 使用 xxlJobSpringExecutor.destroy(); 下线

SQL

net.sf.jsqlparser.statement CCJSqlParserUtil提供了 很多SQL对应的JAVA映射的类,可以解析语句,判断是否全表扫描
1.mysql的拦截器
QueryInterceptor的preProcess
可以美化sql、判断是否全表扫描 需要jdbcUrl加上参数
2.mybatisPlus拦截器
DefaultSqlInjector可以实现 自定义basemapper方法
MetaObjectHandler insertFill、updateFill可以对创建时间等设置默认值
PaginationInnerInterceptor
beforeQuery、autoCountSql优化深分页
3.mybatis拦截器
org.apache.ibatis.plugin.Interceptor
我们可以在intercept方法里boundSql里面追加 appName、tid

4.实现druid ResultSetProxyImpl 实现大sql熔断
FilterEventAdapter 注入我们的ResultSetProxy

配置
思路:可以利用 函数试接口 做一个 catch 异常的底层通用模版方法
核心api
MethodHandle JAVA7提供了反射调用方法api — invokeWithArguments
修改配置核心思路:
1.读取自定义框架前缀配置,并改为原生spring的配置 放到Spring environment 或者 System 中
实现EnvironmentPostProcessor接口postProcessEnvironment
MutablePropertySources、PropertiesPropertySource、System.getProperty、ConfigurableEnvironment environment.getProperty
2.
@ConfigurationProperties 直接自己的Properties

创建监听
nacos
1 自定义注解 (可以支持),编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean的方法,去注册自定义监听
1.1 nacos 创建 ConfigService (注意用map缓存 防止重复创建)、NacosFactory.createConfigService 、new AbstractListener()、configService.addListener)
1.2 注册监听具体做什么事 可以用函数试接口 交给反射调用
1.3 自定义注解可以支持 key修改类型(add、modify、delete),正则,其实就是在客户端内存过滤
local
1.本地可以用namespace+dataId+group 构成文件路径文件名
2.通过 FileAlterationObserver、FileAlterationMonitor、FileAlterationListenerAdaptor#onFileChange 检测到本地文件配置变化

日志
1.动态修改log等级
监听nacos 使用Spring LoggingSystem修改log等级 以及环境变量中的log等级
2.HttpFilter 可以打印IP、出入参(需要可配置)、统计时长,超时截断、生成响应头TID、解析环境变量(集群、环境code)放入MDC
3.RPCFilyer 同上 ,传递用RpcContext#setAttachment

文件存储
思路
不同存储bean策略
1.@Bean 注解初始化Bean的时候从 配置文件读取配置,初始化工具类里面聚合的策略类接口
2.spi 遍历处理
3.文件冗灾模式 读写冗灾,读写先本地 后云

MINIIO
MinioClient
putObject
getObject
removeObject

Local
就是InputStream那一系列操作了

sentinel
BlockExceptionHandler 自定义限流页面异常提醒
实现EnvironmentPostProcessor接口postProcessEnvironment 拉取限流规则,如果为空重新推送

搜索引擎
配置类 es 基础bean
浅封 ElasticsearchRestTemplate、ElasticsearchOperations

web
跨域、messageConvert、全局异常处理器、重复提交注解 放重复提交切面 使用 redission 限流

rpc

核心API
Offline.offline、online 提供者下线上线
RemoteMetadataServiceImpl、InMemoryWritableMetadataService提供者元数据信息
实现dubbo TelnetHandler接口可以自定义自己的dubbo invoke 命令

1.切面限流 使用 redission 限流
2.filter中从上下文拿到envCode设置 dubbo.tag 属性实现消费过滤 项目环境,提供者EnvironmentPostProcessor 从环境变量中拿到设置到dubbo.provider.tag ->System.setProperty,自定义类RouteInvoker消费者实现 ClusterInvoker#invoke 并且RpcContext#setAttachment,再创建一个RouteClusterWrapper实现Cluster接口#join构建我们的RouteInvoker
3.异常处理 如果org.apache.dubbo.rpc.Result result#hasException 处理异常 包装成统一的基础框架的Result.error
4.filter传递自定义分库信息
5.PRC提供者思路:
5.1 在环境后置处理器中 禁用DubboAutoConfiguration-其实就是排除这个bean spring.autoconfigure.exclude 这个属性
5.2 ServiceClassPostProcessor 我们还是@Bean 配置进去,但是在 BeanDefinitionRegistryPostProcessor我们修改调它里面serviceAnnotationTypes 属性,让原生帮我们自定义注解注册ServiceBean 这样5.4的事件里就可以不用创建了
5.3 BeanDefinitionRegistryPostProcessor 中 移除 DubboBootstrapApplicationListener、DubboLifecycleComponentApplicationListener bean 定义 ,事件监听导出服务 我们自己去做

5.4自定义注解 ,编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean的方法,从IOC拿到RegistryConfig、ProtocolConfig、ProviderConfig,从IOC容器获取自定义注解标记的bean,并设置到ServiceConfig中,其中ServiceConfig还要设置interfaceClass
、 RegistryConfig、ProtocolConfig等以及自定义注解上的group、version、timeout,最后调用ServiceConfig.export 进行服务发布,最后调用dubbo的ServiceBeanNameBuilder
build方法去构建ServiceBean BeanName 与 ServiceConfig的Map,最后在应用启动成功的事件里去注册这些ServiceBean,5.1注册bean了不会再注册

6 消费者思路
BeanDefinitionRegistryPostProcessor#postProcessBeanFactory中修改我们annotationTypes包含我们消费者的自定义注解,并注册registerSingleton->ReferenceAnnotationBeanPostProcessor bean,这样我们就可以借助InstantiationAwareBeanPostProcessorAdapter以及AnnotationInjectedBeanPostProcessor能力注入,而注入时的缓存map referenceBeanCache 我们会在下一步处理好

自定义注解 ,在 BeanDefinitionRegistryPostProcessor中 扫描自定义注解,反射调用 rg.apache.dubbo.config.spring.beans.factory.annotation.ReferenceBeanBuilder#create方法创建ReferenceBean,并反射放到ReferenceAnnotationBeanPostProcessor的referenceBeanCache属性中
设置@RefrecebeanName的bean定义 ,使用 RootBeanDefinition(@Nullable Class beanClass, @Nullable Supplier instanceSupplier) ,instanceSupplier 为我们上面创建的代理对象 ReferenceBean,这样改bean 就为 我们的代理对象了并把beanDefinition设置为setAutowireCandidate = true,自动注入

Mysql 常见问题

接口延迟查询、大sql熔断、全表扫描、mysql磁盘碎片整理、单表>50g=医嘱历史表优化,大字段不存镜像

基于camel 实现开放平台协议转换以及插件思路-支持dubbo、mysql、http、mq、canel 互转

可视化界面 mysql 存储 协议转换信息
保存就是 策略、模版方法拼接处 router的xml routes dsl 并存储

上线操作通过redis channel 启动 context、并load 加载数据库读取的xml routes dsl ,然后启动
下线就卸载掉就好了

插件=processer
插件的 黑白名单、限流、权限、登陆人信息
通用 例如 xml、json、byte 转换, 数据映射、token、dubbo、mq、http等中间件支持
routes xml ,xml制定form to ,process ref
compoment endpoint , producer customer 也实现了 processer
META-INF 自定义compoment

分布式策略
平台项目
Rpc泛化调用
启动后 扫描注解 创建动态代理类进行注入,
代理:通过参数的切面算出产品、客户、场景code 放入上下文, 然后通过qlexpress 算出 实现类(这些扩展点都会存储到nacos),然后refrenceConfig 通过不同version (appCode+其他信息组成)进行调用
二方包
Spring 容器启动后事件监听操作
首先从nacos 拿到依赖二方包信息 ,从oss上下载到k8s容器
启动容器(容器隔离):各个类加载器加载各个文件夹下的二方包,并启动对应的spring子容器
然后将本地、泛化、http等扩展点信息写到nacos
调用同泛化 只不过算出来之后是本地调用

业务项目
启动后通过扫描实现了扩展点IExtension接口的类,包装成serviceConfig 进行服务导出,并将客户产品code 和 注册信息作为二元组 写到nacos上 进行页面展示

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值