踩坑记录---openFeign高并发阻塞分析与解决

业务场景

公司某业务需要使用http协议去大量调用三方推送服务,因项目本身为Spring Cloud 服务,切通信框架为 OpenFeign,所以调用三方服务时,使用的是 OpenFeign

异常简述

某日上线一个新功能,从ID分发中心获取一个随机ID(openFeign服务化调用,QPS约1000左右),然后调用三方服务(openFeign调用,QPS约1000),上线之前的版本openFeign没有大并发,一切正常,上线之后,发现RabbitMQ存在大量阻塞积压,同时消费者利用率处于3%左右,严重影响业务处理能力

分析过程

  • 排查消费者业务处理线程池,通过编写ThreadPoolEndPoint,观察线程池运行状态,发现线程池队列处于积压状态
    在这里插入图片描述
  • 使用jstack命令,抓取线程运行状态
# 使用ps命令,获取运行进程编号,app.jar 为我的服务简化版名称
ps -ef|grep app.jar
# 假设获取的编号为 26599
jstack 26599 > 26599.jstack
# 下载并分析线程阻塞情况
sz 26599.jstack
  • 使用IBM相关分析工具 JCA469,查看运行情况如下

在这里插入图片描述

大量线程处于阻塞情况,全部等待一个锁,疑似某些地方使用了同步处理导致无法高并发

  • 分析线程锁
    在这里插入图片描述
    发现大量线程openFeign卡在Jackson的编解码器这里,并且在执行Class.forName(),该方法是具有同步锁的,按道理来说,不应该存在并发调用的情况,按照堆栈进行分析发现是调用项目中的解码器配置导致,代码如下
	import feign.codec.Decoder;
 	/**
     * 补充 http 协议消息转换器
     * content-type:text/plan
     * content-type:text/json
     *
     * @param converter 自定义的消息转换器
     * @return openFeign 解码器
     */
    @Bean
    @ConditionalOnBean(TextMappingJackson2HttpMessageConverter.class)
    public Decoder feignDecoder(TextMappingJackson2HttpMessageConverter converter) {
        ObjectFactory<HttpMessageConverters> objectFactory = () -> new HttpMessageConverters(converter);
        logger.info("==================> 初始化openFeign text/json支持解析器");
        return new SpringDecoder(objectFactory);
    }
  • 分析问题所在,按照堆栈执行流程分析,openFeign在处理解码时,关键源码如下
    在这里插入图片描述
    可以看到在 56行,是解码器自己new的处理逻辑,并调用我们配置的解码器,然后在不停的new HttpMessageConverters
    跟踪源码发现,在new HttpMessageConverters 过程中,会获取一个 default的转换器,而该default转换器的最终实现为 MappingJackson2HttpMessageConverter,就等于每次都在new MappingJackson2HttpMessageConverter ,每new 一次,都会执行一次jackson初始化配置
    在这里插入图片描述
    在这里插入图片描述
    每次执行jackson配置,都会去执行Class.forName去判断相关参数初始化
    在这里插入图片描述
    画重点,我的系统中,没有添加joda相关依赖,导致加载速度很慢,从而导致openFeign不支持高并发能力

解决问题

发现了问题所在,那么就能解决问题
不靠谱的方案一:
直接添加joda相关依赖

        <dependency>
            <groupId>io.github.openfeign</groupId>
            <artifactId>feign-jackson</artifactId>
        </dependency>

优点:偷懒
缺点:鬼知道有什么其他影响,需要对每个业务进行通信测试,看看是否出现未知异常

靠谱的方案二:
问题的根本原因是在大量调用我们自己配置的解码器,导致不停初始化 jackson 配置
所以。。。。直接对解码器做个单例缓存,初始化一次就好了

	import feign.codec.Decoder;
	/**
	* 单例缓存
	*/
    private HttpMessageConverters messageConverters = null;
    /**
     * 补充 http 协议消息转换器
     * content-type:text/plan
     * content-type:text/json
     *
     * @param converter 自定义的消息转换器
     * @return openFeign 解码器
     */
    @Bean
    @ConditionalOnBean(TextMappingJackson2HttpMessageConverter.class)
    public Decoder feignDecoder(TextMappingJackson2HttpMessageConverter converter) {
        logger.info("==================> 初始化openFeign text/json支持解析器");
        if (messageConverters == null){
            messageConverters = new HttpMessageConverters(converter);
        }
        ObjectFactory<HttpMessageConverters> objectFactory = () -> messageConverters;
        return new SpringDecoder(objectFactory);
    }

结束

系统前后性能对比

机器 16c,64g
在这里插入图片描述

  • 8
    点赞
  • 27
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
### 回答1: libevent是一个开源的C语言网络编程库,主要用于处理高并发网络连接。它提供了对事件驱动的支持,使得开发者可以方便地编写高效的并发网络应用程序。 libevent的核心是事件循环机制。在传统的网络编程中,通常需要使用多线程或多进程来处理并发连接,而使用libevent可以通过一个事件循环来处理多个连接。在事件循环中,可以注册多个事件,并定义回调函数来处理事件的触发。当有事件发生时,libevent会调用相应的回调函数来处理事件的处理逻辑。这样可以大大简化并发编程的复杂性,并提高程序的性能。 libevent的事件模型基于操作系统提供的I/O多路复用机制,如select、poll和epoll等。它可以在不同的操作系统平台上运行,并提供一致的接口和高效的事件处理机制。借助这些机制,libevent可以同时处理大量的并发连接,并保持低延迟和高吞吐量。 除了处理网络连接,libevent还提供了其他常用的功能,如定时器和信号处理等。它允许开发者在事件循环中注册定时器事件,可以用于定时任务的调度。同时,libevent还可以处理来自操作系统的信号,并提供了对信号的处理接口,以便开发者能够处理各种系统事件。 总之,libevent是一个功能强大、简单易用的高并发网络编程库,适用于开发各种类型的网络应用。无论是开发服务器、代理、聊天程序还是实时应用,libevent都能帮助开发者快速编写高性能的并发网络程序。 ### 回答2: libevent是一个开源的C/C++网络库,用于高性能的事件驱动编程。它提供了一个轻量级、可移植的框架,用于开发高并发的网络应用程序。 它的设计目标是提供一个高效的事件处理器,可以处理成千上万个并发连接,并且支持多线程并发处理。libevent基于事件驱动模型,通过异步I/O和回调函数来实现高并发处理网络请求。 libevent提供了一系列的函数来注册和监听各种网络事件,包括读、写、超时和信号等等。当一个事件发生时,libevent会调用相应的回调函数来处理事件。通过这种方式,我们可以非常方便地处理并发连接,并实现高性能的网络编程。 libevent的优点主要包括: 1. 高性能:libevent使用异步I/O和事件驱动模型,能够处理成千上万个并发连接,具有很高的处理能力。 2. 可移植性:libevent提供了统一的接口,可以在多种操作系统上运行,包括Linux、Windows、Mac等。 3. 易用性:libevent简单易用,只需注册感兴趣的事件和相应的回调函数,就可以实现高效的网络编程。 4. 多线程支持:libevent支持多线程并发处理,可以充分利用多核CPU的性能优势。 总之,libevent是一款非常适合高并发网络编程的开源库,它可以帮助我们实现高性能的服务器程序,提升系统的并发处理能力。无论是开发网络服务器还是网络应用程序,libevent都是一个不错的选择。 ### 回答3: libevent 是一个用于高并发网络编程的 C/C++ 库。它提供了一个跨平台的异步事件驱动的网络编程框架,能够实现高效地处理大量并发连接的需求。 libevent 的主要特点包括: 1. 异步事件驱动:libevent 使用事件驱动模型,主要利用非阻塞 I/O 和事件回调机制,能够高效地处理大量并发事件。 2. 跨平台支持:libevent 提供了跨不同操作系统的支持,包括 Windows、Linux、Unix 等,并且提供了统一的 API 接口,方便开发者进行跨平台开发。 3. 支持多种网络协议:libevent 支持 TCP、UDP、HTTP 等多种网络协议,为开发者提供了丰富的网络编程能力。 4. 高性能:libevent 的设计目标之一是高性能,它通过使用多路复用技术,将系统资源高效地利用起来,能够同时处理大量并发连接,并且保持低延迟。 5. 灵活易用:libevent 提供了简洁的 API,使用起来非常方便,可以快速实现高并发网络编程的需求。 总之,libevent 是一个强大而灵活的 C/C++ 库,适用于各种需要处理高并发连接的网络应用程序。无论是开发高性能服务器、代理、负载均衡器还是其他类似应用,libevent 都是一个值得推荐的选择。它的高效性能、跨平台支持和简洁易用的 API 接口使得开发者能够快速构建稳定可靠的高并发网络应用。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

北漂的菜小白

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值