java多线程学习笔记 --七.高并发处理思路和手段

最新推荐文章于 2024-10-06 20:16:20 发布

Java的咖啡

最新推荐文章于 2024-10-06 20:16:20 发布

阅读量159

点赞数

文章标签： java

本文链接：https://blog.csdn.net/qq_40313857/article/details/105116408

版权

高并发处理思路和手段

扩容

扩容—概念

垂直扩容：提高系统部件能力（提升每辆卡车的运木材的多少）
水平扩容：增加更多系统成员实现（增加卡车数量，例如集群）

扩容—数据库

读操作扩展：memcache，redis，CDN等缓存
写操作扩展：Cassandra，Hbase等

缓存

在这里插入图片描述

缓存的特征

命中率：命中数/（命中数+没有命中数）
最大元素（空间）
清空策略：FIFO，LFU，LRU，过期时间，随机等

缓存命中率影响因素

业务场景和业务需求
缓存的设计(粒度和策略)
缓存容量和基础设施

缓存分类和应用场景

本地缓存：编程实现（成员变量、局部变量、静态变量）GuavaCache
分布式缓存：Memcache、redis

在这里插入图片描述

高并发环境下缓存常见问题

缓存一致性
缓存并发问题
缓存穿透问题
缓存雪崩现象

消息队列

在这里插入图片描述

业务无关：只做消息分发
容灾：节点的动态增删和消息的持久化
FIFO：先投递先到达
性能：吞吐量提升，系统内部通信效率提高

为甚么要使用消息队列

生产和消费的速度或稳定性等因素不一致

消息队列的好处

业务解耦
最终一致性
广播
错峰与流控

应用拆分

在这里插入图片描述

业务拆分的原则

业务优先
循序渐进
兼顾技术：重构、分层
可靠测试

微服务

在这里插入图片描述

应用限流

在这里插入图片描述

应用限流—算法

计数器法

在这里插入图片描述

滑动窗口

在这里插入图片描述

漏桶算法

在这里插入图片描述

令牌桶算法

在这里插入图片描述

服务降级与服务熔断

服务降级

当服务器压力剧增的情况下，根据实际业务情况及流量，对一些服务和页面有策略的不处理或换种简单的方式处理，从而释放服务器资源以保证核心交易正常运作或高效运作

简单理解，就是对目前不想做处理的服务和页面给一个默认的返回

举例1：大家都见过女生旅行吧，大号的旅行箱是必备物，平常走走近处绰绰有余，但一旦出个远门，再大的箱子都白搭了，怎么办呢？常见的情景就是把物品拿出来分分堆，比了又比，最后一些非必需品的就忍痛放下了，等到下次箱子够用了，再带上用一用。而服务降级，就是这么回事，整体资源快不够了，忍痛将某些服务先关掉，待渡过难关，再开启回来

举例2：假如目前有很多人想要给我付钱，但我的服务器除了正在运行支付的服务之外，还有一些其它的服务在运行，比如搜索、定时任务和详情等等。然而这些不重要的服务就占用了JVM的不少内存与CPU资源，为了能把钱都收下来（钱才是目标），我设计了一个动态开关，把这些不重要的服务直接在最外层拒掉，这样处理后的后端处理收钱的服务就有更多的资源来收钱了（收钱速度更快了），这就是一个简单的服务降级的使用场景