高并发技术实现手段:
- 线程池
- 并发队列
- 缓存(本地缓存、缓存中间件)
- 消费队列
- 服务拆分
- 数据库分库分表
- 负载均衡
- 服务性能指标监控,备机容灾
- 限流与降级
- 编码级:theadlocal 和volatile ,completeFeture
- 集群、高可用部署
- 静态资源CDN
- NIO netty
高并发方案思想
分层架构 (横向切分)
冗余机制 (集群、定期备份、冷热备份)
分隔应用(服务拆分)
异步处理
分布式部署(分布式静态资源 、分布式应用和服务 、分布式计算 )
自动化监控与处理(自动化监控、自动化报警、自动化失效转移、自动化失效恢复 )
限流处理去除无效请求(验证码进行识别;对常见的XSS攻击、SQL注入需要编码转换;垃圾信息需要过滤 )
集群+负载均衡 (故障转移、弹性扩容)
缓存(CDN、反向代理、本地缓存、分布式缓存 )
- 代码层面(提高吞吐量)
优化日志
异步处理
缓存
加锁,threadlocal
优化sql - 架构方面
集群
多主数据库
熔断限流
数据补偿机制
核心业务减少链条调用
3 运维方面
nginx
静态文件加速(cdn)
提前预估数量(根据用户量计算需要机器和集群数量)
分流(可以分阶段给用户开放访问)
备份服务器