服务系统设计原则

 

1. 服务系统设计原则

1.1 高并发原则

1. 无状态：设计的应用是无状态的，那么应用容易水平扩展，生产中常见的是应用无状态，配置文件有状态，例如不同机房读取不同的数据源，这就需要配置文件或配置中心指定。

2. 拆分：垂直拆分、水平拆分、读写服务拆分、功能维度拆分。

3. 服务化：基础服务模块化，引进服务框架，服务注册与发现。服务的分组与隔离，服务限流、黑白名单等等。

4. 消息队列：解耦不同应用、异步处理、流量削峰等。要注意处理消息失败和重复接收的问题。对不能忍受失败的场景，要做好数据持久化工作，同时增加日志，报警等。

5. 缓存使用：浏览器缓存、客户端缓存、CDN、Nginx缓存、应用曾缓存、分布式缓存等。

1.2 高可用原则

1. 降级：开关集中化配置、可降级的多级读服务、开关前置化、业务降级。

2. 限流：恶意请求只到cache、恶意IP进行屏蔽。

3. 切流量：DNS、LVS/Nginx层切换。

2. 高可用

2.1 负载均衡与反向代理

1. 外网DNS用来实现全局负载均衡的流量调度。为提高Nginx性能，一般在DNS和Nginx之间接入LVS/F5做4层负载均衡。首先DNS解析请求到LVS/F5，然后LVS/F5转发给Nginx，再由Nginx转发给后端应用服务器。

2. 负载均衡算法：

1. round-robin（轮询）：默认负载均衡算法，即以轮询方式将请求发给应用服务器。

2. ip_hash：根据客户IP进行负载均衡，即同一个IP的请求发给相同的服务