1、微服务
将一个单独的应用程序开发为一套小服务,每个小服务运行在自己的进程中,并使用轻量级的 API,通常为 HTTP API。这些服务围绕业务能力来构建,并通过完全自动化部署机制来独立部署。这些服务可以使用不同的的编程语言书写,以及不同数据存储技术,并保持最低限度的集中式管理。
总结:拒绝大型单体应用,基于大型单体应用,基于业务边界进行微服务拆分,各个服务独立部署运行。
2、集群&分布式&节点
集群是个物理形态,分布式是个工作方式。
只要是一堆机器就可以叫做集群。
分布式系统定义:分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统。分布式系统是建立在网络之上的软件系统。
分布式:指将不同的业务分布在不同的地方。
集群:指将几台服务器集中在一起,实现同一业务。
每一个业务系统都可以做集群化。
区别:分布式中的每一个节点,都可以做集群;而集群却并不一定是分布式的。
节点:集群中的一个服务器。
3、远程调用
在分布式系统中,各个服务可能处于不同主机,但是服务之间不可避免的需要相互调用,称之为远程调用。
Spring Cloud 中使用 HTTP + JSON 的方式实现远程调用。
4、负载均衡
分布式系统中,A 服务需要调用 B 服务,B 服务在多台机器中都存在, A 调用任意一个服务器均可完成功能。
为了使每一个服务器都不要太忙或者太闲,可以负载均衡的调用每一个服务器,提升网站的健壮性。
常见的负载均衡算法:
- 轮询:为第一个请求选择健康池中的第一个后端服务器,然后按顺序往后依次选择,直到最后一个,然后循环。
- 最小连接:优先选择连接数最少,也就是压力最小的后端服务器,在会话较长的情况下可以考虑采取这种方式。
- 散列:数据请求源的 IP 散列(hash)来选择要转发的服务器。这种方式可以一定程度上保证特定用户连接到相同的服务器。如果你的应用需要处理状态而要求用户能连接到和之前相同的服务器,可以考虑采用这种方式。
5、服务注册/发现&注册中心
A 服务调用 B 服务,A 服务并不知道 B 服务当前在哪几台服务器有,哪些是正常的,哪些服务已下线,解决这个问题可以引入注册中心。
如果某些服务下线,我们可以实时地感知到其他服务的状态,从而避免调用不可用的服务。
6、配置中心
每一个服务器最终都有大量的配置,并且每个服务器可能部署在多台机器上,我们经常需要变更配置,可以让每个服务在配置中心获取自己的配置。
配置中心用来集中管理微服务的配置信息。
7、服务熔断&服务降级
在微服务架构中,微服务之间通过网络通信,存在相互依赖。当其中一个服务不可用时,有可能会造成雪崩效应,要防止这样的情况,必须要有容错机制来保护服务。
服务熔断:设置服务超时,当被调用的服务经常失败达到某个阈值时,可以开启断路保护机制,后来的请求不再去调用这个服务,本地直接返回默认的数据。
服务降级:在运维期间,当系统处于高峰期,系统资源紧张,可以让非核心业务降级运行。
降级:某些服务不处理,或者简单处理,如:抛异常、返回 NULL、调用 Mock 数据、调用 Fallback 处理逻辑。
8、API 网关
在微服务架构中,API Gateway 作为整体架构的重要组件,它抽象了微服务中都需要的公共功能,同时提供了客户端负载均衡、服务自动熔断、灰度发布、统一认证、限流监控、日志统计等丰富的功能,帮助我们解决很多 API 管理难题。