是什么
Spring Cloud是一系列三方组件的有序集合。通过Spring Boot风格 进行再封装以隐藏复杂的配置和实现原理,曝露给业务开发一套简单易懂、易部署和易维护的分布式系统开发工具包。
为什么
Spring Cloud是目前最常用的微服务开发框架
- 组件丰富,功能齐全。
- 社区活跃度很高,教程很丰富
微服务怎么来的
系统架构演进(淘宝为例)
初. 单机架构
image.png
随着用户数的增长,Tomcat和数据库之间竞争资源,单机性能不足以支撑业务
一. Tomcat与数据库分开部署
image.png
随着用户数的增长,并发读写数据库成为瓶颈
二. 引入本地缓存和分布式缓存
image.png
缓存抗住了大部分的访问请求,随着用户数的增长,并发压力主要落在单机的Tomcat上,响应逐渐变慢
三. 引入反向代理实现负载均衡
image.png
反向代理使应用服务器可支持的并发量大大增加,但并发量的增长也意味着更多请求穿透到数据库,单机的数据库最终成为瓶颈
四. 数据库读写分离
image.png
业务逐渐变多,不同业务之间的访问量差距较大,不同业务直接竞争数据库,相互影响性能
五. 数据库按业务分库
image.png
随着用户数的增长,单机的写库会逐渐会达到性能瓶颈
六. 把大表拆分为小表
image.png
数据库和Tomcat都能够水平扩展,可支撑的并发大幅提高,随着用户数的增长,最终单机的Nginx会成为瓶颈
七. 使用LVS或F5来使多个Nginx负载均衡
image.png
由于LVS也是单机的,随着并发数增长到几十万时,LVS服务器最终会达到瓶颈,此时用户数达到千万甚至上亿级别,用户分布在不同的地区,与服务器机房距离不同,导致了访问的延迟会明显不同
八. 通过DNS轮询实现机房间的负载均衡
image.png
随着数据的丰富程度和业务的发展,检索、分析等需求越来越丰富,单单依靠数据库无法解决如此丰富的需求
九. 引入NoSQL数据库和搜索引擎等技术
image.png
引入更多组件解决了丰富的需求,业务维度能够极大扩充,随之而来的是一个应用中包含了太多的业务代码,业务的升级迭代变得困难
十. 大应用拆分为小应用
image.png
不同应用之间存在共用的模块,由应用单独管理会导致相同代码存在多份,导致公共功能升级时全部应用代码都要跟着升级
十一. 复用的功能抽离成微服务
image.png
不同服务的接口访问方式不同,应用代码需要适配多种访问方式才能使用服务,此外,应用访问服务,服务之间也可能相互访问,调用链将会变得非常复杂,逻辑变得混乱
十二. 引入企业服务总线ESB屏蔽服务接口的访问差异
image.png
业务不断发展,应用和服务都会不断变多,应用和服务的部署变得复杂,同一台服务器上部署多个服务还要解决运行环境冲突的问题,此外,对于如大促这类需要动态扩缩容的场景,需要水平扩展服务的性能,就需要在新增的服务上准备运行环境,部署服务等,运维将变得十分困难
十三. 引入容器化技术实现运行环境隔离与动态服务管理
image.png
使用容器化技术后服务动态扩缩容问题得以解决,但是机器还是需要公司自身来管理,在非大促的时候,还是需要闲置着大量的机器资源来应对大促,机器自身成本和运维成本都极高,资源利用率低
十四. 以云平台承载系统
image.png
- IaaS:基础设施即服务。对应于上面所说的机器资源统一为资源整体,可动态申请硬件资源的层面;
- PaaS:平台即服务。对应于上面所说的提供常用的技术组件方便系统的开发和维护;
- SaaS:软件即服务。对应于上面所说的提供开发好的应用或服务,按功能或性能要求付费。
系统架构设计的原则
- N+1设计。系统中的每个组件都应做到没有单点故障;
- 回滚设计。确保系统可以向前兼容,在系统升级时应能有办法回滚版本;
- 禁用设计。应该提供控制具体功能是否可用的配置,在系统出现故障时能够快速下线功能;
- 监控设计。在设计阶段就要考虑监控的手段;
- 多活数据中心设计。若系统需要极高的高可用,应考虑在多地实施数据中心进行多活,至少在一个机房断电的情况下系统依然可用;
- 采用成熟的技术。刚开发的或开源的技术往往存在很多隐藏的bug,出了问题没有商业支持可能会是一个灾难;
- 资源隔离设计。应避免单一业务占用全部资源;
- 架构应能水平扩展。系统只有做到能水平扩展,才能有效避免瓶颈问题;
- 非核心则购买。非核心功能若需要占用大量的研发资源才能解决,则考虑购买成熟的产品;
- 使用商用硬件。商用硬件能有效降低硬件故障的机率;
- 快速迭代。系统应该快速开发小功能模块,尽快上线进行验证,早日发现问题大大降低系统交付的风险;
- 无状态设计。服务接口应该做成无状态的,当前接口的访问不依赖于接口上次访问的状态。
微服务架构特点及优缺点
- 特点
单一职责自治 - 优点
业务内聚简化部署可扩展灵活组合技术异构高可靠 - 缺点
系统逻辑复杂技术人员要求高团队规模不宜过小运维复杂保持数据一致性复杂
微服务架构组件
- 注册中心
- 配置中心
- 通信框架
- 链路跟踪
- 服务监控
主要项目
- Spring Cloud Netflix
核心组件包括: Eureka(服务发现)、Hystrix(服务容错)、Ribbon(客户端负载均衡)、Feign(声明式服务调用,与Ribbon和Hystrix组合使用)、Zuul(API网关) - Spring Cloud Alibaba
核心组件包括: Nacos Discovery(服务发现)、Nacos Config(配置管理)、Sentinel(流量控制、熔断降级、系统负载保护)、Dubbo(RPC)、RocketMQ Binder(RocketMQ的Spring Cloud Stream适配器) - Spring Cloud Security
安全工具包,常用于对网关代理中的负载均衡OAuth2客户端及登录认证进行支持。 - Spring Cloud Stream
用于构建基于消息的微服务应用框架 - Spring Cloud Gateway
基于webflux的高性能网关 - Spring Cloud OpenFeign
Spring Cloud 2.0的Feign
SpringBoot和SpringCloud的区别
SpringBoot专注于快速、方便的开发单个微服务个体,SpringCloud关注全局 的服务治理框架。
服务注册和发现
单个服务向注册中心注册服务信息,并从注册中心获取其他服务的列表;注册中心负责收集、转发服务信息,监控服务健康状态
Ribbon客户端负载均衡
常见算法
image.png
Sentinel流控
解决
微服务遇到大流量时,服务雪崩的问题
即:服务之间相互依赖,当服务A出现响应时间过长,影响到服务B的响应,进而产生连锁反应,直至影响整个依赖链上的 所有服务,该如何处理
对策
- 超时机制
- 服务限流
滑动时间窗口算法漏桶算法令牌桶算法 - 服务熔断
断路器的状态:打开:依赖的资源在一段时间内达到失败阈值,停止向该资源发送请求半开:断路器打开后的一段时间后,短暂关闭断路器,尝试少量调用,若成功则关闭断路器关闭:目标资源正常可用状态 - 服务降级
服务熔断之后,返回本地的fallback(回退)回调
API网关
网关常见的功能有路由转发、权限校验、限流控制等作用
Spring Cloud Gateway是Spring Cloud官方推出的第二代网关组件
如果本文对你有帮助,别忘记给我个3连 ,点赞,转发,评论,
,咱们下期见!