微服务架构 基础(九)

已于 2022-04-11 17:21:46 修改
阅读量4.6k 收藏 1
点赞数
分类专栏： 后端 文章标签： 微服务 架构 spring cloud alibaba sentinel
于 2021-11-15 21:14:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43914658/article/details/121320586
版权

微服务架构 基础(九)

持续更新…

查看相关前置基础知识可以点这…

Sentinel实现服务熔断、服务降级和服务限流

Sentinel:分布式系统的流量防卫兵
Sentinel 是面向分布式服务架构的轻量级流量控制产品，主要以流量为切入点，从流量控制、熔断降级、系统负载保护等多个维度来帮助您保护服务的稳定性。

Sentinel具有以下特征

  • 丰富的应用场景：Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景，例如秒杀（即突发流量控制在系统容量可以承受的范围）、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
  • 完备的实时监控：Sentinel 同时提供实时的监控功能。可以在控制台中看到接入应用的单台机器秒级数据，甚至 500 台以下规模的集群的汇总运行情况。
  • 广泛的开源生态：Sentinel 提供开箱即用的与其它开源框架/库的整合模块，例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。
  • 完善的 SPI 扩展点：Sentinel 提供简单易用、完善的 SPI 扩展接口。可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。

Sentinel主要特性

在这里插入图片描述
Sentinel开源生态

在这里插入图片描述

Sentinel分为两部分

  • 核心库(Java客户端)不依赖任何框架/库，能够运行所有Java运行时环境，同时对Dubbo/Spring Cloud等框架也有较好的支持。
  • 控制台(Dashboard)基于Spring Boot开发，打包后可以直接运行，不需要额外的Tomcat等Web应用容器

搭建Sentinel控制台

GitHub官网下载Sentinel控制台Jar包

下载完成后，直接通过java -jar sentinel-dashboard-1.8.1.jar编译命令启动即可(默认端口为8080)，进入管理界面后，其初始登录账号和密码均为sentinel

在这里插入图片描述

sentinel基本使用

新建服务提供者子模块(sentinel-service-8002)

添加主要依赖：

 <dependencies>
   <!-- sentinel依赖 -->
   <dependency>
       <groupId>com.alibaba.cloud</groupId>
       <artifactId>spring-cloud-alibaba-sentinel</artifactId>
       <version>2.1.1.RELEASE</version>
   </dependency>
   <dependency>
       <groupId>org.springframework.boot</groupId>
       <artifactId>spring-boot-starter-web</artifactId>
   </dependency>
   <!-- nacos依赖 -->
   <dependency>
       <groupId>com.alibaba.cloud</groupId>
       <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
   </dependency>
   <dependency>
       <groupId>org.springframework.boot</groupId>
       <artifactId>spring-boot-starter-actuator</artifactId>
   </dependency>
</dependencies>
<dependencyManagement>
   <dependencies>
       <dependency>
           <groupId>org.springframework.cloud</groupId>
           <artifactId>spring-cloud-dependencies</artifactId>
           <version>${spring-cloud.version}</version>
           <type>pom</type>
           <scope>import</scope>
       </dependency>
       <dependency>
           <groupId>com.alibaba.cloud</groupId>
           <artifactId>spring-cloud-alibaba-dependencies</artifactId>
           <version>${spring-cloud-alibaba.version}</version>
           <type>pom</type>
           <scope>import</scope>
       </dependency>
       <dependency>
           <groupId>org.springframework.boot</groupId>
           <artifactId>spring-boot-dependencies</artifactId>
           <version>${spring-boot.version}</version>
           <type>pom</type>
           <scope>import</scope>
       </dependency>
   </dependencies>
</dependencyManagement>

添加application.yml文件：

server:
  port: 8002
spring:
  application:
    name: eentinel-service
  cloud:
    nacos:
      discovery:
        server-addr: 192.168.50.248:1111 # Nacos集群入口
    sentinel:
      transport:
        # 配置Sentinel dashboard属性
        dashboard: localhost:8080 # sentinel控制面板的地址
        # port: 8888 # 如果端口8080被占用，则从该端口递增扫描查找未杯占用的端口
management:
  endpoints:
    web:
      exposure:
        include: '*' # 暴露监控端点

主启动类：

package cn.wu;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;

@SpringBootApplication
@EnableDiscoveryClient
public class SentinelServiceApplication8002 {
    public static void main(String[] args) {
        SpringApplication.run(SentinelServiceApplication8002.class,args);
    }
}

控制层：

package cn.wu.controller;

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class TestController {
    @GetMapping("/test/a")
    public String testA(){
        return "TestA方法… ";
    }

    @GetMapping("/test/b")
    public String testB(){
        return "TestB方法… ";
    }
}

测试结果(由于sentinel加载是懒加载机制，因此需要事先访问服务提供者的端口才能看到结果… )：

在这里插入图片描述

流控规则

基本配置选项：

在这里插入图片描述

参数简述

  • 资源名：唯一名称，默认请求路径
  • 针对来源：Sentinel可以针对调用者进行限流，填写微服务名，默认为default
  • 阈值类型/单机阈值：
    • QPS(每秒的请求数量)：当调用的API达到阈值时，进行限流
    • 线程数：当调用该API的线程数达到阈值时，进行限流
  • 是否集群：Sentinel集群模式是否开启
  • 流控模式：
    • 直接：API达到限流条件时，直接限流
    • 关联：但关联的资源达到阈值时，进行自我限流
    • 链路：只记录指定链路上的流量(指定资源从入口资源进来的流量，如果达到阈值，就进行限流)
  • 流控效果：
    • 快速失败：直接失败，抛异常
    • Warm Up：根据coldFactor(冷加载因子,默认为3)的值，经过预热时长公式阈值除以coldFactor ，才会达到设置的QPS阈值
    • 排队等待：匀速排队，让请求匀速的速度通过，阈值类型为必须设置为QPS，否则无效

阈值类型为QPS，其余默认的配置

对/test/a添加流量规则
在这里插入图片描述

此时在一秒内超过一次的请求访问http://localhost:8002/test/a的会出现以下结果：

在这里插入图片描述

阈值类型为线程数，流控模式为直接

以下单机阈值为1的含义为：处理请求方法可以执行的当前线程个数最多为1

在这里插入图片描述

利用JMeter进行简单的压力测试(读者如果不了解JMeter可以查看这儿… )：

在这里插入图片描述
在这里插入图片描述

流控模式为关联，阈值类型为QPS，流控效果为快速失败

当与A关联的资源B达到阈值后，就限流A本身，以下说明只要API /test/b达到单机阈值(但并不是根据API /test/b本身是否会限流)，API /test/a就会限流自身

在这里插入图片描述
利用JMeter进行简单的压力测试：

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

测试结果为：

在这里插入图片描述

流控模式为直接，阈值类型为QPS，流控效果为Warm Up

以下配置参数说明：当API /test/aQPS超过初始单机阈值:12(单机阈值)/3(冷加载因子)=4，会进入预热过程，此时会从该初始阈值开始，经过5秒时间慢慢恢到最终的单机阈值上限12。如果最大的QPS依然大于单机阈值，则抛出异常

在这里插入图片描述
简单起见，读者可以直接手动模拟(有点考验手速，首先快速点击使得QPS超过初始阈值4，结果会显示异常，当预热时长达到5秒后，由于笔者手速实在达不到10次/S以上，因此，一段时间都是正常访问的… )

流控模式为直接，阈值类型为QPS，流控效果为排队等待

以下含义为：客户端API /test/a的QPS一旦超过单机阈值1，就会排队等待，等待的时长为10000ms

在这里插入图片描述

多次点击API的结果为(已经出现了加载符号… )：

在这里插入图片描述

由于排队的因素，此时JMeter中可以看到请求成功和失败泾渭分明：

在这里插入图片描述

流控模式为链路，阈值类型为QPS，流控效果为快速失败

以下含义为：当前入口API /test/b路径访问API /test/a的最大QPS不能超过单机阈值，否则会当前入口API会被限流

在这里插入图片描述

降级规则

基本配置选项：

在这里插入图片描述

  • 慢调用比例：在一个统计时长内，如果持续进入请求个数大于最小最小请求数，并且它们的RT都超过了最大RT这个阈值，则进入熔断状态，时间段长度为熔断时长，该时间段内的请求将进行服务降级。(最大RT超出4900ms都会算作4900ms)
  • 异常比例：一个统计时长内请求数超过最小请求数并且一个统计时长内失败率达到比例阈值则进入熔断状态，持续时间为熔断时长
  • 异常数：一个统计时长内请求数超过最小请求数并且一个统计时长内失败的请求个数超过异常数时，进入熔断状态，持续时间为熔断时长

慢调用比例

添加控制层API：

 @GetMapping("/test/c")
 public String testC(){
     try {
         // 该线程休眠2秒时间
         Thread.sleep(2000);
     } catch (InterruptedException e) {
         e.printStackTrace();
     }
     return "TestC 方法";
}

设置线程参数配置为一秒完成50个线程：

在这里插入图片描述
设置降级规则配置为：

在这里插入图片描述

由于最大的响应时间小于请求处理时间，因此以上访问都会失败…

异常比例

添加控制层异常：

@GetMapping("/test/d")
public String testD(){
    int i = 10/0;
    return "TestD 方法";
}

配置降级规则：

在这里插入图片描述

连续点击结果：

在这里插入图片描述
异常数

在这里插入图片描述

结果为：

在这里插入图片描述

热点限流(重要)

何为热点?
热点即为经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的Top K 数据，并对其进行限制。

在这里插入图片描述

添加控制层代码：

这里建议读者阅读完Hystrix内容，能更好地理解代码…

@GetMapping("/test/e")
// 这里的value是要和资源名匹配，降级方法名称为testEHandler
@SentinelResource(value = "testE",blockHandler = "testEHandler")
public String testE(@RequestParam(value = "id",required =  false) String id,
                    @RequestParam(value = "name",required =  false) String name){

    return "TestE 方法"+"Id为："+id+",Name为："+name;
}
public String testEHandler(String id, String name, BlockException blockException){
    return "testEHandler 方法"+"Id为："+id+",Name为："+name;
}

设置热点规则配置(这里为第一个参数，即id进行限流)：

在这里插入图片描述

连续多次访问函数方法中携带第一个参数(即只要匹配到id)的请求，服务将将进入到降级：

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

参数例外项

如果期望参数的值为特殊值时进行特例限流，作进一步细化

对第二个参数(即匹配到name)的值为’张三’进行特例限流
在这里插入图片描述

多次快速访问URLhttp://localhost:8002/test/e?id=1&name=张三结果为：

在这里插入图片描述

系统自适应限流

Sentinel系统自适应限流从整体维度读应用入口流量进行控制，结合应用的Load、CPU使用率、总体平均RT、入口QPS和并发线程数等几个维度的监控指标，通过自适应的流控策略，让系统的入口流量和系统的负载达到一个平衡，让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

在这里插入图片描述

  • Load 自适应(仅对 Linux/Unix-like 机器生效)： 系统的 load1 作为启发指标，进行自适应系统保护。当系统 load1 超过设定的启发值，且系统当前的并发线程数超过估算的系统容量时才会触发系统保护。系统容量由系统的 maxQps * minRt 估算得出。设定参考值一般是 CPU 核数 * 2.5。
  • CPU使用率 ： 当系统 CPU 使用率超过阈值即触发系统保护，取值范围为0到1，比较灵敏。
  • 平均 RT： 当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护，单位是毫秒。
  • 入口 QPS： 当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。
  • 并发线程数： 当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。

测试(设置全局入口QPS最大为1… )，此时短时间内连续多次访问微服务的任意URL：

在这里插入图片描述

Sentinel注解配置

@SentinelResource注解参数

  • fallback：运行异常
  • blockHandler：配置违规
  • blockHandlerClass：降级处理类
  • blockHandler：降级处理类中的静态方法

前面存在的问题总结

  • 系统默认的方法，不能体现实际灵活的业务需求
  • 控制层代码存在耦合
  • 每个业务方法都添加相应的服务降级方法，代码变得冗杂
  • 全局降级处理方法未能体现
  • 不能持久化存储配置信息

修改控制层代码：

package cn.wu.controller;

import cn.wu.handler.TestHandler;
import com.alibaba.csp.sentinel.annotation.SentinelResource;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class TestController {
    @SentinelResource(value = "test", // 资源名
    blockHandlerClass = TestHandler.class, // 降级处理类
    blockHandler = "testHandler") // 降级处理方法
    @GetMapping("/test")
    public String test(){
        return "正常执行… ";
    }
}

添加降级处理类：

package cn.wu.handler;

import com.alibaba.csp.sentinel.slots.block.BlockException;

public class TestHandler {
// 这里需要静态方法
    public static String testHandler(BlockException blockException){
        return "服务繁忙，请稍后再试!";
    }
}

添加流控规则：

在这里插入图片描述

连续多次访问，测试结果为：
在这里插入图片描述

初步解决耦合的问题…

Sentinel整合Ribbon

利用前面基础八工程的两个服务提供者子模块(nacos-service-8001/nacos-service-9001)以及服务消费者(nacos-main-80)进行扩展学习…

只有运行异常处理类

服务消费者添加主要依赖：

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-alibaba-sentinel</artifactId>
    <version>2.1.1.RELEASE</version>
</dependency>

服务消费者修改application.yml：

server:
  port: 80
spring:
  application:
    name: nacos-consumer

  cloud:
    nacos:
      discovery:
        server-addr: 192.168.50.248:1111 # Nacos集群地址
    sentinel:
      transport:
        dashboard: localhost:8080 # sentinel控制面板URL

# 自定义服务提供者地址属性
nacos-provider-addr: http://nacos-service-provider
management:
  endpoints:
    web:
      exposure:
        include: '*' # 暴露监控点

服务消费者控制层：

package cn.wu.controller;

import cn.wu.handler.TestHandler;
import com.alibaba.csp.sentinel.annotation.SentinelResource;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

@RestController
public class ConsumerController {
    // 配置与代码做到分离
    @Value("${nacos-provider-addr}")
    private String serverURL ;

    private RestTemplate restTemplate;

    @Autowired
    @Qualifier("restTemplateBean")
    public void setRestTemplate(RestTemplate restTemplate) {
        this.restTemplate = restTemplate;
    }

    @GetMapping("/test/{id}")
    @SentinelResource(value = "test", // 资源名
            fallbackClass = TestHandler.class,
            fallback = "testHandler")
    public String test(@PathVariable("id") String id){
        if(Integer.parseInt(id) < 0){
            throw new IllegalArgumentException("参数非法异常… ");
        }
        return restTemplate.getForObject(serverURL+"/provide/"+id,String.class);
    }
}

服务消费者的降级处理类：

package cn.wu.handler;

import org.springframework.web.bind.annotation.PathVariable;

public class TestHandler {
    public static String testHandler(@PathVariable("id") String id, Throwable throwable){
        return "Id为: "+id+"是非法参数，请重新输入!";
    }
}

修改服务提供者控制层：

package cn.wu.controller;

import org.springframework.beans.factory.annotation.Value;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class ProviderController {
    @Value("${server.port}")
    private String port;

    @GetMapping("/provide/{id}")
    public String provide(@PathVariable("id") String id){
        return "当前端口为: "+port+"，当前Id为: "+id;
    }
}

结果为：
在这里插入图片描述

既有运行异常处理类，又有Sentinel违规处理类

修改服务消费者控制层：

package cn.wu.controller;

import cn.wu.fallback.TestFallBack;
import cn.wu.handler.TestHandler;
import com.alibaba.csp.sentinel.annotation.SentinelResource;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

@RestController
public class ConsumerController {
    // 配置与代码做到分离
    @Value("${nacos-provider-addr}")
    private String serverURL ;

    private RestTemplate restTemplate;

    @Autowired
    @Qualifier("restTemplateBean")
    public void setRestTemplate(RestTemplate restTemplate) {
        this.restTemplate = restTemplate;
    }

    @GetMapping("/test/{id}")
    @SentinelResource(value = "test", // 资源名
            fallbackClass = TestFallBack.class, // 运行异常处理类
            fallback = "testFallBack", // 运行异常处理方法
            blockHandlerClass = TestHandler.class, // Sentinel违规处理类
            blockHandler = "testHandler",// Sentinel违规处理方法
//            exceptionsToIgnore = {IllegalArgumentException.class} // 异常忽略
        ) 
    public String test(@PathVariable("id") String id){
        if(Integer.parseInt(id) < 0){
            throw new IllegalArgumentException("参数非法异常… ");
        }
        return restTemplate.getForObject(serverURL+"/provide/"+id,String.class);
    }
}

修改运行异常处理类：

package cn.wu.fallback;

import org.springframework.web.bind.annotation.PathVariable;

public class TestFallBack {
    public static String testFallBack(@PathVariable("id") String id, Throwable throwable){
        return "Id非法，请重新设置!";
    }
}

添加Sentinel违规处理类：

package cn.wu.handler;

import com.alibaba.csp.sentinel.slots.block.BlockException;
import org.springframework.web.bind.annotation.PathVariable;

public class TestHandler {
    public static String testHandler(@PathVariable("id") String id, BlockException blockException){
        return "服务繁忙，请重新尝试!";
    }
}

新增降级规则：
在这里插入图片描述

访问相应的URL，如果不连续多次发送请求，结果如下：
在这里插入图片描述
多次连续发送以上请求，结果如下(进入熔断状态…)：

在这里插入图片描述
继续添加限流规则：

在这里插入图片描述

此时，多次发送请求正常的URL，也会进入到Sentinel违规处理类中，同时，多次发送异常请求，服务降级也会重叠…

规则持久化

一旦重启Sentinel应用，Sentinel中的规则将会刷新重置，而生产环境需要配置规则进行持久化

添加持久化依赖：

<!-- 将Sentinel规则持久化到nacos -->
<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-datasource-nacos</artifactId>
</dependency>

修改application.yml配置：

server:
  port: 80
spring:
  application:
    name: nacos-consumer

  cloud:
    nacos:
      discovery:
        server-addr: 192.168.50.248:1111 # Nacos集群地址
    sentinel:
      transport:
        dashboard: localhost:8080 # sentinel控制面板URL
      datasource:
        datasource1: # 持久化数据源1名称
          nacos:
            server-addr: 192.168.50.248:1111 # Nacos集群地址
            dataId: ${spring.application.name} # 持久化配置文件DataId，保持一致
            gourpId: DEFAULT_GROUP # 配置组
            data-type: json # 配置类型
            rule-type: flow


# 自定义服务提供者地址属性
nacos-provider-addr: http://nacos-service-provider
management:
  endpoints:
    web:
      exposure:
        include: '*' # 暴露监控点

打开Nacos管理界面，新建配置文件(这里的Data Id要和application.yml配置信息保持一致… )：

[
    {
        "resource": "test",
        "limitiApp": "default",
        "grade": 1,
        "count": 1,
        "strategy": 0,
        "controlBehavior": 0,
        "clusterMode": false
    }
]
  • resource: 资源名称
  • limitApp: 来源应用
  • grade: 阈值类型，0表示线程数，1表示QPS
  • count: 单机阈值
  • strategy: 流控模式，0表示直接，1表示关联，2表示链路
  • controlBehavior: 流控效果，0表示快速失败，1表示Warm Up，2表示排队等待
  • clusterMode：Sentinel是否开启集群

在这里插入图片描述

通过push模式，此时只要添加规则，无论Sentinel是否发生重启，规则配置信息都会保存，也就是完成了持久化…


流控规则Json格式：
resource：资源名称
limitApp：来源应用
grade：阀值类型，0：线程数，1：QPS
count：单机阀值
strategy：流控模式，0：直接，1：关联，2：链路
controlBehavior：流控效果，0：快速失败，1：warmUp，2：排队等待
clusterMode：是否集群

降级规则Json格式：
resource：资源名称
limitApp：来源应用
grade：降级策略，0：RT，1：异常比列，2：异常数
count：阈值
timeWindow：熔断时间
minRequestAmount：最小请求数
statIntervalMs：统计时长

一夜星尘
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Springcloud微服务架构基础知识解析
08-19
Springcloud微服务架构基础知识解析 微服务架构基础知识解析是当前软件开发领域中非常重要的一个概念，了解微服务架构的基础知识对于学习或者工作具有非常重要的参考价值。下面我们将详细介绍微服务架构的基础知识...
微服务架构基础
04-29
微服务架构基础电子书（Spring Boot+Spring Cloud+Docker） 本书以Spring Boot Spring Cloud Docker技术为基础，从当下流行的微服务架构理念出发，详细讲解了微服务和微服务架构方面的技术知识。全书共分为四部分：...
微服务14_微服务保护02：sentinel流量控制
weixin_43989347的博客
04-02 1002
微服务14_微服务保护02：sentinel流量控制流量控制1、快速入门（流控—直接：超过阈值—拒绝）2、流控模式直接关联链路3、流控效果warm up排队等待总结4、热点参数限流全局参数限流热点参数限流案例 流量控制 簇点链路：就是项目内的调用链路，链路中被监控的每个接口就是一个资源。默认情况下sentinel会监控springMVC的每一个端点（Endpoint）【也就是说默认只监控Controller中的方法】，因此springMVC的每个端点就是调用链路中的一个资源。 流控、熔断等都是针对簇点链路中
隔离和降级
weixin_57128596的博客
06-02 234
回顾 我们的限流——>目的：在并发请求的情况下服务出现故障，避免因为服务故障的出现而导致级联失败；所以说限流也就是对服务故障的一种预防措施（毕竟咱是先设置了，再请求的嘛）； 隔离和降级 回顾雪崩： 比如说服务之间的依赖，当服务C出问题而导致服务A调用不了时，如果大量请求涌入A服务调用C服务，此时会导致服务A中的资源被大量占用——>导致服务A宕机； 解决——>我们采用线程隔离（舱壁模式），将服务A中的业务进行隔离，每一个业务分配线程池，比如说我请求A需要用到C服务，那么就只能占
QPS、TPS、RT、并发用户数、吞吐量
laker的博客
12-01 1万+
RT这个参数是系统最重要的指标之一，它的大小直接反应了当前系统的响应状态。客户机在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数，一般系统RT 100ms 以内是比较正常的，300ms 勉强可以接受，1s的话再加上一些其他的外因，给用户的体验就是实实在在的不爽了。并发数（并发度）：指系统同时能处理的请求数量，同样反应了系统的负载能力。：按二八定律来看，如果每天80%的访问集中在20%的时间里，这20%时间叫做峰值时间。
1_服务承受QPS
蒙强的博客
04-26 464
查询服务器最大QPS QPS最大值得获取和服务器CPU、内存、I/O有密切关联必须满足条件才能测出来。 系统CPU利用率：如果系统的CPU使用率已经很高，说明我们的系统是个计算度很复杂的系统，这时候如果QPS已经上不去了，就需要赶紧扩容，通过增加机器分担计算的方式来提高系统的吞吐量。 系统内存：如果CPU使用率一般，但是系统的QPS上不去，说明我们的机器并没有忙于计算，而是收到其他资源的限制，如内存、I/O。这时候首先看下内存是不是已经不够了，如果内存不够了，那就赶紧扩容了。 ab压测 安装ab工具 [
页面访问量统计实例
Java 之 道
09-01 6959
import java.io.IOException; import java.io.PrintWriter; import javax.servlet.ServletContext; import javax.servlet.ServletException; import javax.servlet.http.HttpServlet; import ja
微服务和微服务架构基础知识
08-25
微服务架构与云基础设施、DevOps和持续交付相结合，成为推动企业IT快速转型的关键。它促进了创新，帮助企业更好地响应市场变化，保持竞争优势。总的来说，微服务架构是现代软件开发中的一种强大工具，能够帮助企业...
美团点评微服务架构实践
02-12
美团点评微服务架构实践 基础架构部 张熙 在微服务专题会上的分享
springcloud与docker微服务架构实战配套代码
06-01
springcloud与docker微服务架构实战配套代码springcloud与docker微服务架构实战配套代码springcloud与docker微服务架构实战配套代码springcloud与docker微服务架构实战配套代码springcloud与docker微服务架构实战...
微服务治理与统计分析
EAWorld
09-18 907
转载本文需注明出处：微信公众号EAWorld，违者必究。引言：微服务架构下，服务拆得越细，服务的粒度越小，可组装性就越好；与之相对的服务之间的调用关系就会变复杂，为了保证...
Redis统计访问量方法
weixin_30835923的博客
06-23 1907
1.统计客户忘问量 2.查询某位ID客户是否登录 一亿用户，统计数据10M左右，比较省空间 set usercount 0 　　　　 　　 设置一个变量，用于记录客户访问量setbit usercount 2 0 　　　　 两部操作将所有位数都变成0setbit usercount 3 0 bitcount usercount ID 8888 用户登录setbit usercou...
网站访问量等数据统计
weixin_33937778的博客
04-17 751
访问此网站：查看文档即可 转载于:https://www.cnblogs.com/candy-Yao/p/8866428.html
什么是QPS，TPS，吞吐量
热门推荐
逝者如风
12-20 7万+
1、TPS：Transactions Per Second（每秒传输的事物处理个数），即服务器每秒处理的事务数。TPS包括一条消息入和一条消息出，加上一次用户数据库访问. TPS是软件测试结果的测量单位。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数。 一般的，评价系统性能均以每秒钟完成...
吞吐量（TPS）、QPS、并发数、响应时间（RT）概念
weixin_40805537的博客
11-05 618
1. 响应时间(RT) 响应时间是指系统对请求作出响应的时间。直观上看，这个指标与人对软件性能的主观感受是非常一致的，因为它完整地记录了整个计算机系统处理请求的时间。由于一个系统通常会提供许多功能，而不同功能的处理逻辑也千差万别，因而不同功能的响应时间也不尽相同，甚至同一功能在不同输入数据的情况下响应时间也不相同。所以，在讨论一个系统的响应时间时，人们通常是指该系统所有功能的平均时间或者所有功能的...
服务器达到多少qps比较好
WEI的博客
04-16 3465
你好，每秒zd查询率QPS是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准，在因特网上，作为域名系统服务器的机器的性能经常用每秒查询率来衡量。 原理：每天版80%的访问集中在20%的时间里，这20%时间叫做峰值时间 公式：( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间每秒请求数(QPS) 机器：峰值时间每秒QPS / 单台机器的QPS = 需要的机器 问：...
Web开发中，什么级别才算是高并发
weixin_33796205的博客
08-25 3319
这并不是一个回答的问题的文章，而是由此引发的一个思考。 大家心里仔细想想，当你们听到高并发网站时，心里对这个网站是个什么概念？首先想到的是淘宝吗？带着问题，我们一起思考技术 写这个话题是因为我对搜索引擎给我的答案很不满意，然后决定把思考的一些东西分享出来，希望可以大家彼此讨论下。 我们经常在面试的时候，被问到有没有高并发的经验？先不说哪些...
Sentinel基本使用--基于QPS流量控制(一), 采用默认快速失败/直接拒绝策略控制超过阈值的流量(结合Dashboard使用)
xiongxianze的博客
02-18 1万+
随着微服务的流行，服务和服务之间的稳定性变得越来越重要。Sentinel 是面向分布式服务架构的轻量级流量控制框架，主要以流量为切入点，从流量控制、熔断降级、系统负载保护等多个维度来帮助您保护服务的稳定性。 流量控制有以下几个角度: 资源的调用关系，例如资源的调用链路，资源和资源之间的关系； 运行指标，例如 QPS、线程池、系统负载等； 控制的效果，例如直接限流、冷启动、排队等。 Sent...
微服务架构基础设施现状
最新发布
05-09
微服务架构的基础设施包括了服务发现、负载均衡、容错处理、配置管理、日志监控等。当前，针对微服务架构的基础设施已经有成熟的解决方案。下面简单介绍一些常见的微服务基础设施现状： 1. 服务发现：目前比较流行...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值