SpringCloud微服务接口限流的两种方式,你学会了吗?

背景

我想,大家平时接触最多的app就是淘宝、京东了吧!这些大的电商网站,每天处理的访问量都是亿级的。如果,不对系统中的各个接口进行保护,当并发访问量大时,系统就会发生故障。

所以,保护好系统,就会用到缓存、降级和限流这三把利器。前面讲过了断路器Hystrix的熔断与降级;缓存可以使用内存里面的缓存队列、消息中间件、分布式缓存;限流可以使用Zuul来实现。通过限流,可以很好地控制系统的qps。

每秒查询率QPS是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。

服务限流


方法一:Zuul+RateLimiter

RateLimiter是Guava提供的基于令牌桶算法的实现类,可以非常简单的完成限流特技,并且根据系统的实际情况来调整生成token的速率。

至于令牌桶算法的基本流程,大家可以通过查询相关资料进行学习。给大家推荐一个讲解令牌桶算法的视频,个人觉得易于理解。https://www.bilibili.com/video/av26168532/ ,接下来,就用代码的方式来实现Zuul的限流。

要用RateLimiter,需要导入相应的约束,所以,就对上篇博文中的网关服务(api-gateway)进行改造,pom中增加约束。

com.marcosbarbero.cloud

spring-cloud-zuul-ratelimit

2.1.0.RELEASE

org.springframework.boot

spring-boot-starter-data-redis

注意,这里需要用到Redis,所以也需要把Redis的约束导入。然后在yml中添加相应的配置。

ratelimit:

enabled: true

default-policy:

limit: 10

quota: 4

refresh-interval: 5

type: #可选 限流方式

- url

  • ratelimit.enabled=true表示开启限流策略。

  • ratelimit.default-policy.limit=10 表示请求控制在10次以内。

  • ratelimit.default-policy.quota=4 请求时间不得超过4秒。

  • ratelimit.default-policy.refresh-interval=5 刷新间隔是5秒。

综上所述:所有服务在5秒内只能有10次请求,并且请求的时间总和不得超过4秒。

配置完成,接下来,启动服务,进行测试。

9488cd2c726dba508b3f8fdcaede8cb6.png

可以看到,在启动网关服务的时候,出现了异常。上面指出zuul.ratelimit.repository这个配置,不能为空。相信大家对repository这个词并不陌生。我们原来在学Mybatis、JPA、Hibernate的时候经常看到。

所以,这个错误就是提示我们,需要某种仓库存储限流数据。通过点击配置文件,查看源码。

/*

* Copyright 2012-2018 the original author or authors.

* Licensed under the Apache License, Version 2.0 (the “License”);

* you may not use this file except in compliance with the License.

* You may obtain a copy of the License at

*      http://www.apache.org/licenses/LICENSE-2.0

* Unless required by applicable law or agreed to in writing, software

* distributed under the License is distributed on an “AS IS” BASIS,

* WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.

* See the License for the specific language governing permissions and

* limitations under the License.

*/

package com.marcosbarbero.cloud.autoconfigure.zuul.ratelimit.config.properties;

public enum RateLimitRepository {

/**

* Uses Redis as data storage

*/

REDIS,

/**

* Uses Consul as data storage

*/

CONSUL,

/**

* Uses SQL database as data storage

*/

JPA,

/**

* Uses Bucket4j JCache as data storage

*/

BUCKET4J_JCACHE,

/**

* Uses Bucket4j Hazelcast as data storage

*/

BUCKET4J_HAZELCAST,

/**

* Uses Bucket4j Ignite as data storage

*/

BUCKET4J_IGNITE,

/**

* Uses Bucket4j Infinispan as data storage

*/

BUCKET4J_INFINISPAN,

}

可以看到这是一个枚举类。其中,较为熟悉的就是REDIS、CONSUL、JPA。这里,就选择REDIS作为限流数据的存储。这就是pom文件中导入REDIS的原因。重新修改配置文件

ratelimit:

enabled: true

repository: REDIS  #对应存储类型(用来存储统计信息)

behind-proxy: true  #代理之后

default-policy: #可选 - 针对所有的路由配置的策略,除非特别配置了policies

limit: 10 #可选 - 每个刷新时间窗口对应的请求数量限制

quota: 4 #可选-  每个刷新时间窗口对应的请求时间限制(秒)

refresh-interval: 5 # 刷新时间窗口的时间,默认值 (秒)

type: #可选 限流方式

- url

服务正常启动,接下来进行测试。学习资料:Java进阶视频资源

上面限制5秒之内只能发送10次请求,那就发送11次请求试一试。使用postman工具进行请求的发送。同时,教大家如何使用postman批量发送请求。

bc9e99634d1eeb7ab665cd9f92346870.png

首先,在地址栏填写接口地址,然后,可以点击send,测试当前地址是否正确。如果一切正常,点击旁边的save按钮。

4b5e47c18b45da1ab93da5b51fc541b3.png

出现上面的浮层,按照箭头的标注,进行操作,点击save按钮后,在左边就能看到已经保存的请求了。

bb4f3787b2b4140e84b7e507abcb00a5.png

然后点击图示的run按钮,进入下面的界面。

92a61b3d7df5dcc4494ee3c4474868e3.png

总结

虽然我个人也经常自嘲,十年之后要去成为外卖专员,但实际上依靠自身的努力,是能够减少三十五岁之后的焦虑的,毕竟好的架构师并不多。

架构师,是我们大部分技术人的职业目标,一名好的架构师来源于机遇(公司)、个人努力(吃得苦、肯钻研)、天分(真的热爱)的三者协作的结果,实践+机遇+努力才能助你成为优秀的架构师。

如果你也想成为一名好的架构师,那或许这份Java成长笔记你需要阅读阅读,希望能够对你的职业发展有所帮助。

image

rt/92a61b3d7df5dcc4494ee3c4474868e3.png)

总结

虽然我个人也经常自嘲,十年之后要去成为外卖专员,但实际上依靠自身的努力,是能够减少三十五岁之后的焦虑的,毕竟好的架构师并不多。

架构师,是我们大部分技术人的职业目标,一名好的架构师来源于机遇(公司)、个人努力(吃得苦、肯钻研)、天分(真的热爱)的三者协作的结果,实践+机遇+努力才能助你成为优秀的架构师。

如果你也想成为一名好的架构师,那或许这份Java成长笔记你需要阅读阅读,希望能够对你的职业发展有所帮助。

[外链图片转存中…(img-FbhHUdhI-1714468925913)]

本文已被CODING开源项目:【一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码】收录

  • 18
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值