背景
–
我想,大家平时接触最多的app就是淘宝、京东了吧!这些大的电商网站,每天处理的访问量都是亿级的。如果,不对系统中的各个接口进行保护,当并发访问量大时,系统就会发生故障。
所以,保护好系统,就会用到缓存、降级和限流这三把利器。前面讲过了断路器Hystrix的熔断与降级;缓存可以使用内存里面的缓存队列、消息中间件、分布式缓存;限流可以使用Zuul来实现。通过限流,可以很好地控制系统的qps。
每秒查询率QPS是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。
服务限流
方法一:Zuul+RateLimiter
RateLimiter是Guava提供的基于令牌桶算法的实现类,可以非常简单的完成限流特技,并且根据系统的实际情况来调整生成token的速率。
至于令牌桶算法的基本流程,大家可以通过查询相关资料进行学习。给大家推荐一个讲解令牌桶算法的视频,个人觉得易于理解。https://www.bilibili.com/video/av26168532/ ,接下来,就用代码的方式来实现Zuul的限流。
要用RateLimiter,需要导入相应的约束,所以,就对上篇博文中的网关服务(api-gateway)进行改造,pom中增加约束。
com.marcosbarbero.cloud
spring-cloud-zuul-ratelimit
2.1.0.RELEASE
org.springframework.boot
spring-boot-starter-data-redis
注意,这里需要用到Redis,所以也需要把Redis的约束导入。然后在yml中添加相应的配置。
ratelimit:
enabled: true
default-policy:
limit: 10
quota: 4
refresh-interval: 5
type: #可选 限流方式
- url
-
ratelimit.enabled=true
表示开启限流策略。 -
ratelimit.default-policy.limit=10
表示请求控制在10次以内。 -
ratelimit.default-policy.quota=4
请求时间不得超过4秒。 -
ratelimit.default-policy.refresh-interval=5
刷新间隔是5秒。
综上所述:所有服务在5秒内只能有10次请求,并且请求的时间总和不得超过4秒。
配置完成,接下来,启动服务,进行测试。
可以看到,在启动网关服务的时候,出现了异常。上面指出zuul.ratelimit.repository
这个配置,不能为空。相信大家对repository这个词并不陌生。我们原来在学Mybatis、JPA、Hibernate的时候经常看到。
所以,这个错误就是提示我们,需要某种仓库存储限流数据。通过点击配置文件,查看源码。
/*
* Copyright 2012-2018 the original author or authors.
* Licensed under the Apache License, Version 2.0 (the “License”);
* you may not use this file except in compliance with the License.
* You may obtain a copy of the License at
* http://www.apache.org/licenses/LICENSE-2.0
* Unless required by applicable law or agreed to in writing, software
* distributed under the License is distributed on an “AS IS” BASIS,
* WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
* See the License for the specific language governing permissions and
* limitations under the License.
*/
package com.marcosbarbero.cloud.autoconfigure.zuul.ratelimit.config.properties;
public enum RateLimitRepository {
/**
* Uses Redis as data storage
*/
REDIS,
/**
* Uses Consul as data storage
*/
CONSUL,
/**
* Uses SQL database as data storage
*/
JPA,
/**
* Uses Bucket4j JCache as data storage
*/
BUCKET4J_JCACHE,
/**
* Uses Bucket4j Hazelcast as data storage
*/
BUCKET4J_HAZELCAST,
/**
* Uses Bucket4j Ignite as data storage
*/
BUCKET4J_IGNITE,
/**
* Uses Bucket4j Infinispan as data storage
*/
BUCKET4J_INFINISPAN,
}
可以看到这是一个枚举类。其中,较为熟悉的就是REDIS、CONSUL、JPA。这里,就选择REDIS作为限流数据的存储。这就是pom文件中导入REDIS的原因。重新修改配置文件
ratelimit:
enabled: true
repository: REDIS #对应存储类型(用来存储统计信息)
behind-proxy: true #代理之后
default-policy: #可选 - 针对所有的路由配置的策略,除非特别配置了policies
limit: 10 #可选 - 每个刷新时间窗口对应的请求数量限制
quota: 4 #可选- 每个刷新时间窗口对应的请求时间限制(秒)
refresh-interval: 5 # 刷新时间窗口的时间,默认值 (秒)
type: #可选 限流方式
- url
服务正常启动,接下来进行测试。学习资料:Java进阶视频资源
上面限制5秒之内只能发送10次请求,那就发送11次请求试一试。使用postman工具进行请求的发送。同时,教大家如何使用postman批量发送请求。
首先,在地址栏填写接口地址,然后,可以点击send,测试当前地址是否正确。如果一切正常,点击旁边的save按钮。
出现上面的浮层,按照箭头的标注,进行操作,点击save按钮后,在左边就能看到已经保存的请求了。
然后点击图示的run按钮,进入下面的界面。
总结
虽然我个人也经常自嘲,十年之后要去成为外卖专员,但实际上依靠自身的努力,是能够减少三十五岁之后的焦虑的,毕竟好的架构师并不多。
架构师,是我们大部分技术人的职业目标,一名好的架构师来源于机遇(公司)、个人努力(吃得苦、肯钻研)、天分(真的热爱)的三者协作的结果,实践+机遇+努力才能助你成为优秀的架构师。
如果你也想成为一名好的架构师,那或许这份Java成长笔记你需要阅读阅读,希望能够对你的职业发展有所帮助。
rt/92a61b3d7df5dcc4494ee3c4474868e3.png)
总结
虽然我个人也经常自嘲,十年之后要去成为外卖专员,但实际上依靠自身的努力,是能够减少三十五岁之后的焦虑的,毕竟好的架构师并不多。
架构师,是我们大部分技术人的职业目标,一名好的架构师来源于机遇(公司)、个人努力(吃得苦、肯钻研)、天分(真的热爱)的三者协作的结果,实践+机遇+努力才能助你成为优秀的架构师。
如果你也想成为一名好的架构师,那或许这份Java成长笔记你需要阅读阅读,希望能够对你的职业发展有所帮助。
[外链图片转存中…(img-FbhHUdhI-1714468925913)]