系统并发指标

系统并发指标:
目标用户数,系统用户数,活跃用户数,在线用户数,并发用户数

只有发起请求,在服务器正在处理这个请求的用户才是并发用户。

事实上,高并发架构主要关注的就是用户发起请求,服务器处理请求时需要消耗的计算资源。所以并发用户数是架构设计时主要关注的指标

1. 分布式缓存客户端 SDK 会根据应用程序传入的 key,从分布式缓存集群中选择一台服务器进行访问,那么这个客户端 SDK 如何选择服务器呢?

  1. hash和分段

hash,根据key的hash值定位目标所在地址。hash值1结尾的key在node1,2结尾的在node2等。
数据分布比较平均,但是不方便扩容。因为扩容的话,就要重新编辑hash到node的映射逻辑。

Redis集群使用一致性哈希算法,将服务器和缓存key全放在一个哈希环上,缓存保存在顺时针找到的最近的服务器上,当扩容时只会损失一台服务器中大约一半的缓存数据,扩展性好很多,哈希不均匀也可以通过虚拟节点的方式得到很大程度的解决

  1. 分段,每个node值存储一个范围内的数据。id 100万到101万,在node1,101-102万在node2。
    方便扩容,但是数据热点分布可能不均匀。比如现在分配到node11了id值是111万,数据增加1万增加一个node就好。不需要重新处理映射逻辑。 但问题是,数据热点可能不均匀。比如101-110万都是老用户,现在已经不活跃了。热点用户都在最新的1万个用户。带来的结果就是,处理前10万个用户的node饿死了,而最新的node11可能都已经撑死了。

supervisor是一个python写的东西 配置一下可以帮你监控你的进程

搞个gateway 封装成模板,然后往里面塞上Mock平台 全链路追踪 日志采样 自动限流 用户鉴权 中间件这些,再扩展成 服务发现 负载均衡 上个k8s 自动缩扩容 ,然后搞个脚手架 自动根据要求生成代码,增删改查一把梭 网关层按需可插拔,平台化 打通链路形成闭环

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值