分布式缓存 - 分布式系统理论(下)

一. 分布式系统设计策略

 
分布式系统的本质是通过低廉的硬件攒在一起已获得更好的吞吐量、性能及可用性等,在分布式环境下,有几个问题是普遍关心的,称为设计策略:
 

  • 如何检测你还活着
  • 如何保障高可用
  • 容错处理
  • 重试机制
  • 负载均衡

 

1.1 心跳检测

 
在这里插入图片描述
如图所示,当 Server 没有收到节点 Node3 发送的心跳时,Server 认为Node3 失联,失联代表不确定是否是 Node3 故障,有可能是 Node3 处于繁忙状态,导致调用检测超时,也可能是 Server 与节点3之间链路出现故障或闪断。所以心跳不是万能的,收到心跳可以确定节点正常,但是收不到心跳却不能认为节点已经宣告“死亡”

 
没有心跳不代表节点宕机,有一些具体的做法来帮我们决定是否宕机,一般分为两类:周期检测心跳机制累计失效检测机制

 
周期检测心跳机制:Server每隔 t 秒向 Node 集群发起监测请求,设定超时时间,如果超过超时时间,则判断死亡。也可加上超时重传的机制,即若对方没在规定时间内重传,则可重试一定次数

 

1.2 高可用设计

系统高可用性的常用设计模式包括三种:主备、互备、集群

 

1.2.1 主备

当主机宕机时,备机接管主机的一切工作,待主机恢复正常后,按使用者的设定以 自动(热备)或手动(冷备) 方式将服务切换到主机上运行。

 
在数据库部分,习惯称之为MS模式。MS模式即 Master/Slave 模式,在数据库高可用性方案中比较常用,如下图所示

在这里插入图片描述

 

1.2.2 互备

互备模式是指两台主机同时运行各自的服务工作且相互监测情况。在数据库高可用部分,常见的互备是 MM 模式。MM 模式即 Multi-Master 模式,指一个系统存在多个 master,每个 master 都有 read-write 能力,需要根据时间戳或业务逻辑合并版本,如分布式版本管理系统 git,具备最终一致性

 
如下,机房H、K同时具有全套服务能力(读能力+写能力),而数据库之间需要通过同步来保障一致性。对于 K 机房的备库则在机房 H 不可用的时候发挥作用

在这里插入图片描述

 

1.2.3 集群

 
集群模式是指有多个节点在运行,同时可以通过主控节点分担服务请求,如zookeeper。集群模式要特别解决主控节点本身的高可用问题

 

1.3 容错性

IT系统对于错误包容的能力,这里容错确切的说是容故障(Fault),而并非容错误(Error)

 
容错的处理是保障分布式环境下相应系统的高可用或者健壮性。典型处理就是对于缓存失效雪崩问题的解决方案

1.4 负载均衡

负载均衡集群: 其关键是在于使用多台集群服务器分担计算任务,把网络请求及计算分配到集群可用服务器上去,从而达到更好的用户体验

 

2. 分布式系统设计实践

 

2.1 全局 ID 生成

如果用数据库的自增,则每次Insert都要用到 id 生成器作 DB 层面的查询,应该避免

 

2.1.1 UUID

组成:时间+时钟+全局唯一IEEE识别器
优势:API简单易用
不足:占用空间大、字符串本身无法加工,可读性不强

 

2.1.2 ID 生成表模式

2.1.3 SnowFlake

2.1.4 结合缓存方案

提前将ID生成器生成的如1k个ID放入缓存,提高性能

在这里插入图片描述

 

2.2 哈希取模

在这里插入图片描述
缺点是如果id分布不均匀可能出现计算、存储倾斜的问题。还有如果调整数据存储,如增加两个库,比较麻烦。一个可解决的方法是先预设足够大的逻辑库,如100个库,随着物理负载的增加,把对应的逻辑库迁移到新增的物理库上即可,对于应用透明,相当于在应用和物理数据库之间增加了一层映射关系

2.3 一致性哈希

一致性Hash
一致性Hash,通俗易懂版

一致性哈希的有点事可以任意动态添加、删除节点,每次添加、删除一个节点仅影响一致性哈希环上相邻的节点。为了尽可能均匀地分布节点和数据,一种常见的算法是增加虚拟节点(虚拟节点链接自定义物理节点,避免某一段内数据过多)

 

2.4 路由表

暂时看不懂,P58

 

2.5 数据拆分

 
Cobar:阿里开源分布式数据库中间件

在这里插入图片描述
用户可以将表放在不同的datanode,也可将不同的datasource放置在同意MySQL实例上

 
sharding-jdbc:当当开源

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
目标检测(Object Detection)是计算机视觉领域的一个核心问题,其主要任务是找出图像中所有感兴趣的目标(物体),并确定它们的类别和位置。以下是对目标检测的详细阐述: 一、基本概念 目标检测的任务是解决“在哪里?是什么?”的问题,即定位出图像中目标的位置并识别出目标的类别。由于各类物体具有不同的外观、形状和姿态,加上成像时光照、遮挡等因素的干扰,目标检测一直是计算机视觉领域最具挑战性的任务之一。 二、核心问题 目标检测涉及以下几个核心问题: 分类问题:判断图像中的目标属于哪个类别。 定位问题:确定目标在图像中的具体位置。 大小问题:目标可能具有不同的大小。 形状问题:目标可能具有不同的形状。 三、算法分类 基于深度学习的目标检测算法主要分为两大类: Two-stage算法:先进行区域生成(Region Proposal),生成有可能包含待检物体的预选框(Region Proposal),再通过卷积神经网络进行样本分类。常见的Two-stage算法包括R-CNN、Fast R-CNN、Faster R-CNN等。 One-stage算法:不用生成区域提议,直接在网络中提取特征来预测物体分类和位置。常见的One-stage算法包括YOLO系列(YOLOv1、YOLOv2、YOLOv3、YOLOv4、YOLOv5等)、SSD和RetinaNet等。 四、算法原理 以YOLO系列为例,YOLO将目标检测视为回归问题,将输入图像一次性划分为多个区域,直接在输出层预测边界框和类别概率。YOLO采用卷积网络来提取特征,使用全连接层来得到预测值。其网络结构通常包含多个卷积层和全连接层,通过卷积层提取图像特征,通过全连接层输出预测结果。 五、应用领域 目标检测技术已经广泛应用于各个领域,为人们的生活带来了极大的便利。以下是一些主要的应用领域: 安全监控:在商场、银行
目标检测(Object Detection)是计算机视觉领域的一个核心问题,其主要任务是找出图像中所有感兴趣的目标(物体),并确定它们的类别和位置。以下是对目标检测的详细阐述: 一、基本概念 目标检测的任务是解决“在哪里?是什么?”的问题,即定位出图像中目标的位置并识别出目标的类别。由于各类物体具有不同的外观、形状和姿态,加上成像时光照、遮挡等因素的干扰,目标检测一直是计算机视觉领域最具挑战性的任务之一。 二、核心问题 目标检测涉及以下几个核心问题: 分类问题:判断图像中的目标属于哪个类别。 定位问题:确定目标在图像中的具体位置。 大小问题:目标可能具有不同的大小。 形状问题:目标可能具有不同的形状。 三、算法分类 基于深度学习的目标检测算法主要分为两大类: Two-stage算法:先进行区域生成(Region Proposal),生成有可能包含待检物体的预选框(Region Proposal),再通过卷积神经网络进行样本分类。常见的Two-stage算法包括R-CNN、Fast R-CNN、Faster R-CNN等。 One-stage算法:不用生成区域提议,直接在网络中提取特征来预测物体分类和位置。常见的One-stage算法包括YOLO系列(YOLOv1、YOLOv2、YOLOv3、YOLOv4、YOLOv5等)、SSD和RetinaNet等。 四、算法原理 以YOLO系列为例,YOLO将目标检测视为回归问题,将输入图像一次性划分为多个区域,直接在输出层预测边界框和类别概率。YOLO采用卷积网络来提取特征,使用全连接层来得到预测值。其网络结构通常包含多个卷积层和全连接层,通过卷积层提取图像特征,通过全连接层输出预测结果。 五、应用领域 目标检测技术已经广泛应用于各个领域,为人们的生活带来了极大的便利。以下是一些主要的应用领域: 安全监控:在商场、银行
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值