分布式
文章平均质量分 64
qq_30024063
这个作者很懒,什么都没留下…
展开
-
分布式ID解决方案
为什么需要分布式ID(分布式集群环境下的全局唯一ID)在大数据量情况下,我们经常会使用到分表存储数据,如将表A的数据平均分到表A1、A2、A3中,此时如果表A1和A2或者A3中存在相同的ID,就会导致数据的不唯一,会有多条数据那么此时就需要分表之后ID不能重复,不能使用主键递增。下面列出几种常见的解决方案:1.UUIDUUID 是指Universally Unique Identifier,翻译为中文是通用唯一识别码 产生重复 UUID 并造成错误的情况非常低,是故大可不必考虑此问题。 J.原创 2021-02-08 23:33:20 · 147 阅读 · 2 评论 -
分布式系统设计策略
分布式系统本质是通过低廉的硬件合在一起以获得更好的吞吐量、性能以及可用性等。在分布式环境下,有几个问题是普遍关系的,我们称之为策略:如何检测当前节点还活着? 如何保障高可用? 容错处理 负载均衡一.心跳检测在分布式环境中,我们提及过存在非常多的节点(Node),其实质是这些节点分担任务的运行、计算或者程序逻辑处理。那么就有一个非常重要的问题,如何检测一个节点出现了故障乃至无法工作了? 通常解决这一问题是采用心跳检测的手段,如同通过仪器对病人进行一些检测诊断一样。心跳顾名思义,就是以固原创 2021-02-28 12:27:36 · 193 阅读 · 0 评论 -
Nginx 配置一致性Hash负载均衡策略
ngx_http_upstream_consistent_hash 模块是一个负载均衡器,使用一个内部一致性hash算法来选择 合适的后端节点。该模块可以根据配置参数采取不同的方式将请求均匀映射到后端机器:consistent_hash $remote_addr:可以根据客户端ip映射 consistent_hash $request_uri:根据客户端请求的uri映射 consistent_hash $args:根据客户端携带的参数进映射ngx_http_upstream_consis原创 2021-02-04 22:49:55 · 618 阅读 · 0 评论 -
分布式集群时间同步
时钟不同步导致的问题时钟此处指服务器时间,如果集群中各个服务器时钟不一致势必导致一系列问题。例如:某一电商网站,新增⼀条订单,那么会在订单表中增加了一条记录,该条记录中应 该会有“下单时间”这样的字段, 往往我们会在程序中获取当前系统时间插入到数据库或者直接从数据库 服务器获取时间。那我们的订单子系统是集群化部署,或者我们的数据库也是分库分表的集群化部署, 然⽽他们的系统时钟缺不一致,必如有一台服务器的时间是昨天,那么这个时候下单时间就成了昨天, 那我们的数据将会混乱!集群时钟同步配置.原创 2021-02-04 23:15:13 · 271 阅读 · 0 评论 -
RMI介绍
一、简介Java RMI 指的是远程方法调用 (Remote Method Invocation),是java原生支持的远程调用 ,采用JRMP(Java Remote Messageing protocol)作为通信协议,可以认为是纯java版本的分布式远程调用解决方案, RMI主要用于不同虚拟机 之间的通信,这些虚拟机可以在不同的主机上、也可以在同一个主机上,这里的通信可以理解为一个虚拟机上的对象调用另一个虚拟机上对象的方法。1.客户端:1)存根/桩(Stub):远程对象在客户端上的代理;原创 2021-02-28 16:40:52 · 355 阅读 · 0 评论 -
Zookeeper windows安装
安装环境JDK1.8.0_45 windows10 zookeeper-3.4.10zookeeper下载地址:https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/安装步骤下载安装包文件解压后,将conf目录下zoo_sample.cfg 复制一份为zoo.cfg文件,并修改zoo.cfg文件内容的dataDir和dataLogDir属性为了防止出现下面的错误修改bin\zkServer.cmd 文件原创 2021-04-27 15:11:49 · 187 阅读 · 0 评论 -
Nginx 502 Bad Gateway问题分析及解决方案
502问题分析 具体出现原因: 1.服务器进程数不够,导致当请求端数量太多,导致服务器方面无法给于正常的响应 2.服务器响应速度太慢,延迟时间过长,nginx服务器等待超时 3.后台部署项目重启过于频繁,导致nginx转发请求过程中服务器正在重启无法正常响应 4.nginx的默认的fastcgi(网关接口)进程响应的缓冲区太小,导致fastcgi进程被挂起 解决办法: (一)服务器端: 1.使用百度cdn资源加速访问,提高静态文件响应...原创 2021-09-06 19:45:19 · 4736 阅读 · 0 评论 -
Zookeeper应用场景(二)
ZooKeeper是一个典型的发布/订阅模式的分布式数据管理与协调框架,我们可以使用它来进行分布式 数据的发布与订阅。另一方面,通过对ZooKeeper中丰富的数据节点类型进行交叉使用,配合Watcher 事件通知机制,可以非常方便地构建一系列分布式应用中都会涉及的核心功能,如数据发布/订阅、命名 服务、集群管理、Master选举、分布式锁和分布式队列等。应用场景二:命名服务命名服务(Name Service)也是分布式系统中比较常用的一类场景,是分布式系统最基本的公共服务之 一。在分布式系统中,被原创 2021-03-17 10:01:16 · 71 阅读 · 0 评论 -
RPC介绍
RPC全称为remote procedure call,即远程过程调用。借助RPC可以做到像本地调用一样调用远程服务,是一种进程间的通信方式比如两台服务器A和B,A服务器上部署一个应用,B服务器上部署一个应用,A服务器上的应用想调用B服务器上的 应用提供的方法,由于两个应用不在一个内存空间,不能直接调用,所以需要通过网络来表达调用的语义和传达调 用的数据。需要注意的是RPC并不是一个具体的技术,而是指整个网络远程调用过程。RPC架构一个完整的RPC架构里面包含了四个核心的组件,分别是Cl原创 2021-02-28 15:08:21 · 277 阅读 · 1 评论 -
Zookeeper应用场景(一)
ZooKeeper是一个典型的发布/订阅模式的分布式数据管理与协调框架,我们可以使用它来进行分布式 数据的发布与订阅。另一方面,通过对ZooKeeper中丰富的数据节点类型进行交叉使用,配合Watcher 事件通知机制,可以非常方便地构建一系列分布式应用中都会涉及的核心功能,如数据发布/订阅、命名 服务、集群管理、Master选举、分布式锁和分布式队列等。应用场景一:数据发布/订阅数据发布/订阅(Publish/Subscribe)系统,即所谓的配置中心,顾名思义就是发布者将数据发布到 ZooKee原创 2021-03-17 09:16:19 · 74 阅读 · 0 评论 -
centos7.9 安装 FastDFS
centos7.9 安装 FastDFS原创 2023-12-11 09:52:30 · 249 阅读 · 0 评论 -
CAP三进二和Base定理
对复杂的SQL查询,特别是多表关联查询的需求 任何大数据量的web系统,都非常忌讳多个大表的关联查询,以及复杂的数据分析类型的报表查询,特别是SNS类型的网站,从需求以及产品设计角 度,就避免了这种情况的产生。往往更多的只是单表的主键查询,以及单表的简单条件分页查询,SQL的功能被极大的弱化了。CAP的证明很简单,假设两个节点集{G1, G2},由于网络分片导致G1和G2之间所有的通讯都断开了,如果不满足P,则整个网络不可用,如果在G1中写,在G2中读刚写的数据, G2中返回的值不可能G1中的写值。原创 2023-06-06 22:28:25 · 440 阅读 · 0 评论 -
拆分 VS 集群
拆分 VS 集群原创 2023-06-06 22:18:42 · 120 阅读 · 0 评论 -
分布式(二)-大型网站架构演化发展历程
网站在使用缓存后,使对大部分数据读操作访问都可以不通过数据库就能完成,但是仍有一部分读操作(缓存访问不命中、缓存过期)和全部的写操作都需要访问数据库,在网站的用户达到一定规模后,数据库因为负载压力过高而成为网站的瓶颈。部署在网络提供商的机房,使用户在请求网站服务时,可以从距离自己 近的网络提供商机房获取数据反向代理则部署在网站的中心机房,当用户请求到达中心机房后,首先访问的服务器是反向代理服务器,如果反向代理服务器中缓存着用户请求的资源,就将其直接返回给用户。文件系统也一样,需要使用分布式文件系统。原创 2023-06-06 22:12:11 · 698 阅读 · 0 评论 -
分布式(一)-大型网站系统的特点
分布式特点原创 2023-06-06 21:58:44 · 465 阅读 · 0 评论