
分布式存储系统
文章平均质量分 76
喜欢打篮球的普通人
这个作者很懒,什么都没留下…
展开
-
SCSI协议与iSCSI协议
文章目录1.SCSI协议2.iSCSI协议1.SCSI协议SCSI的起源SCSI出现的原因主要是因为原来的IDE接口的硬盘转速太慢,传输速率太低,因此高速的SCSI硬盘出现。其实SCSI并不是专为硬盘设计的,实际上它是一种总线型接口。由于独立于系统总线工作,所以它的最大优势在于其系统占用率极低。SCSI的定义SCSI-2模制线缆,HPDB50公头/DB50公头英文全称是Small Computer System Interface,小型计算机系统接口。一种用于计算机和智能设备之间系统级接原创 2021-11-24 16:18:03 · 6156 阅读 · 0 评论 -
PolarDB及其分布式文件系统PolarFS的架构实现
文章目录1.PolarDB及其分布式文件系统PolarFS的架构实现2.云原生数据库出现的背景3.PolarDB架构4.分布式共享文件系统PolarFS5.PolarFS存储资源的组织方式6.PolarFS之Volume卷7.PolarFS之Chunk区8.PolarFS之Block区9.PolarFS的各个组件1.PolarDB及其分布式文件系统PolarFS的架构实现PolarDB是阿里云基于MySQL推出的新一代云原生(Cloud Native)数据库产品,所谓云原生数据库,指的是一种融合了众多创转载 2021-10-25 11:41:10 · 802 阅读 · 0 评论 -
Linux下判断磁盘是SSD还是HDD的几种方法
文章目录1.使用Linux相关命令2.最佳方式1.使用Linux相关命令参考:Linux下判断磁盘是SSD还是HDD的几种方法缺点是:方法并不通用,容易出现错误2.最佳方式使用megacli,store64,percli等方式是最准确的...原创 2021-09-18 18:53:02 · 6659 阅读 · 0 评论 -
Linux内核I/O报错信息中hostbyte与driverbyte含义
文章目录1.现象举例2.hostbyte和driverbyte3.FC链路的硬件故障4.源码分析1.现象举例1.hostbyte=DID_BAD_TARGET driverbyte=DRIVER_OKJul 16 08:06:53 localhost kernel: sd 11:0:0:0: [sdh] Synchronize Cache(10) failed: Result: hostbyte=DID_BAD_TARGET driverbyte=DRIVER_OKJul 16 08:06:53原创 2021-09-17 16:05:25 · 10356 阅读 · 0 评论 -
光纤网卡,HBA卡和RAID卡的区别
文章目录1.网卡分类2.以太网卡3.HBA卡和RAID卡4.以太网卡和HBA卡的区别5.HBA卡和RAID卡的区别1.网卡分类2.以太网卡以太网卡:学名Ethernet Adapter,传输协议为IP协议,一般通过光纤线缆或双绞线与以太网交换机连接。接口类型分为光口和电口。光口的以太网卡一般都叫做光纤以太网卡(简称:光纤网卡)。电口目前常用接口类型为RJ45,一般都叫做电口网卡(RJ45网卡/网口网卡/铜缆网卡),用来与双绞线连接,也有与同轴电缆连接的接口。光纤以太网卡(图1)指的是(光纤原创 2021-09-17 15:35:44 · 4852 阅读 · 0 评论 -
(P9-P23)Ceph安装方法
文章目录1.安装说明1.安装说明Ceph官方文档安装方法1:Nautilus 之前使用ceph-deploy安装方法2:Ceph release v15.2.0 (Octopus) 之后使用cephadm,未来推荐使用的安装方法,支持GUI和命令行进行安装安装方法3:手动安装安装方法4:安装到K8S的集群中,与K8S集成:使用Rook...原创 2021-09-02 22:51:26 · 875 阅读 · 0 评论 -
Ceph学习目录
(P1)Ceph入门到实战之存储类型链接(P8)Cepy数据写入流程–––––––––原创 2021-09-02 22:13:49 · 219 阅读 · 0 评论 -
(P8)RBD数据写入流程
文章目录1.写入流程1.写入流程ceph一切都是对象一个文件FIle,首先会被切割成多个Objects,默认4MB,每个Object都有一个oidPGs:可以理解为装载Objects的文件夹,每个oid做一个hash,然后做一个掩码运算,最终得到一个pgid,看在哪个pg上执行CRUSH算法(依据CRUSH算法的不同,那么会落入到不同的OSD位置上),将pgid对应到集群中的OSD节点上参考:Ceph官方文档,Ceph数据写入流程...原创 2021-08-23 23:48:03 · 292 阅读 · 0 评论 -
(P1)Ceph入门到实战之存储类型
文章目录1.存储类型2.DAS-块级别2.NAS-文件级别3.SAN-块级别4.Object Storage-对象存储级别1.存储类型DASNASSANObject Storage2.DAS-块级别概念:Direct Attached Storage直接附加存储方式:服务器使用SCSI或者FC协议连接到存储阵列协议类型(1)SCSI总线(2)FC光纤,使用HBA卡表现形式:一块有空间大小裸磁盘,如/dev/sdb优点:计算和存储分离,组网简单,成本低廉,第一代缺点:传输距离原创 2021-08-23 23:20:14 · 358 阅读 · 0 评论 -
RDMA的简单学习
文章目录1.RDMA含义及特点2.查看网卡是否支持RDMA3.RDMA编程接口的简单概述1.RDMA含义及特点RDMA(全称remote direct memory access(中文:远程直接数据存取))是一种技术,它允许网络中的计算机直接从内存里交换数据,而不用涉及任何一台计算机的处理器、高速缓存或者操作系统DMA传输是将数据从一个地址空间复制到另一个空间,也就是说它的目的是将CPU从数据拷贝过程中解放出来,让更多的CPU资源用于数据计算。RDMA目的和DMA一样,也是释放CPU的占用。转载 2021-05-12 11:44:12 · 538 阅读 · 0 评论 -
是不是进入挂载点就意味着切还了新的文件系统?挂载与建卷
文章目录/dev/md1只是一个设备,块设备,不是文件系统,相当于在windows下新增了一个硬盘。这个时候,你开机,是看不到新增的盘符的。如果是windows,你需要先对硬盘进行分区,然后格式化相应的分区,最后挂载分区(即给分区分配盘符)。同理,linux下也是差不多的操作。先用 fdisk /dev/md1 对硬盘进行分区。然后 mkfs.ext4 /dev/md1XX 对分区进行格式化,这里mkfs.ext4可改为其他文件系统类型,md1XX是分区后的设备名称。最后, mount转载 2020-08-13 09:01:09 · 383 阅读 · 0 评论 -
块存储Ceph,对象存储Swift,存大文件的HDFS的技术比较
文章目录1.存储文件的大小2.存储类型:块存储和对象存储3.对象存储的概念5.对象存储和文件系统存储区别1.存储文件的大小HDFS、HBase、Hive不太适合存文档、图片大小的文件,HDFS适用于存大文件。SWIFT:处理几个G的大文件性能上可能会比HDFS差,因为没有条带化。但遇到很多几兆、几十兆的,这些文件的存储,HDFS就不如SWIFT。所以对于日常文件的单独处理用SWIFT,...原创 2020-01-04 10:41:04 · 1006 阅读 · 0 评论 -
有关分布式存储的三个基本问题
1.对于一套分布式存储的方案,怎样评估它是好还是不好?(1)评价一个存储方案好和不好,只有一个客观的标准,那就是是否能满足用户的需求。从青云的角度来说,有以下几点是用户需要的:(1)运行或在线系统需要高性能。这个不用多说,用户的业务数据几乎都会存储在数据库里面,没有一个用户会觉得数据库性能不重要(2)离线或备份数据需要高容量,低价格。这部分数据通常量很大,但是对性能要求不高,对不经常...原创 2020-01-02 18:02:16 · 391 阅读 · 0 评论 -
分布式存储系统总结目录
题目链接其他分布式存储的一些知识https://blog.csdn.net/liuben/category_6482144.html刘爱贵的blog,主要研究GlusterFS分布式文件系统测试方法与测试工具https://blog.csdn.net/liuaigui/article/details/7240706IOPS:小文件的处理能力,OPS:元...原创 2019-12-09 15:38:18 · 532 阅读 · 0 评论 -
分布式架构整体框架
文章目录一、分布式整体框架图1.架构eg12.架构eg2一、分布式整体框架图1.架构eg1页面层:2.架构eg2原创 2019-08-12 09:46:00 · 3135 阅读 · 1 评论 -
主流分布式中间件?
(1)分布式、中间件和消息队列、集群https://www.cnblogs.com/kaixinyufeng/p/8615258.html(2)分布式中间件实践之路https://blog.csdn.net/valada/article/details/83784684原创 2019-08-09 14:39:19 · 483 阅读 · 0 评论 -
开源主流分布式文件系统简单介绍
文章目录一、分布式文件系统简介1.特点2.主要指标及分类对比二、开源分布式文件系统1.GFS(1)GFS与NFS,AFS的区别(2)BigTable(3)Chubby2.HDFS3. Ceph4. Lustre5.MogileFS6.mooseFS7.FastDFS8.TFS9.GridFS文件系统10.NFS(1)多服务器存储(2)pNFS(3)AFS11.PFS(parallel file s...转载 2019-08-05 08:39:21 · 32338 阅读 · 3 评论 -
《大规模分布式存储系统 原理解析与架构实践》第十一章质量保证、运维及实践
文章目录一、质量保证1.OceanBase质量保证体系2.RD开发(1)基本工作(2)编码规范(3)代码审核(4)单元测试(5)快速测试(6)RD压力测试:现已融合到QA的压力测试中3.QA测试(1)接口、功能、容灾测试(2)压力测试(3)Benchmark测试(4)兼容性测试4.试运行(1)业务压力测试(2)线上流量回放:上线运行的最后一道防线(3)灰度上线二、使用与运维1.基础知识2.使用(1...原创 2019-07-22 16:17:48 · 287 阅读 · 0 评论 -
《大规模分布式存储系统 原理解析与架构实践》第四章 分布式文件系统
文章目录一、基本知识二、Google文件系统1.基础知识2.系统架构(1)GFS整体架构(2)关键问题(a)租约机制和维护版本号解决可删除的chunk(b)一致性模型(c)追加流程:是GFS系统中最复杂的地方(i)GFS追加流程(iii)传统的主备复制方法(d)容错机制(i)Master容错,Master上保存了三种元数据信息(ii)ChunServer容错(e)Master设计(i)Master...原创 2019-07-22 10:54:58 · 389 阅读 · 0 评论 -
《大规模分布式存储系统 原理解析与架构实践》第三章 分布式系统
文章目录开篇:分布式系统关注的点一、基本概念1.异常2.“超时”(1)分布式存储的三态:成功、失败、超时(未知状态)3.一致性开篇:分布式系统关注的点一、基本概念1.异常(1)节点和大规模分布式存储系统的核心问题在分布式存储系统中,将一台服务器或服务器上运行的一个进程称之为一个节点,节点和节点之间通过网络互联;大规模分布式存储系统的一个核心问题是:自动容错,因为服务器节点是不可靠的...原创 2019-07-19 15:47:58 · 518 阅读 · 0 评论 -
《大规模分布式存储系统 原理解析与架构实践》第二章 单机存储系统
文章目录一、单机存储系统1.什么是单机存储引擎?事务?ACID特性?2.硬件基础(1)CPU架构(2)IO总线:存储系统的性能瓶颈(3)网络拓扑(4)性能参数:存储系统的性能瓶颈主要在于磁盘随机读写(5)存储层次架构二、单机存储引擎:是存储系统的发动机,增删读改CRUD,读取操作又分为:随机读取和顺序读取1.哈希存储引擎:哈希表的持久化实现,支持CRUD,以及随机读取,但不支持顺序扫描,对应的存储...原创 2019-07-19 15:13:58 · 370 阅读 · 0 评论 -
《大规模分布式存储系统 原理解析与架构实践》第一章
文章目录一、分布式存储的概念1.互联网公司的分布式系统特点2.分布式存储系统的特性3.分布式存储技术的来源主要来自:分布式系统和数据库一、分布式存储的概念1.互联网公司的分布式系统特点规模大和成本低2.分布式存储系统的特性所以,分布式系统的挑战主要在于:数据、状态信息的持久化、要求在自动迁移、自动容错、读写并发的过程中保证数据的一致性。3.分布式存储技术的来源主要来自:分布式系统和数...原创 2019-07-12 23:11:10 · 358 阅读 · 0 评论 -
《大规模分布式存储系统 原理解析与架构实践》开篇
文章目录如何学习?第一部分:基础篇第二部分:第三部分:第四部分:如何阅读?如何学习?第一部分:基础篇第二部分:第三部分:第四部分:如何阅读?...原创 2019-06-17 22:59:20 · 233 阅读 · 0 评论