ceph
ZHANGJNWEI
这个作者很懒,什么都没留下…
展开
-
在ubuntu环境部署ceph集群
ceph-mon1ceph-mon2ceph-mon3ceph-osd1ceph-osd2ceph-osd3(1)edit /etc/hosts file## ceph nodes informations192.168.12.100 ceph-mon1192.168.12.101 ceph-mon2192.168.12.102 ceph-mon3192.168.12.103 ceph-osd1192.168.12.104 ceph-osd2192.168.12.原创 2020-08-24 21:24:42 · 947 阅读 · 0 评论 -
ceph配置规范
ceph配置: 配置形式:小写字母,单词之间通过(_/-)连接 启动选项: mon_host: monitors列表 mon_dns_serv_name: 默认ceph-mon, dns服务器识别monitor地址 mon_data\osd_data\mds_data\mgr_data: 数据存储在本地的目录地址 keyring/keyfile/key: 指定授权文件 --no-mon-config: 跳过从集群的monitors中检索配置(场景:...原创 2020-08-12 15:19:56 · 812 阅读 · 1 评论 -
Ceph块设备结合k8s
在k8s集群中安装和配置ceph-csi。 (整体架构拓扑图)ceph-csi默认使用RBD内核模块,RBD内核模块不支持CRUSH tunables_和RBD image功能。Ceph块设备默认使用rbd池,创建pool,用于k8s volume storage.$ ceph osd pool create kub...原创 2020-08-12 14:43:32 · 368 阅读 · 0 评论 -
配置Ceph FS作为Hadoop的后端存储
##(1)安装Ceph FS的java接口库# yum install cephfs-java libcephfs-devel python-cephfs libcephfs_jni-devel##(2)安装Hadoop # wget -c https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/stable/hadoop-3.2.1.tar.gz# tar xzf hadoop-3.2.1.tar.gz && cd ha.原创 2020-07-08 20:40:47 · 1351 阅读 · 1 评论 -
MPI分布式计算模型
MPI是重要的分布式计算模型,MPI是一种基于消息传递的并行编程技术,定义了一种具有可移植行的编程接口。通过MPI模型,程序员能编写基于消息通信的应用程序,应用程序能在不同的节点上启动并协调工作。它们访问共享存储,Ceph FS提供共享存储的访问。OpenMPI实现MPI-1.2和MPI-2.0通信规范,支持TCP和RDMA(remote direct memory access),是常用的MPI实现库。open-mpi下载地址:https://download.open-mpi.org/relea原创 2020-07-08 20:16:17 · 1413 阅读 · 0 评论 -
Ceph三大存储访问类型之对象存储
RGWRGW是RADOS Gateway的简称,基于LIBRADOS封装而实现的FastCGI(FastCGI是一个可伸缩地、高速地在HTTP服务器和动态脚本语言间通信的接口)服务,提供RESTful风格对象存储数据访问和管理接口。RGW提供的接口兼容:S3接口 Swift接口 Admin管理接口概念和术语:AccessKey, SecretKey: AccessKey标识客户身份,SecretKey作为私钥形式存储咋客户服务器,用于签名。使用AccessKey进行身份识别,加上Secr.原创 2020-07-08 06:30:38 · 947 阅读 · 0 评论 -
Ceph三大存储访问类型之BRD块存储
术语解释:RBD: RADOS Block Device的简称。RBD是Ceph分布式集群最常使用的存储类型。block是一个有序字节,普通block大小为512字节,硬盘、CD光盘等都是基于block存储的设备。Ceph的block设备可以扩展大小且以条带化方式存储在集群中多个OSD中。BRD具有快照、多副本、克隆和一致性功能。LIBRBD是访问RBD块存储的库,利用LIBRADOS与RBD进行交互,主要为虚拟机提供块设备,在Openstack,为虚拟机系统盘和数据盘提供块备灾就是使用大量BRD块原创 2020-07-08 06:11:46 · 581 阅读 · 0 评论 -
Ceph三大存储访问类型之Ceph FS文件系统
Ceph FS文件系统相比NFS或CIFS,Ceph FS提供主副本冗余,具备高可靠性。Ceph FS使用Metadata Server(MDS)管理文件系统的命名空间以及客户端访问到后端OSD数据。Metadata Server是一个服务进程,提供一个包含智能缓存层的一致性文件系统,它不会直接向客户端提供任何实际数据,所有数据由OSD提供,降低自身读写的次数。Metadata Server可被配置成活跃或被动状态,活跃Metadata Server被称为主Metadata Server,其他则为Sta原创 2020-07-08 05:38:13 · 788 阅读 · 0 评论 -
Ceph之CRUSH解析
问题考虑:1):故障隔离,降低数据损坏的风险;2)负载均衡,避免部分节点空闲,部分节点超载,影响系统性能;3)控制节点加入离开引起的数据迁移量。对象存储中一致性hash和Ceph的CRUSH算法是使用比较多的数据分布算法,Amazon的Dyanmo键值存储系统采用一致性hash算法,并对它做了很多优化,OpenStack的Swift对象存储系统也采用一致性hash算法。CRUSH是一种基于伪随机控制数据分布、复制的算法,CRUSH为解决数据的平衡分布、负载、最大化系统性能以及系统的扩展和硬件容错原创 2020-06-29 06:39:52 · 688 阅读 · 0 评论 -
Ceph OSD简介
Ceph OSD是Ceph存储集群最重要的组件,Ceph OSD将数据以对象的形式存储到集群中每个节点的物理磁盘上,完成存储工作由OSD Daemon进程完成。集群中一般包括OSD节点,对于对象数据的读写,client首先是从Monitor节点获取Cluster Map信息,后续client直接同OSD进行I/O操作的交互,加速读写过程。相较于其他分布式存储系统,效率更高。Ceph的核心功能包括高可靠、自动平衡、自动恢复和一致性。因此对于OSD而言,基于配置的副本数,Ceph通过分布在多个节点上的副本来原创 2020-06-28 22:20:39 · 7256 阅读 · 0 评论 -
Ubuntu安装Ceph
## 添加release key$ wget -q -O- 'https://download.ceph.com/keys/release.asc' | sudo apt-key add -## 添加ceph软件源$ echo deb https://download.ceph.com/debian-{ceph-stable-release}/ $(lsb_release -sc) main | sudo tee /etc/apt/sources.list.d/ceph.list## 更新软件源并.原创 2020-06-25 20:55:13 · 1854 阅读 · 0 评论 -
Ceph概览
Ceph概述Ceph消除了对系统单一中心结点的依赖,实现了真正的无中心结构的设计,这是其他分布式存储系统所不能比的。Ceph可以同时提供对象存储、块存储和文件系统存储3种功能,满足不同的应用需求。对象存储可以对接网盘等业务等;块设备存储可以对接IaaS。Ceph是开源项目,使用C++语言开发。Ceph提供RADOS、OSD、MON、LIBRADOS、RBD、RGW和CephFS等功能组件,底层使用RADOS存储来存储上层的那些组件;一: Ceph核心组件在Ceph存储中,包含几个重要的核原创 2020-06-25 20:47:09 · 198 阅读 · 0 评论 -
librados相关介绍
1. librados介绍ceph存储集群提供的基本存储服务,使ceph能够在一个联合文件系统中独一无二的实现对象存储(object storage)、块存储(block storage)以及文件存储(file storage)。然而,你并不一定需要通过RESTful API、block API或者POSIX文件系统接口才能访问ceph存储集群。依赖于RADOS,你可以直接通过librados API来访问ceph存储集群。librados API可以访问ceph存储集群的两类守护进程:Ceph转载 2020-06-23 14:52:13 · 1097 阅读 · 0 评论