Openstack Swift 学习总结(一)

组件

Swift主要使用到如下组件来提供对象存储服务:

  • Proxy servers

    处理所有请求调用

  • Rings

    将数据映射到物理磁盘上,实际就是记录了逻辑数据存放在哪一块物理磁盘的那个位置上

  • Zones

    对不同区域的数据进行隔离,一个区域中的故障不会影响集群其他区域数据副本

  • Accounts and containers

    每个账户和容器都是分布在集群中的单独的数据库,账户数据库包含了账户下的所有容器,容器数据库包含容器下的所有对象

  • Objects

    对象数据本身

  • Partitions

    一个分区存放了对象、账户数据库、容器数据库,并管理数据在集群中的位置

    这里写图片描述

数据存放

swift数据存放

swift数据模型
  • Account:账户(也叫租户)包括了自己的元数据信息和container列表,这些数据被保存在SQLite数据库中

  • Container:容器(在S3中叫桶),可以看成文件系统中的目录,用户可以自己定义容器。其包含了自己的元数据信息和容器内的对象列表,数据同样保存在SQLite中

  • Object:对象,包括对象元数据和对象,以文件形式保存在文件系统中

三者关系如下:

这里写图片描述

根据官方文档,知道:

  1. 用户创建container,用来持有对象,container server并不知道对象具体在什么位置
  2. container,对象列表以sqlite数据库文件进行存储,并且在整个集群中复制,追踪container使用的统计信息包括对象数量以及容量
  3. container命名时,名称最大长度为256 bytes,不可以使用 / 字符
  4. 如果container中所有object的大小为0 bytes,那么container看起来就像一个目录
  5. object可以是0 bytes或者包含数据,如果数据大于5 GB时需要特殊处理
  6. object name可以包含 / 字符,看起来像目录,实际它任然是一个object name

数据位置相关概念

swift通过将数据副本拷贝到不同的物理位置上来保证数据的可靠性,主要有

  • Region:地理位置上的区域,如不同城市或者国家的机房

  • Zone:一个数据中心根据物理网络等基础设施分开的独立的区域,如通常将一个机架(Rack)内的服务器分在同一个Zone中

  • Node:节点,一个节点指的是一台物理服务器

  • Disk:磁盘,数据实际存放位置

数据一致性相关服务

  • Replicator:复制服务,会检测本地分区副本和远程副本是否一致,具体是通过对比哈希文件和高级水印来完成,发现不一致时会采用推式(Push)更新远程副本:对于对象的复制,更新只是使用rsync同步文件到对等节点。帐号和容器的复制通过HTTP或rsync来推送整个数据库文件上丢失的记录;另外一个任务是确保被标记删除的对象从文件系统中移除:当有一项(对象、容器、或者帐号)被删除,则一个墓碑文件被设置作为该项的最新版本。复制器将会检测到该墓碑文件并确保将它从整个系统中移除。确保系统的最终一致性。

  • Auditor:审计服务,在本地服务器上会反复地爬取来检查对象,容器和账户的完整性,如果发现比特级的错误,文件将被隔离,并复制其他的副本以覆盖本地损坏的副本;其他类型的错误(比如在任何一个容器服务器中都找不到所需的对象列表)会被记录到日志中。恢复数据库和文件数据错误

  • Reaper:账户清理服务,删除账户状态被标记为DELETED的账户数据,包括账户下的所有容器和容器下的所有对象

  • Reconciler:容器调节器,移动在错误存储策略中的对象。确保对象在自己本应在的位置

  • Updater:当对象由于高负载或者系统故障等原因而无法立即更新时,任务将会被序列化到在本地文件系统中进行排队,以便服务恢复后进行异步更新;例如成功创建对象后容器服务器没有及时更新对象列表,这个时候容器的更新操作就会进入排队中,更新服务会在系统恢复正常后扫描队列并进行相应的更新处理。

Ring & Ring-builder

proxy server根据账户、容器、对象各自的Ring来确定各自数据的存放位置。Ring的文件形式如下

  • 对象:object.ring.gz

  • 容器:container.ring.gz

  • 账户:account.ring.gz

RingData 数据结构
  • devs: 设备列表,列表中的每一条记录都是一个如下结构的字典
字段名 类型 说明
id integer 设备中唯一的整数标识符
index integer 分区的主节点类表中的偏移
zone integer 设备所在的zone
region integer zone所在的region
weight float 权重
ip string device 的ip地址
port integer device 的 TCP 端口
device string 磁盘上的设备名
meta string 其他信息

- _replica2part2dev_id:分区配置表,可以看做一个二维结构

p a r t i t i o n
0 1 2 3 4 5
repalica 0 3 2 0 1 3 5
1 2 0 3 4 5 1
2 1 4 1 2 0 4

说明:

  • 行:每一行表示一个副本,对副本进行编号,每个副本都可能落在集群的一个分区中,将所有分区顺序编号,每个分区都要有一个唯一的ID

  • 列:每个分区的每个副本都落在不同的disk上

  • _part_shift: 分区位移,为了确定对象分区ID,需要将对象路径(account/container/object) 的MD5 HASH值进行向右移位。_part_shift 决定总分区数为2^(32 - _part_shift),32-_part_shift值叫做分区幂part_power,在使用Ring-builder构建Ring时,需要指定PART_POWER值 。

未完待续…

展开阅读全文

没有更多推荐了,返回首页