Uber开源P2P容器仓库Kraken,每秒分布TB级数据

640?wx_fmt=jpeg

Docker容器仓库的主要职能是存储和分布Docker镜像。这是个看似容易的任务,但是当计算集群达到Uber的规模后,容器仓库很容易成为系统的瓶颈。尤其在混合云多活架构下,镜像分布变得更加复杂。
为了解决私有容器仓库的性能问题,Uber开发了P2P的镜像仓库——Kraken(海怪)。
容器技术一直以来是Uber架构的基础( Uber为此还开发了自己的镜像生成工具Makisu——卷帘),但是随着计算集群的增长,简单在私有容器仓库的基础上做数据分片和增加cache无法提供Uber所需的流量。
Kraken在2016年应运而生。这个项目着重于可扩展性和可用性,并且适用于再混合云架构中的镜像管理,复制和分布。Kraken还支持后台扩展,可以以其他容器仓库为后台,单纯的作为发布层来部署。


架构

640?wx_fmt=png


Uber的工程师经过了几轮设计,最终选定P2P的架构。Kraken使用的P2P协议基于BitTorrent,但是加以了改进,使其更适合在数据中心内部署的企业级应用。
Kraken本身不负责数据的存储,而是支持多种存储后台,比如AWS S3,HDFS,甚至是其他的应用仓库。存储后台的界面设计非常通用,开发者可以轻松的加入新的实现。
Kraken的各个部分都可以自我修复,任意单一机器的问题都不会对系统整体造成影响。假如有多个异地集群,Kraken还支持基于镜像名的异地无损复制。


性能

640?wx_fmt=png


Kraken在2018年初被部署入生产环境。自那以后,曾经的镜像仓库性能问题不复存在。
最忙碌的一个Kraken集群每天分布超过一百万个镜像层,其中有十万个以上大小超过1GB。在高峰时期,Kraken可以在30秒内分布2万个大小在100MB和1GB之间的镜像层。
Kraken的可扩展性使其可以轻松支持超过8000台机器的计算集群,而且可以以最大下载速度50%以上的速度向集群中每台机器分布镜像。事实上在Uber收集到的数据中,集群和镜像的大小对下载速度没有明显的影响。


对比

640?wx_fmt=png


对于第一次听说Kraken的开发者而言,难免会问到Kraken和阿里巴巴Dragonfly(蜻蜓)项目的区别。Dragonfly的架构中,由超级节点决定每一块4MB数据块的流向。虽然超级节点理论上可以做出最优的选择,但是整个集群的流量会被一台或几台机器的处理能力所限制。随着集群或镜像大小的增加,性能会呈线性下降。
Kraken的架构中,中心部件Tracker只负责搭建起一个随机正则图的网络拓扑结构,但是具体的数据传输的协商是由每台机器上的peer进程负责,所以Kraken的性能不会太受集群和镜像大小的影响。此外,Kraken是一个高可用性的系统,并且支持异地无损复制,适合使用于混合云环境。


开源

640?wx_fmt=png


自从内部使用以来,Kraken已被用来管理Uber的所有镜像。
Uber希望可以通过开源这个项目,来引发更多Docker相关领域的讨论。
假如您对Kraken的实现细节有兴趣,请访问Kraken的GitHub页面:https://github.com/uber/kraken。
原文链接:https://eng.uber.com/introducing-kraken/



Service Mesh入门与进阶实战培训

640?wx_fmt=png


Service Mesh实战培训将于2019年3月22日在北京开课,3天时间带你系统掌握Service Mesh,学习效果不好可以继续学习。本次培训包括:Istio介绍、核心功能、使用场景、安装与配置、升降级,Envoy介绍、架构、内部实现,Istio控制面板,Mixer核心功能与规则、监控、工作原理,Pilot介绍与配置,Istio安全,主要资源配置,策略配置,遥测,落地实践,传统微服务架构改造,Istio运维等,点击下面图片查看具体详情。
640?wx_fmt=jpeg
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值