基于超融合架构(HCI)的容器云管理部署实践

转载 2016年09月23日 10:46:53

大家好,我是DaoCloud售前工程师张扬,平时工作主要为企业IT客户提供容器化、超融合和云计算方面的技术支持。没事儿喜欢去Nutanix超融合社区转转,也运营者一个微信订阅号写些上不了台面的技术贴。

随着云计算的逐步落地,容器化和超融合等技术开始风靡整个IT圈。本次分享主要从技术层面讲述云计算环境中容器化和超融合的双擎工作模型,希望能够给大家带来一些尝试或启发。

一、超融合概念

超融合基础架构(Hyper-Converged Infrastructure,或简称”HCI”)也被称为超融合架构,是指在同一套x86单元设备中不仅仅具备计算、网络、存储和服务器虚拟化等资源和技术,而且还包括缓存加速、存储分层、重复数据删除、在线数据压缩、快照技术等元素,并且多节点可以通过网络聚合起来,实现模块化的无缝横向扩展(scale-out),形成统一的资源池。

tu1

上图可能是数据中心运维人员比较熟悉的传统集中式存储的基础架构,它一般会被分为四层:以太网络层、计算资源层、存储网络层和存储资源层。(图中没有涉及以太网络层)

这样的模型在传统的架构中是非常适用的,但是随着云计算和用户体验时代的体验到来,在应用规模比较大的场景中该模型面临着很大的挑战。

tu2

如上图,在计算资源经过虚拟化技术实现弹性扩展以后,集中式存储很容易就成为性能的瓶颈。

超融合基础架构基于Web Scale(一种面向基础架构和资源的全新架构方式,实现互联网规模的弹性扩展能力)的设计思想,从硬件层面将计算资源层、存储网络层和存储资源层融合为一层,增强数据中心基础架构的灵活性并降低复杂度。如下图:

tu3

超融合设备从硬件层将传统的计算资源和存储资源集成到一个2U的标准设备里,并提供千兆网络口用于前端应用的访问,万兆网络口用于后端分布式存储的数据传输,从而全面移除传统的存储网络和集中式存储。

同时也在软件层面基于软件定义一切则准则,使用虚拟化和分布式存储等技术,实现分布式的资源调度。如下图:

tu4

分布式架构将所有的资源池化,从而实现单点性能瓶颈的消除、去中心化、无上限扩展等云计算环境中所需要的基本要素。

tu5

超融合基础架构的本质是在硬件层包含计算和存储资源,并在软件层通过软件定义的方式实现资源池化,为上层应用提供去中心化且可弹的基础架构支撑。

二、超融合架构介绍

2.1 硬件架构

tu6

如图可以看到,Nutanix 3000系列的超融合硬件设备是一台x86平台的2U机架式服务器。

含有:
NODE: 每台Nutanix服务器可支持1到4个节点。
SSD: 每节点可支持一到两块400或800GB的固态硬盘,最大支持6400GB。
HDD: 每节点可支持一到四块1TB的机械硬盘,最大支持16TB。
CPU: 每节点可支持一到两颗Intel CPU,最大支持64核。
MEM: 每节点可支持64到512GB内存,最大可支持2TB。

SATADOM: 每节点必须含有一块64GB的SATA接口的固态硬盘,预装客户所选择虚拟化类型的Hypervisor。有Nutanix AHV,VMWare ESXi和Microsoft Hyper-V三种可选。
NIC: 每节点含有两块10GB以太网卡(用于NDFS),两块1GB以太网卡(用于应用)。
Other: 每节点含有一个VGA接口,一个IPMI接口,4个USB接口。整机2个电源模块,4个风扇。

硬件层是标准的x86架构的服务器,包含计算和存储所需的硬件资源。核心是SATADOM,其中预装的软件实现了超融合设备“开箱即用”的功能。整个物理架构非常简单,这也是超融合的价值所在,企业基础架构需要扩容的时候拿这样一台设备上架加电接网即可。

2.2 软件架构

Nutanix的软件架构基于两个产品来实现:Prism和Acropolis

tu7

Prism是一个分布式的资源管理平台,基于Web Console实现对超融合集群环境对象及服务的管理和监控。

Acropolis是一个分布式的多资源管理器,集协同管理和数据平台功能于一身,实现计算和存储资源的管理和调度。

Acropolis包含三个主要组件:

DFS(Distributed Storage Fabric)分布式存储架构,基于Nutanix分布式文件系统实现存储资源池化的存储平台。

AMF(App Mobility Fabric)应用移动性架构,提供在Hypersior间动态切换和移动工作负载的功能。

AHV(Acropolis Hypervisor)虚拟化管理器,基于CentOS KVM开发后的多用途虚拟化管理器组件。

以上介绍的软硬件架构基本在每个厂商的超融合产品中都包含,可以说已经形成了一个业界的标准。特别是软件层面的虚拟化和分布式存储更是每个超融合产品必须具备的功能组件,毕竟超融合的准则是软件定义一切,是实现SDDC(软件定义数据中心)的终极技术路径。

tu8

软件定义一切的魅力也在于,自行攒机也同样可以基于社区版部署出一套超融合的HomeLab。:)

三、超融合对容器化的支持

Docker引领的容器化风潮已席卷整个IT行业,抛开容器圈内部的生态竞争,容器圈外的IT巨头也纷纷选择支持容器技术的发展,并且也一步步在自己的解决方案中融入容器技术。

Nutanix在新发布的AOS 4.7中同样为Docker容器推出了ABS和ACS功能,使得容器化能够很容易的在超融合架构上被承载。

ABS(Acropolis Block Services)使用iSCSI协议将存储资源以块设备的形式提供给的裸机、虚机或容器,从而实现了底层分布式存储对外部对象的支持。

tu9

如图,容器中的重要数据可以外部volume的形式存放到ABS存储中,从而实现了数据的持久化。

ACS(Acropolis Container Services)实现Nutanix超融合平台对Docker容器化的支持,解决了容器应用数据持久化的问题并提供了效能和安全兼顾的”双擎”方案。

tu10

ACS包含两个主要组件:

如果有使用过Docker Machine的朋友对这个就会比较熟悉,Machine Driver会被Docker Machine调用,然后基于Prism的API在Nutanix的超融合平台快速创建标准的Docker宿主机。

Nutanix Docker Volume Driver:Docker容器操作Acropolis Block Services的驱动模块。

tu12

Volume Driver提供的容器卷插件(Volume Plugin)遵循Docker提供的规范,将容器中的关键数据储存到ABS所提供的分布式存储中,以外部volume的形式实现容器数据的持久化。

四、容器云管介绍

容器云管平台提供了容器集群环境中容器和应用的管理和编排。目前国内外的容器云管有很多,且基本都是基于Google Kubernetes、Apache Mesos和Docker Swarm三种编排工具来实现。

DaoCloud Enterprise(DCE)是一套以Docker Native为核心、将Swarm作为集群中的编排工具,可部署到物理机、虚拟机或云主机上的企业级应用云管平台。它提供企业容器云环境中应用编排、镜像仓库、负载均衡、日志和监控管理、网络和存储控制等功能。

DCE采用Manager-Worker的拓扑结构

tu13

DCE Controller作为控制节点,处理所有的用户请求,并管理集群中的所有容器节点。

DCE Agent作为容器节点,承载用户的容器和应用的运行。

下面我们看一下本次实践的拓扑结构

tu14

本次部署采用DCE企业级的高可用模式,底层使用Nutanix的超融合环境生成5台标准的Docker宿主机,Docker宿主机中3台作为DCE的高可用Controller集群,2台作为DCE的Agent运行用户应用所需的容器。

五、部署实践

前面提了很多理论性的东西,下面我们基于上述功能在超融合架构的基础上部署出一套容器运管平台,并使用应用商店发布一个数据持久化的Wordpress应用。

5.1 宿主机生成

Docker宿主机是使用Nutanix Docker Machine Driver生成的虚拟机,使用该种方式可实现在每台Docker Host快速部署的同时保证硬件配置、软件版本的一致性。

命令格式如下:

tu15

有使用过Docker Machine基于virtualbox生成宿主机的朋友可能会比较熟悉,区别就是驱动为nutanix,参数方面包含超融合的环境信息以及宿主机的硬件配置信息。

我们通过该命令生成部署所需的5台宿主机,如下图

tu16

5.2 分配块设备

向5台Docker宿主机分配相应容量的块设备作为Docker Engine的数据存储。

DCE作为生产环境的企业级云管平台,不推荐使用devicemapper默认的loop-lvm模式,所以我们需要使用外部ABS存储分配的块设备来配置direct-lvm模式。

5.3 DCE云管部署

DCE云管作为容器运行在Docker宿主机之中,使用DCE自带Toolbox来部署也很灵活和简单。

tu17

本次实践用到的install命令实现控制节点的部署,join命令实现容器节点的部署。

部署主控节点

# bash -c "$(docker run --rm daocloud.io/daocloud/dce install)"

部署副控节点

# bash -c "$(docker run --rm daocloud.io/daocloud/dce install --force-pull --replica --replica-controller MASTER_CONTROLLER_IP)"

部署容器节点

# bash -c "$(docker run --rm daocloud.io/daocloud/dce join --force-pull MASTER_CONTROLLER_IP)"

三种类型的节点对象使用三条命令部署即可,同样的节点类型命令可复用。需要注意的是MASTER_CONTROLLER_IP为主控节点的IP地址。

5.4 发布应用

启动应用容器的时候需要调用Volume Plugin来实现外部存储的挂在,docker run命令的格式如下:

tu18

和通常run一个容器的命令基本没区别,只需加上–volume-driver参数指定为nutanix,同时指定外部volume的名字就行。

由于本例需要使用DCE的应用商店部署一个Wordpress应用,所以我们要修改WP的compose文件以实现外部volume的挂载。在选择部署WP应用之后,DCE默认会提供一个compose文件模板,用户可以基于该模板文件进行自定义操作。

tu19

如上图,将volume_driver参数指定为nutanix,并将volumes参数中的卷挂载到WP的MySQL数据目录即可。随后DCE会基于自定义好的compose文件自动的去部署WP应用。

5.5 状态检查

a. 容器运行状态

tu20

可以看到compose文件中定义的wordpress和mysql两个容器已分别被DCE自动分布在两个agent节点部署且运行。

b. 应用访问

tu21

访问DCE中wordpress容器提供的应用链接来确认应用是否可成功访问。(WP的配置步骤在此省略)

c. 外部卷

tu22

Compose文件定义的外部卷wpdb已经在存储池中创建成功,数据持久化功能得以实现。

至此基于Nutanix超融合架构的DaoCloud容器云管平台部署已经完成。

本次主要是从技术层面抛砖引玉似的分享容器化+超融合这种双擎模式的尝试,希望能带来一些启发。另外,DaoCloud已从企业容器云管走向企业应用云,Nutanix也从企业超融合架构走向企业云平台。如有兴趣,请关注”小张烤茄”一起学习交流。

分享就到这里,谢谢大家。本文标题:基于超融合架构(HCI)的容器云管理部署实践


超融合架构与容器超融合

超融合HCI 最早大概是由NUTANIX知道“超融合”概念,原本以为这又是厂商的噱头和炒作,谁知不然,超融合这两年发展如火如荼。2015年被公认为超融合元年,在软件定义存储SDS的推动下,超...
  • u014022631
  • u014022631
  • 2017年02月20日 12:03
  • 747

基于Docker的CaaS容器云平台架构设计

在移动互联网时代,企业需要寻找新的软件交付流程和IT架构,从而实现架构平台化,交付持续化,业务服务化。容器将成为新一代应用的标准交付件,容器云将帮助企业用户构建研发流程和云平台基础设施,缩短应用向云端...
  • Cloudsoar_yunshu
  • Cloudsoar_yunshu
  • 2016年03月18日 15:17
  • 1062

第1章 从容器到容器云

1.1 云计算平台 经典的云计算架构包括了IaaS(Infrastructure as a Service),PaaS(Platform as a Service)和SaaS(software as...
  • caoshuming_500
  • caoshuming_500
  • 2016年05月26日 17:35
  • 967

遇见未来 | 读完这篇文章,你真的了解超融合吗?

超融合的概念自2012年被提出到现在,经历了6年的时间。其技术已经从最初的以存储的融合为重点,经历过计算、存储、网络的全面融合,到现在,重心落在云计算平台的交付,整个技术趋于成熟。   今天我们...
  • eygle
  • eygle
  • 2018年02月06日 15:40
  • 39

【​观察】从超融合到企业云的跃迁 Nutanix未来的雄心与壮志

毫无疑问,像人类历史上其他重大技术革命一样,云的影响远远超过技术本身,还影响了商业模式和人的思维模式,进而引发了一系列商业创新的革命。随着云快速发展和迭代,未来企业是云化的主角,各行各业将在云中成长,...
  • W5AeN4Hhx17EDo1
  • W5AeN4Hhx17EDo1
  • 2018年01月30日 00:00
  • 45

深信服超融合基础架构管理平台--虚拟网络测试实践

测试虚拟存储的同时,发现深信服上还有虚拟网络这个选项,正好之前接触过某ware的NSX,好奇心来了,说试就试:再贴一下物理配置吧: 物理环境:4节点,CPU: E5-2630 v3, 内存:256G...
  • xu_wendell
  • xu_wendell
  • 2016年11月22日 16:35
  • 794

超融合架构真的完美吗?

超融合架构的优势和客户价值这个已经勿容置疑,各个厂商和媒体已经成功地帮客户洗脑了,和客户交流不提超融合都俨然被认为落伍,这里不用也不想再赘述。从辩证角度看,任何事物都不可能是完美的,超融合是不是也存在...
  • liuben
  • liuben
  • 2016年07月01日 00:12
  • 43602

第八届中国云计算大会总结(第二天会议附带现场PPT及录音)

有幸接到置顶网的邀请参加了第八届中国云计算大会,依稀记得去年参加第七届,去年可能刚入云计算圈子,一切对我来说都显得比较陌生、新奇;但是经过了一年云计算技术学习和实践,在新的一届大会深刻的感受就是科技进...
  • chinagissoft
  • chinagissoft
  • 2016年05月20日 09:36
  • 2836

遇见未来 | 超融合如何兼顾企业的“敏态”和“稳态”的业务需求

超融合的概念自2012年被提出到现在,经历了6年的时间。其技术已经从最初的以存储的融合为重点,经历过计算、存储、网络的全面融合,到现在,重心落在云计算平台的交付,整个技术趋于成熟。今天我们有幸邀请到青...
  • Enmotech
  • Enmotech
  • 2018年02月02日 00:00
  • 68

2018 年开源容器云,你的技术路线选对了吗?

近几年,随着容器技术的快速发展和壮大,国内外互联网公司、传统IT公司以及金融行业都积极投入到容器技术的研发和应用中,容器技术的生态圈已经形成。容器技术定义了一套从构建到执行的标准体系,不同于传统的虚拟...
  • csdn_bang
  • csdn_bang
  • 2018年01月25日 16:29
  • 2470
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:基于超融合架构(HCI)的容器云管理部署实践
举报原因:
原因补充:

(最多只允许输入30个字)