目录
前言
以linux而言,linux操作系统会有一个主进程pid=1派生出其他进程来控制不同服务
例如:
- pid=2——> python
- pid=3——>java
- pid=4——>php
三个服务可能会相互影响
使用者期望将这三个不同的服务,跑在不同的运行时环境中实现相互不影响,同时不会增加服务器成本
- 延伸出——>能否将这三种服务分别封装起来——>KVM虚拟化技术,实现了一个操作系统模拟多个操作系统/不同的运行时环境
- 随着技术发展——>虚拟化技术开销较大(例如:只要运行一个py脚本,想要使用虚拟化方式实现,还需要安装一个操作系统,并不方便/合理)
——>延伸出容器技术
虚拟化层的抽象层(用户层)剥离,使用docker engine来替代(来bin操作系统去除),只要通过引擎就可以直接连接到宿主机操作系统中,极大减小了开销。
基础了解
IAAS:基础设施服务,(只提供基础设施,没有系统)
SAAS:软件即服务,(提供基础设施和系统)
PAAS:平台即服务,(提供基础设施和系统和软件一个整体平台,拿来用就行)
DAAS:数据库的平台,(收集大量数据,提供分析)
开发的具体开发流程
获取项目需求——》分布开发——》测试(测试类型:运行测试、功能性测试、单元测试、回归测试、冒烟测试)——》线上运维。
一、虚拟化简介
通过虚拟化技术将一台计算机虚拟为多台逻辑计算机,在一台计算机上同时运行多个逻辑计算机,同时每个逻辑计算机可运行不同的操作系统,应用程序都可以在相互独立的空间内运行而互相不影响,从而提高计算机的工作效率。
- 在一个操作系统中(win10)模拟多个操作系统(centos、win10、suse),同时每个操作系统可以跑不同的服务(nginx+tomcat),从而实现一台宿主机搭建一个集群(从整体)。
- 通过软件/应用程序的方式,来实现物理硬件的功能。例如ensp,以软件形式实现物理设备的功能(二层交换机、路由器、三层交换机等)。
1、虚拟化概述
虚拟化:将应用程序和系统内核资源进行解耦,以操作系统级别进行隔离,目的是提高资源利用率
2、耦合与解耦合
2.1 耦合
- 耦合是指两个或两个以上的体系或两种运动形式间通过相互作用而彼此影响以至联合起来的现象。
- 对象之间的耦合度就是对象之间的依赖性。
- 对象之间的耦合越高,维护成本越高
2.2 解耦合
- 字面意思就是解除耦合关系。
- 在软件工程中,降低耦合度即可以理解为解耦,模块间有依赖关系必然存在耦合,理论上的绝对零耦合是做不到的,但可以通过一些现有的方法将耦合度降至最低。
设计的核心思想:尽可能减少代码耦合,如果发现代码耦合,就要采取解耦技术。让数据模型,业务逻辑和视图显示三层之间彼此降低耦合,把关联依赖降到最低,而不至于牵一发而动全身。原则就是A功能的代码不要写在B的功能代码中,如果两者之间需要交互,可以通过接口,通过消息,甚至可以引入框架,但总之就是不要直接交叉写。
2.3 小结
- 耦合是项目模块之间的关联度高及相互依赖程度高,也就是说我们在后期项目修改时,如果耦合度高的话,这样会牵一发而动全身,增加了相应的维护成本
- 相反,解耦合就是要降低这种模块之间的相互依赖程度,降低维护成本与复杂度。
3、虚拟化作用
缓解/解决了资源利用率的问题
PS:物理硬件的性能就会比虚拟化的性能高,在极度吃资源的情况下,例如mysql高并发这种,就不适合用虚拟化。
4、虚拟化工作原理
虚拟机管理器功能:调用资源
两大核心组件:QEMU、KVM
4.1 QEMU
- QEMU是I/O控制的模块,可以理解为队列,核心目的是调用资源内核中的资源,需要把KVM逻辑分割出来的资源运输给QEMU,再给虚拟机。
- QEMU它并不是直接调用,而是用I/O方式调用,QEMU把资源调用来的过程借用ioctl,QEMU借助libvirt这个工具调用ioctl,再通过接口,给虚拟机应用程序。
4.2 KVM
- 用来逻辑分割物理资源,抽象化为虚拟化资源,根据VMM里的配置,会逻辑分割出多少G,给应用程序,去进行虚拟化。
- 只接受来自QEMU的请求指令。对于应用程序直接过来的敏感指令会拦截,然后通过接口发给QEMU,让QEMU判断是否需要执行,可以的话,再下来,不可以的话,打回去,不执行该敏感指令。
对于workstation而言——》硬件辅助虚拟化,表现形式在处理器里面有一个虚拟化引擎,可以勾取硬件辅助虚拟化,看到虚拟接口/dev/kvm,可以加强辅助调用,在应用程序需要频繁调用的时候,需要开启。比如openstack。
4.3 虚拟化类型
- 全虚拟化:将物理硬件资源全部通过软件的方式抽象化,最后进行调用
- KVM----》产品vmware
- 半虚拟化:需要修改操作系统
- ESXI—>workstation、vsphere、xen
- 直通:直接使用物理硬件资源(需要支持,还不完善)
全虚拟化:KVM——》产品vmware—ce
半虚拟化:EXSI——》workststion vsphere
4.4 虚拟化功能
- 在一个操作系统内,模拟多个操作系统
- 以软件的方式模拟物理设备的功能
5、虚拟化技术的优点
- 提升IT效率
- 降低运维成本
- 更快的部署工作
- 提高应用性能
- 提高服务器的可用性
- 消除服务器梳理剧增情况和复杂性
- 管理较为方便(有争议性)
- 比较容易进行弹性伸缩资源
- 前期成本高,后期相较传统,会更“便宜”点
6、缺点
- 前期成本较高
- 维护难度高
- 主机安全性要求高
- 不适合运行对资源要求极高的应用(极度吃资源的应用)
- 运行代价有时候较高
二、Docker概述
1、IT架构演变
云计算涌现出很多改变传统IT架构和运维方式的新技术,比如虚拟机、容器、微服务、Serverless(无服务),无论这些技术应用在哪些场景,降低成本、提升效率是云服务永恒的主题。
- Bare Metal(裸金属):运行物理机,也称为裸金属
- Virual machines(虚拟机):可以在一台物理机上创建多个虚拟机,并把物理配置分发成多个虚拟配置
- 缺点:性能损耗大,大约损耗50%
- 虚拟机常用软件:VMware workstation(windows、vm Sphere+ESXI (Windows server)、KVM(linux内核))
- Containers(容器):容器内部自身有一个小型操作系统
- 常用软件:docker、podman、rocket、container
- functions函数(函数化、代码化)
2、Docker是什么
- Docker 是一个开源的应用容器引擎,基于go 语言开发并遵循了apache2.0 协议开源
- Docker 是在Linux 容器里运行应用的开源工具,是一种轻量级的“虚拟机”
- Docker的容器技术可以在一台主机上轻松为任何应用创建一个轻量级的,可移植的,自给自足的容器。
Docker 的Logo设计为蓝色鲸鱼,拖着许多集装箱,鲸鱼可以看作为宿主机,集装箱可以理解为相互隔离的容器,每个集装箱中都包含自己的应用程序。
3、Docker的设计宗旨
Build,Ship and Run Any App,Anywhere,即通过对应用组件的封装、发布、部署、运行等生命周期的管理,达到应用组件级别的“一次封装,到处运行”的目的。这里的组件,既可以是一个应用,也可以是一套服务,甚至是一个完整的操作系统。
4、Docker特点
容器化越来越受欢迎,因为容器是:
- 灵活:即使是最复杂的应用也可以集装箱化。
- 轻量级:容器利用并共享主机内核。
- 可互换:可以即时部署更新和升级。
- 便携式:可以在本地构建,部署到云,并在任何地方运行。
- 可扩展:可以增加并白动分发容器副本。
- 可堆叠:可以垂直和即时堆叠服务。
容器是在linux上本机运行,并与其他容器共享主机的内核,它运行的是一个独立的进程,不占用其他任何可执行文件的内存,非常轻量。
虚拟机运行的是一个完整的操作系统,通过虚拟机管理程序对主机资源进行虚拟访问,相比之下需要的资源更多。
Docker从一开始就以提供标准化的运行时环境为目标,真正做到"Build,Ship and Run any APP,Angwhere",可以将同一个构建版本用于开发、测试、预发布、生产等任何环境,并且做到了与底层操作系统的解耦。在此基础上还进一步发展出了Caas (容器即服务)技术。
5、Docker与KVM(虚拟机)的区别
5.1 隔离与共享
虚拟机通过添加Hypervisor层(虚拟化中间层),虚拟出网卡、内存、CPU等虚拟硬件,再在其上建立虚拟机,每个虚拟机都有自己的系统内核。
而Docker容器则是通过隔离(namesapce)的方式,将文件系统、进程、设备、网络等资源进行隔离,再对权限、CPU资源等进行控制(cgroup),最终让容器之间互不影响,容器无法影响宿主机。
容器与宿主机共享内核、文件系统、硬件等资源。
5.2 性能与损耗
- 与虚拟机相比,容器资源损耗要少。
- 同样的宿主机下,能够建立容器的数量要比虚拟机多
- 但是,虚拟机的安全性要比容器稍好,要从虚拟机攻破到宿主机或其他虚拟机,需要先攻破 Hypervisor层,这是极其困难的
- 而docker容器与宿主机共享内核、文件系统等资源,更有可能对其他容器、宿主机产生影响。
不同点 | Docker容器 | 虚拟机 |
启动速度 | 快(几秒) | 慢(几分钟) |
运行性能 | 接近原生(直接在内核中运行) | 运行于Hypervisor上,损耗较大 |
磁盘占用 | 小,设置几十kb(根据镜像层的情况) | 非常大(GB) |
并发性 | 一台宿主机可以启动成百上千个容器 | 最多几十个虚拟机 |
隔离性 | 进程级别 | 资源隔离、限制 |
操作系统 | 主要支持Linux | 几乎所有 |
封装程度 | 只打包项目代码和依赖关系,共享宿主机内核 | 完整的操作系统,与宿主机隔离 |
5.3 docker在内核中支持2种重要技术
docker 本质就是宿主机的一个进程,docker 通过namespace 实现资源隔离,通过==cgroups ==实现资源限制,通过写时复制技术(copy-on-write)实现了高效的文件操作(类似虚拟机的磁盘。比如分配500G,并不是实际占用物理磁盘500g,而是随着使用扩展)
6、Docker有哪些优势?和虚拟机比有什么优势
把容器化技术做成了标准化平台
- docker引擎统一了基础设施环境——docker容器环境(引擎)
- docker引擎统一了程序打包(装箱)方式——docker镜像(把引擎放在镜像中,带着镜像到处跑)
- docker引擎统一了程序部署(运行)方式——docker容器(利用引擎把这个镜像再去运行为之前的相同的一模一样的容器了)
镜像——》封装的一个时刻的服务/应用状态
容器——》应用跑起来的状态(正常提供服务的状态 - 运行时)
实现了一次构建,多次、多处使用。
7、namespace的隔离(命名空间)
docker本质就是宿主机的一个进程,docker是通过namespace实现资源隔离,通过cgroup实现资源限制,通过写时复制技术copy-on-write实现了高效的文件操作。(类似于虚拟机的磁盘,比如分配了500G并不是实际占用物理磁盘500G)
namespace | 系统调用参数 | 隔离内容(判断两个环境是否完全隔离) |
utc | CLONE_NEWUTS | 隔离内核和版本标识符(UTS:unix时间功能系统)主机名和域名 |
ipc | CLONE_NEWWIPC | 信息量、消息队列和共享内存(不同的应用调用内存资源的时候应该使用不同的内存空间) |
pid | CLONE_NEWPID | 进程编号 |
net(network) | CLONE_NEWNET | 网络设备、网格线、端口等 |
mnt(mount) | CLONE_NEWNS | 挂载点(文件系统,不能重复挂载一个制定目录) |
user | CLONE_NEWUSER | 用户和组(3.8以后的内核才支持) |
8、控制组(Control group)
六种名称空间是由cgroup管理的
最后一种centos的cgroup管理版本是3.8版本,3.6和3.5用不了
- cgroup管理linux内核态中资源管理的模块
- cgroup管理一些系统资源
- 不是docker原生的。
9、Docker的三个核心概念
9.1 镜像
- Docker的镜像是创建容器基础, 类似虚拟机的快照,可以理解为一个面向Docker容器的引擎的只读模板。
- 通过镜像启动一个容器,一个镜像是一个可执行的包,其中包括运行程序所需要的所有内容,包含代码、运行时间、库、环境变量和配置文件
- Docker镜像也是一个压缩包,只是这个压缩包不只是可执行文件,环境部署脚本,它还包含了完整的操作系统。因为大部分的镜像都是基于某个操作系统来构建的,所有很轻松的就可以构建本地和远程一样的环境,这也是docker镜像的精髓。
9.2 容器
- Docker的容器创建的运行实例,它可以被启动、停止、和删除,所创建的每一个容器都是相互隔离,互不可见的,以保证平台的安全性。
- 可以把容器看做一个简易版linux环境(包括root用户权限,镜像空间、用户空间和网络空间)和运行在其它的应用程序。
9.3 仓库(Docker Hapu)
公共仓库:docker hub
私有仓库:harhor
- Docker仓库是用来集中保存镜像的地方,当创建了自己的镜像之后,可以使用push命令将它上传到公有仓库或私有仓库,当下次要在另外一台机器上使用这个镜像时,只需要从仓库获取。
- Docker的镜像、容器、日志等全部内容都默认存储在/var/lib/docker目录下。
10、Docker引擎(Docker Engine)
Docker Engine是具有以下主要组件的客户端-服务器(C/S架构)应用程序:
- server端:服务器是一种长期运行的程序,称为守护程序进程( dockerd命令)。
- client端:REST API,它指定程序可以用来与守护程序进行通信并指示其操作的接口。
- 命令行界面(cLI)客户端((docker命令)。
docker run
docker start
docker rm
11、Docker运行流程
- 客户端发起各种命令到服务端的守护进程。
- 服务端的守护进程会调用镜像,如果本地存在,直接使用,运行为容器,如果本地没有,从仓库拉取镜像到本机再运行为容器。
12、使用docker有什么意义
- docker 引擎 统一基础设施环境-docker容器环境(引擎)
- docker 引擎统一了程序打包(装箱)方式-docker镜像
- docker 引擎统一了程序部署(运行)方式-docker容器
镜像------》封装的某一个时刻的服务/应用状态
容器-----》应用跑起来的状态(正常提供服务的状态----运行时)
13、Docker的使用场景
- 打包应用程序部署简单
- 可脱离底层硬件任意迁移(实现了应用的隔离,将应用拆分并进行解耦)
- 例如:需要把服务器从腾讯云迁移到阿里云,如果采用的是 Docker容器技术,整个迁移的过程只需要在新的服务器上启动我们需要的容器就可以了。
- 适合做微服务的部署
- 适合持续集成和持续交付(CI/CD):开发到测试发布
- 部署微服务
- 提供PASS产品(平台即服务){OpenStack的云主机类似于阿里云的ECS,属于IAAS、Docker(K8S)属于PAAS}
三、其他容器Podman
Podman与Docker主要区别
- docker在运行容器的时候,需要一个守护进程。其次需要root运行
- podman不需要守护进程。也不需要root用户运行,
- docker需要多个daemon才能调用OCI实现运行,
- podman直接调用OCI,通过common做为容器的管理工具。
- 在podman体系中,有个称之为common的守护进程,其运行路径通常是/usr/libexec/podman/conmon,它是各个容器进程的父进程,每个容器各有一个,common的父则通常是1号进程。podman中的common其实相当于docker体系中的containerd-shim。
四、总结
使用docker实现了3个统一
- docker引擎统一了基础设施环境-docker环境——>image——>封装一一个简易的操作系统(3.0+G)
- docker引擎统一了 程序打包(装箱/封装-类比于集装箱)方式-docker镜像——>images
- docker引擎统—了程序部署(运行)方式-docker容器——>基于镜像——>运行为容器(可运行的环境)
实现了一次构建,多次、多处使用