目录
一、Kubernetes 概述
1、背景
服务器经历了三次演变过程:物理机、虚拟机和容器化
物理机的缺点
- 部署慢 :每台服务器都要安装操作系统、相关的应用程序所需要的环境,各种配置;
- 成本高:物理服务器的价格十分昂贵;
- 资源浪费:硬件资源不能充分利用;
- 扩展和迁移成本高:扩展和迁移需要重新配置一模一样的环境。
虚拟机很好解决了物理机的缺点,代表产品为vmware,其特点为:
- 易部署:每台物理机可部署多台虚拟机,且可以通过模板,部署快,成本低;
- 资源池:开出来的虚拟机可作为资源池备用,充分压榨服务器性能;
- 资源隔离:每个虚拟机都有独立分配的内存磁盘等硬件资源,虚拟机之间不会互相影响;
- 易扩展:随时都能在一个物理机上创建或销毁虚拟机。
同时,虚拟机同样也有一些缺点,每台虚拟机都需要安装操作系统,每台虚拟机都需要虚拟出完整的操作系统,从而对内存等资源会造成浪费和压力。
但容器化时代解决了虚拟机的缺点,并在继承虚拟机优点的基础之上,代表产品为docker,具有以下特点:
- 更高效的利用硬件资源:所有容器共享主机操作系统内核,不需要安装操作系统;
- 一致的运行环境:相同的镜像产生相同的行为;
- 更小:较虚拟机而言,容器镜像更小,因为不需要打包操作系统;
- 更快:容器能达到秒级启动,其本质是主机上的一个进程。
docker在单机上进行编排很方便,但在一些场景下存在明显缺陷:
- 当节点较多时需要重复执行指令,并进行负载均衡,不利于自动装箱。
- 当增加节点时认为操作繁杂,不利于水平扩缩。
- 如果要进行版本变更,更新或回滚,需要停止容器然后更新容器镜像,重新启动,当副本较多时,不利于自动化上线和回滚。
- 当出现节点宕机,节点上所有容器都停止,docker的重启策略会失效,不能自我修复。
- 如果进行负载均衡时,需要新增负载均衡器,配置节点ip和端口,容器网络隔离导致不能相互访问,维护成本较高,不利于服务发现与负载均衡。
上述均属于容器编排问题,需要一个新技术进行自动化编排,K8S应运而生。
2、K8S 基本概念
K8S 的全称为 Kubernetes (K12345678S),PS:“嘛,写全称也太累了吧,不如整个缩写”。
作用:
用于自动部署、扩展和管理“容器化(containerized)应用程序”的开源系统。
可以理解成 K8S 是负责自动化运维管理多个容器化程序(比如 Docker)的集群,是一个生态极其丰富的容器编排框架工具。
由来:
K8S由google的Borg系统(博格系统,google内部使用的大规模容器编排工具)作为原型,后经GO语言延用Borg的思路重写并捐献给CNCF基金会开源。
云原生基金会(CNCF)于2015年12月成立,隶属于Linux基金会。CNCF孵化的第一个项目就是Kubernetes,经成为容器编排工具随着容器的广泛使用,Kubernetes已的事实标准。
含义:
词根源于希腊语的 舵手、飞行员
GitHub:
https://github.com/kubernetes/kubernetes
K8S是一款强大的容器编排平台,可以帮助企业实现容器化的业务部署和管理,提升效率和可靠性。
K8S是一个容器集群管理系统,在Docker等容器技术的基础上,为容器化的应用提供部署运行、资源调度、服务发现和动态伸缩等一系列完整功能,提高了大规模容器集群管理的便捷性。
K8S 的特点包括:
- 自动化管理:大大减少了人工干预,提高了应用部署和管理的效率。
- 弹性伸缩:能够根据负载自动调整容器的副本数量,实现资源的高效利用。
- 高可用性:通过副本和故障转移机制,确保应用的持续可用。
- 负载均衡:可以在多个节点上自动分配负载,实现负载均衡。
- 跨平台支持:可以在不同的基础设施上运行,包括物理机、虚拟机和云平台。
3、Kubernetes 集群架构与组件
K8S 是属于主从设备模型(Master-Slave 架构),即有 Master 节点负责集群的调度、管理和运维,Slave 节点是集群中的运行工作负载节点。
在 K8S 中,主节点一般被称为 Master 节点,而从节点则被称为 Worker Node 节点,每个 Node 都会被 Master 分配一些工作负载。
Master 组件可以在群集中的任何计算机上运行,但建议 Master 节点占据一个独立的服务器。因为 Master 是整个集群的大脑,如果 Master 所在节点宕机或不可用,那么所有的控制命令都将失效。除了 Master,在 K8S 集群中的其他机器被称为 Worker Node 节点,当某个 Node 宕机时,其上的工作负载会被 Master 自动转移到其他节点上去。
二、核心组件
1、Master 组件
●Kube-apiserver
用于暴露 Kubernetes API,集群统一入口,任何资源请求或调用操作都是通过 kube-apiserver 提供的接口进行。以 HTTP Restful API 提供接口服务,所有对象资源的增删改查和监听操作都交给 API Server 处理后再提交给 Etcd 存储。API Server 还负责验证请求的合法性,并将请求转发给相应的控制器进行处理。
工作原理:
1)API Server 监听特定的端口,接收来自客户端的 HTTP 请求。
2)对请求进行认证和授权,确保只有合法的用户能够执行相应的操作。
3)验证请求中的数据格式和内容是否合法。
4)将请求中的信息存储到 Etcd 中,并更新集群的状态。
5)提供其他模块之间的数据交互和通信的枢纽(其他模块通过API Server查询或修改数据,只有API Server才直接操作etcd)。
●Kube-controller-manager
运行管理控制器,是 K8S 集群中处理常规任务的后台进程,是 K8S 集群里所有资源对象的自动化控制中心。
在 K8S 集群中,一个资源对应一个控制器,而 Controller manager 就是负责管理这些控制器的。
Controller Manager 包含了一系列的控制器,负责监控和管理集群中的各种资源。通过 API Server 监控整个集群的状态,并确保集群处于预期的工作状态,比如当某个 Node 意外宕机时,Controller Manager 会及时发现并执行自动化修复流程,确保集群始终处于预期的工作状态。
常见的控制器主要包括:
- Node Controller(节点控制器):负责在节点出现故障时发现和响应。
- Replication Controller(副本控制器):负责保证集群中一个 RC(资源对象 Replication Controller)所关联的 Pod 副本数始终保持预设值。可以理解成确保集群中有且仅有 N 个 Pod 实例,N 是 RC 中定义的 Pod 副本数量。
- Endpoints Controller(端点控制器):填充端点对象(即连接 Services 和 Pods),负责监听 Service 和对应的 Pod 副本的变化。 可以理解端点是一个服务暴露出来的访问点,如果需要访问一个服务,则必须知道它的 endpoint。
- Service Account & Token Controllers(服务帐户和令牌控制器):为新的命名空间创建默认帐户和 API 访问令牌。
- ResourceQuota Controller(资源配额控制器):确保指定的资源对象在任何时候都不会超量占用系统物理资源。
- Namespace Controller(命名空间控制器):管理 namespace 的生命周期。
- Service Controller(服务控制器):属于 K8S 集群与外部的云平台之间的一个接口控制器。
工作原理:
1)通过 API Server 定期获取资源的状态信息。
2)根据资源的定义和当前状态,计算出期望的状态。
3)如果当前状态与期望状态不一致,控制器会采取相应的行动,例如创建、删除或更新资源。
●Kube-scheduler
是负责资源调度的进程,负责将待调度的 Pod 分配到合适的节点上运行。它会考虑节点的资源可用性、Pod 的资源需求、节点的标签和污点等因素。
可以理解成 K8S 所有 Node 节点的调度器。当用户要部署服务时,Scheduler 会根据调度算法选择最合适的 Node 节点来部署 Pod。
- 预选策略(predicate):过滤不符合条件的节点
- 优选策略(priorities):优先级排序,选择优先级最高的节点
API Server 接收到请求创建一批 Pod ,API Server 会让 Controller-manager 按照所预设的模板去创建 Pod,Controller-manager 会通过 API Server 去找 Scheduler 为新创建的 Pod 选择最适合的 Node 节点。比如运行这个 Pod 需要 2C4G 的资源,Scheduler 会通过预选策略过滤掉不满足策略的 Node 节点。Node 节点中还剩多少资源是通过汇报给 API Server 存储在 etcd 里,API Server 会调用一个方法找到 etcd 里所有 Node 节点的剩余资源,再对比 Pod 所需要的资源,如果某个 Node 节点的资源不足或者不满足 预选策略的条件则无法通过预选。预选阶段筛选出的节点,在优选阶段会根据优选策略为通过预选的 Node 节点计算优先级,选择优先级最高的 Node。例如,资源越富裕、负载越小的 Node 可能具有越高的优先级。
工作原理:
1)从 API Server 获取尚未分配到节点的 Pod 信息。
2)根据 Pod 的资源需求和节点的可用资源,筛选出符合条件的节点。
3)为符合条件的节点计算优先级,考虑因素包括节点的负载、亲和性和反亲和性等。
4)选择优先级最高的节点,并将 Pod 调度到该节点上。
2、配置存储中心
●Etcd
K8S 的存储服务。Etcd 是一个高可用的分布式键值存储数据库,用于保存 K8S 集群的所有配置和状态信息。
K8S 中仅 API Server 才具备读写权限,其他组件必须通过 API Server 的接口才能读写数据。
工作原理:
1)将K8S集群的配置数据、资源对象的定义和状态等以键值对的形式存储。
2)通过 Raft 一致性算法确保数据的一致性和可靠性。
3)在多个Etcd节点之间同步数据,以实现高可用性。
3、Node 组件
●Kubelet
Kubelet 是 Master 在 Node 节点上的 Agent代理程序,负责管理该节点上的 Pod 和容器的生命周期。比如创建容器、Pod 挂载数据卷、获取容器节点状态工作。kubelet 将每个 Pod 转换成一组容器。
每个节点上都运行一个 Kubelet 服务进程,默认监听 10250 端口,接收并执行 master 发来的指令,管理 Pod 及 Pod 中的容器。每个 kubelet 进程会在 API Server 上注册节点自身信息,定期向 master 节点汇报节点的资源使用情况,并通过 cAdvisor 监控节点和容器的资源。
工作原理:
1)向 API Server 注册所在节点的信息,包括节点的资源容量和状态。
2)根据 API Server 的指令,启动、停止和监控 Pod 中的容器。
3)定期收集节点的资源使用情况,并上报给 API Server。
●Kube-Proxy
负责实现 K8S 中的服务发现和负载均衡功能。
在 node 节点上实现 Pod 网络代理,维护网络规则和四层负载均衡工作。
每台机器上都运行一个 kube-proxy 服务,它监听 API server 中 service 和 endpoint 的变化情况,并通过 iptables 或 ipvs 来为 service 配置负载均衡(仅支持四层负载均衡)。
工作原理:
1)监听 API Server 中 service 资源对象的定义和更新。
2)根据 service 的定义,在节点上配置网络规则,实现请求的分发和负载均衡。
3)定期检查后端 Pod 的健康状况,确保服务的可用性。
●Container Runtime
容器引擎,负责运行容器。常见的实现包括 Docker、Containerd 等。
工作原理:
1)根据 Pod 中容器的定义,从镜像仓库拉取所需的镜像。
2)创建和启动容器,并配置相应的网络和存储。
3)实现容器之间的资源隔离和限制,确保每个容器都能获得所需的资源。
三、Kubernetes 核心概念
Kubernetes 包含多种类型的资源对象:Pod、Label、Service、Replication Controller 等。
所有的资源对象都可以通过 Kubernetes 提供的 kubectl 工具进行增、删、改、查等操作,并将其保存在 etcd 中持久化存储。
Kubernets其实是一个高度自动化的资源控制系统,通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异,来实现自动控制和自动纠错等高级功能。
●Pod
Pod是 Kubernetes 创建或部署的最小单元,一个 Pod 代表集群上正在运行的一个进程。
可以把 Pod 理解成豌豆荚,而同一 Pod 内的每个容器是一颗颗豌豆。
一个 Pod 由一个或多个容器组成,Pod 中容器共享网络、存储资源,在同一台 node 节点上运行。
一个 Pod 里可以运行多个容器,又叫边车模式(SideCar)。而在生产环境中一般都是单个容器或者具有强关联互补的多个容器组成一个 Pod。
同一个 Pod 之间的容器可以通过 localhost 互相访问,并且可以挂载 Pod 内所有的数据卷;但是不同的 Pod 之间的容器不能用 localhost 访问,也不能挂载其他 Pod 的数据卷。
●Pod 控制器
Pod 控制器是 Pod 启动的一种模版,用来保证在K8S里启动的 Pod 应始终按照用户的预期运行(副本数、生命周期、健康状态检查等)。
K8S 内提供了众多的 Pod 控制器,常用的有以下几种:
- •Deployment:无状态应用部署。Deployment 的作用是管理和控制 Pod 和 ReplicaSet,管控它们运行在用户期望的状态中。
- •Replicaset:确保预期的 Pod 副本数量。ReplicaSet 的作用就是管理和控制 Pod,管控他们好好干活。但是,ReplicaSet 受控于 Deployment。
可以理解成 Deployment 就是总包工头,主要负责监督底下的工人 Pod 干活,确保每时每刻有用户要求数量的 Pod 在工作。如果一旦发现某个工人 Pod 不行了,就赶紧新拉一个 Pod 过来替换它。而ReplicaSet 就是总包工头手下的小包工头。
从 K8S 使用者角度来看,用户会直接操作 Deployment 部署服务,而当 Deployment 被部署的时候,K8S 会自动生成要求的 ReplicaSet 和 Pod。用户只需要关心 Deployment 而不操心 ReplicaSet。
资源对象 Replication Controller 是 ReplicaSet 的前身,官方推荐用 Deployment 取代 Replication Controller 来部署服务。
- •Daemonset:确保所有节点运行同一类 Pod,保证每个节点上都有一个此类 Pod 运行,通常用于实现系统级后台任务。
- •Statefulset:有状态应用部署
- •Job:一次性任务。根据用户的设置,Job 管理的 Pod 把任务成功完成就自动退出了。
- •Cronjob:周期性计划性任务
●Label
标签,是 K8S 特色的管理方式,便于分类管理资源对象。
Label 可以附加到各种资源对象上,例如 Node、Pod、Service、Pod控制器 等,用于关联对象、查询和筛选。
一个 Label 是一个 key-value 的键值对,其中 key 与 value 由用户自己指定。
一个资源对象可以定义任意数量的Label,同一个Label 也可以被添加到任意数量的资源对象中,也可以在对象创建后动态添加或者删除。
可以通过给指定的资源对象捆绑一个或多个不同的 Label,来实现多维度的资源分组管理功能。
与 Label 类似的,还有 Annotation(注释)。
区别在于有效的标签值必须为63个字符或更少,并且必须为空或以字母数字字符([a-z0-9A-Z])开头和结尾,中间可以包含横杠(-)、下划线(_)、点(.)和字母或数字。注释值则没有字符长度限制。
●Label 选择器(Label selector)
给某个资源对象定义一个 Label,就相当于给它打了一个标签;随后可以通过标签选择器(Label selector)查询和筛选拥有某些 Label 的资源对象。
标签选择器目前有两种:基于等值关系(等于、不等于)和基于集合关系(属于、不属于、存在)。
●Service
在K8S的集群里,虽然每个Pod会被分配一个单独的IP地址,但由于Pod是有生命周期的(它们可以被创建,而且销毁之后不会再启动),随时可能会因为业务的变更,导致这个 IP 地址也会随着 Pod 的销毁而消失。
Service 就是用来解决这个问题的核心概念。
K8S 中的 Service 并不是我们常说的“服务”的含义,而更像是网关层,可以看作一组提供相同服务的Pod的对外访问接口、流量均衡器。
Service 作用于哪些 Pod 是通过标签选择器来定义的。
在 K8S 集群中,Service 可以看作一组提供相同服务的 Pod 的对外访问接口。客户端需要访问的服务就是 Service 对象。每个 Service 都有一个固定的虚拟 ip(这个 ip 也被称为 Cluster IP),自动并且动态地绑定后端的 Pod,所有的网络请求直接访问 Service 的虚拟 ip,Service 会自动向后端做转发。
Service 除了提供稳定的对外访问方式之外,还能起到负载均衡(Load Balance)的功能,自动把请求流量分布到后端所有的服务上,Service 可以做到对客户透明地进行水平扩展(scale)。
而实现 service 这一功能的关键,就是 kube-proxy。kube-proxy 运行在每个节点上,监听 API Server 中服务对象的变化, 可通过以下三种流量调度模式: userspace(废弃)、iptables(较userspace模式效率更高,但不能提供灵活的LB策略)、ipvs(推荐,性能最好)来实现网络的转发。
iptables模式下的负载均衡,是靠不同的iptables规则,通过百分比的形式去进行流量分摊的。
ipvs模式下的负载均衡,是通过负载调度规则实现,通过不同的负载均衡算法去进行流量分摊的。
Service 是 K8S 服务的核心,屏蔽了服务细节,统一对外暴露服务接口。比如我们的一个服务 A,部署了 3 个副本,也就是 3 个 Pod; 对于用户来说,只需要关注一个 Service 的入口就可以,而不需要操心究竟应该请求哪一个 Pod。
优势非常明显:一方面外部用户不需要感知因为 Pod 上服务的意外崩溃、K8S 重新拉起 Pod 而造成的 IP 变更, 外部用户也不需要感知因升级、变更服务带来的 Pod 替换而造成的 IP 变化。
●Ingress
Service 主要负责 K8S 集群内部的网络拓扑,那么集群外部怎么访问集群内部呢?这个时候就需要 Ingress 了。Ingress 是整个 K8S 集群的接入层,负责集群内外通讯。
Ingress 是 K8S 集群里工作在 OSI 网络参考模型下,第7层的应用,对外暴露的接囗,典型的访问方式是 http/https。
Service 只能进行第四层的流量调度,表现形式是 ip+port。Ingress 则可以调度不同业务域、不同URL访问路径的业务流量。
比如:客户端请求 http://www.kgc.com:port ---> Ingress ---> Service ---> Pod
●Volume
Volume表示存储卷,Pod访问文件系统的抽象层,具体的后端存储可以是本地存储、NFS网络存储、云存储以及分布式存储等。
声明在Pod中容器可以访问的文件系统;
可以被挂载在Pod中一个或多个容器的指定路径下;
支持多种后端储存。
●Name
由于 K8S 内部,使用 “资源” 来定义每一种逻辑概念(功能),所以每种 “资源”,都应该有自己的 “名称”。
“资源” 有 api 版本(apiversion)、类别(kind)、元数据(metadata)、定义清单(spec)、状态(status)等配置信息。
“名称” 通常定义在 “资源” 的 “元数据” 信息里。在同一个 namespace 空间中必须是唯一的。
●Namespace
随着项目增多、人员增加、集群规模的扩大,需要一种能够逻辑上隔离 K8S 内各种 “资源” 的方法,这就是 Namespace。
Namespace 是为了把一个 K8S 集群划分为若干个资源不可共享的虚拟集群组而诞生的。
不同 Namespace 内的 “资源” 名称可以相同,相同 Namespace 内的同种 “资源”,“名称” 不能相同。
合理的使用 K8S 的 Namespace,可以使得集群管理员能够更好的对交付到 K8S 里的服务进行分类管理和浏览。
K8S 里默认存在的 Namespace 有:default、kube-system、kube-public 等。
查询 K8S 里特定 “资源” 要带上相应的 Namespace。