Kubernetes基本概念

Kubernetes(通常称为K8s，K8s是将8个字母“ubernete”替换为“8”的缩写)是一个以容器为中心的基础架构，可以实现在物理集群或虚拟机集群上调度和运行容器，提供容器自动部署、扩展和管理的开源平台。满足了应用程序在生产环境中的一些通用需求：应用实例副本、水平自动扩展、命名与发现、负载均衡、滚动升级、资源监控等。

Kubernetes 是一个可移植、可扩展的开源平台，用于管理容器化工作负载和服务，有助于声明式配置和自动化。它拥有庞大且快速发展的生态系统。

kubernetes，是一个全新的基于容器技术的分布式架构领先方案，是谷歌严格保密十几年的秘密武器----Borg系统的一个开源版本，于2014年9月发布第一个版本，2015年7月发布第一个正式版本。

1.2 kubernetes有什么好处

kubernetes是一个容器的编排工具，可以去高效、批量的管理容器

k8s的优点：

快速部署功能：定义对应的charts，可以方便把大型的应用部署上去。

智能的缩扩容机制：部署时候会自动去考虑容器应该部署在哪个服务器上，以及副本的数量可以自定义。

自愈功能：某个节点的服务崩溃了，可以自动迁移到另外一个服务器节点来恢复来实现高可用。

智能的负载均衡：利用Ingress，可以实现流量通过域名访问进来时候，进行流量的分流到不同服务器上。

智能的滚动升降级：升级或者降级时候，会逐个替换，当自定义数量的服务升级OK后，才会进行

其他的升级以及真正销毁旧的服务。

1.3 kubernetes的特性

1. 轻量级

使用go语言；一种编译型语言，语言级别支持进程管理，不需要人为控制，所以以go开发的资源消耗占用资源小。

一些解释性语言:例如Python/Javascript / Perl /Shell，效率较低，占用内存资源较多

2. 开源

3. 自我修复

在节点故障时重新启动失败的容器，替换和重新部署，保证预期的副本数量;杀死健康检查失败的容器，并且在未准备好之前不会处理客户端请求,确保线上服务不中断。

即对异常状态的容器进行重启或重建（先删除、再创建），目的是保证业务线不中断。

4. 弹性伸缩

使用命令 UI 或者基于CPU使用情况自动快速扩容和缩容应用程序实例，保证应用业务高峰并发时的高可用性;业务低峰时回收资源,以最小成本运行服务。

伸缩:扩容和缩容
弹性:人为只要指定规则，满足条件时，就会自动触发扩容或缩容的操作

5. 服务发现和负载均衡

K8S为多个pod提供一个统一访问入口(内部IP地址和一个DNS名称)，并且负载均衡关联的所有容器，使得用户无需考虑容器IP问题。

服务发现：服务可以通过自动发现的形式找到它所依赖的服务

负载均衡：如果一个服务起动了多个容器，能够自动实现请求的负载均衡

6. 版本回退

如果发现新发布的程序版本有问题，可以立即回退到原来的版本

7. 存储编排

挂载外部存储系统，无论是来自本地存储，公有云（如AWS)，还是网络存储〈如NES、GlusterFS、Ceph）都作为集群资源的一部分使用，极大提高存储使用灵活性。

支持外挂存储并对外挂存储资源进行编排

8. 批处理

提供一次性任务（job），定时任务（cronjob）；满足批量数据处理和分析的场景

9. 自动部署和回滚

KBS采用滚动更新策略更新应用，一次更新一个Pod，而不是同时删除所有Pod，如果更新过程中出现问题，将回滚更改，确保升级不受影响业务。

10. 机密和配置管理 (secret——》安全/认证加密性的数据)

管理机密数据和应用程序配置，而不需要把敏感数据暴露在镜像里，提高敏感数据安全性。并可以将一些常用的配置存储在K8S中，方便应用程序使用。

二、kubernetes的组件和集群架构

2.1 kubernetes的组件

K8S是属于主从设备模型(Master-slave 架构)，即有Master 节点负责集群的调度、管理和运维，Slave 节点是集群中的运算工作负载节点。

在K8S中，主节点一般被称为Master 节点，而从节点则被称为Worker Node节点，每个Node都会被Master分配一些工作负载。
Master组件可以在群集中的任何计算机上运行，但建议Master节点占据一个独立的服务器。因为Master是整个集群的大脑，如果Master所在节点宕机或不可用，那么所有的控制命令都将失效。除了Master, 在K8S集群中的其他机器被称为Worker Node节点，当某个Node宕机时，其上的工作负载会被Master自动转移到其他节点上去。

2.1.1 master的组件

master：是k8s集群的控制平面，负责集群的决策和管理

①kube-apiserver

用于去暴露kubernetes API，任何资源请求或调用操作多是通过kube-apiserver提供的接口进行。

以HTTP Restful API提供接口服务，所有对象资源的增删改查和监听操作都交给api server 处理后提交给ETCD存储

总结：API server是k8s的请求入口服务，负责接收k8s所有请求，然后去通知其他组件干活。可以说API server就是kubernetes集群架构的大脑

②kube-controller-manager（控制器管理中心-定义资源类型）

运行管理控制器，是k8s集群中处理常规任务的后台线程，是k8s集群里所有资源对象的自动化控制中心

在k8s集群中，一个资源对应一个控制器，而controller manager就是去负责管理这些控制器的

由一系列控制器组成，通过API Server监控整个集群的状态，并确保集群处于预期的工作状态，比如当某个Node意外宕机时，Controller Manager会及时发现并执行自动化修复流程，确保集群始终处于预期的工作状态。

③ kube-scheduler

根据调度算法（预选/优选的策略）为新创建的pod选择一个node节点，可以任意部署，可以部署在同一个节点上，也可以部署在不同的节点上。

可以理解成k8s所有node节点的调度器。当用户要部署服务时，scheduler会根据调度算法选择最合适的node节点来部署pod

API Server 接收到请求创建一批Pod，API Server 会让Controller-manager 按照所预设的模板去创建Pod，Controller-manager 会通过API Server去找Scheduler 为新创建的Pod选择最适合的Node 节点。比如运行这个Pod需要2C4G 的资源，Scheduler 会通过预算策略在所有Node节点中挑选最优的。Node 节点中还剩多少资源是通过汇报给API Server 存储在etcd 里，API Server 会调用一个方法找到etcd 里所有Node节点的剩余资源，再对比Pod 所需要的资源，在所有Node 节点中查找哪些Node节点符合要求。

如果都符合，预算策略就交给优选策略处理，优选策略再通过CPU的负载、内存的剩余量等因素选择最合适的Node 节点，并把Pod调度到这个Node节点上运行。

controller manager会通过API Server通知kubelet去创建pod，然后通过kube-proxy中的service对外提供服务接口。（node组件）

④ETCD存储中心

用于保存集群状态数据，比如pod、service等对象信息

k8s中仅api server 才具备读写权限，其他组件必须通过api server的接口才能读写数据

PS:etcd V2版本:数据保存在内存中
v3版本:引入本地volume卷的持久化（可根据磁盘进行恢复),服务发现，分布式（方便扩容，缩容）
etcd是一种定时全量备份+持续增量备份的持久化方式，最后存储在磁盘中
但kubernetes 1.11版本前不支持v3,我用的事K8S 1.15
ETCD一般会做为3副本机制(奇数方式)，分布在三台master上(也有的公司单独用服务器部署ETCD )
master：奇数的方式部署（多节点的时候)

⑤AUTH 认证模块

k8s内部支持使用RBAC认证的方式进行认证

⑥cloud-controller-manager

云控制器管理器是指嵌入特定云的控制逻辑的控制平面组件。云控制器管理器允许您链接集群到云提供商的应用编程接口中，并把和该云平台交互的组件与只和您的集群交互的组件分离开。
cloud-controller-manager 仅运行特定于云平台的控制回路。如果你在自己的环境中运行 Kubernetes，或者在本地计算机中运行学习环境，所部署的环境中不需要云控制器管理器。
与 kube-controller-manager 类似，cloud-controller-manager 将若干逻辑上独立的控制回路组合到同一个可执行文件中，供你以同一进程的方式运行。你可以对其执行水平扩容（运行不止一个副本）以提升性能或者增强容错能力。

下面的控制器都包含对云平台驱动的依赖：
– ● 节点控制器（Node Controller）: 用于在节点终止响应后检查云提供商以确定节点是否已被删除
– ● 路由控制器（Route Controller）: 用于在底层云基础架构中设置路由
– ● 服务控制器（Service Controller）: 用于创建、更新和删除云提供商负载均衡器

2.1.2 node的组件

①kubelet

kubelet是master在node节点上的agent，管理本机运行容器的生命周期，例如创建容器、pod关在数据卷、下载secret、获取容器和节点状态等等。

②kube-proxy（四层）

在node节点上实现pod网络代理，维护网络规则、pod之间通信和四层负载均衡工作。默认会写入规则至iptables，目前支持IPVS和namespaces

2.1.3 流程

K8S 创建Pod 流程：

kubectl 创建一个Pod（在提交时，转化为json格式）

1.首先经过auth认证（鉴权），然后传递给api-server进行处理

2.api-server 将请求信息提交给etcd
3.scheduler和controller-manager 会watch（监听） api-server ，监听请求
4.在scheduler 和controller-manager监听到请求后，scheduler 会提交给api-server一个list清单——》包含的是获取node节点信息
5.此时api-server就会向etcd获取后端node节点信息，获取到后，被scheduler watch到，然后进行预选优选进行打分，最后将结果给与api-server
6.此时api-server也会被controller-manager watch（监听） controller-manager会根据请求创建Pod的配置信息（需求什么控制器）将控制器资源给与api-server
7.此时api-server 会提交list清单给与对应节点的kubelet（代理）
8.kubelet代理通过K8S与容器的接口（例如containerd）进行交互，假设是docker容器，那么此时kubelet就会通过dockershim 以及runc接口与docker的守护进程docker-server进行交互，来创建对应的容器，再生成对应的Pod
9.kubelet 同时会借助于metrics server 收集本节点的所有状态信息，然后再提交给api-server
10.最后api-server会提交list清单给与etcd来存储（最后api-server会将数据维护在etcd中）

2.2 k8s的工作流程

下面，以部署一个nginx服务来说明kubernetes系统各个组件调用关系：

1. 首先要明确，一旦kubernetes环境启动之后，master和node都会将自身的信息存储到etcd数据库中
2. 一个nginx服务的安装请求会首先被发送到master节点的apiServer（资源操作的唯一入口）组件
3. apiServer组件会调用scheduler组件(负责集群资源调度)来决定到底应该把这个服务安装到哪个node节点上，在此时，它会从etcd中读取各个node节点的信息，然后按照一定的算法进行选择，并将结果告知apiServer
4. apiServer调用controller-manager(负责维护集群的状态)去调度Node节点安装nginx服务
5. kubelet(负责维护容器的生命周期)接收到指令后，会通知docker，然后由docker来启动一个nginx的pod，pod是kubernetes的最小操作单元，容器必须跑在pod中至此，
6. 一个nginx服务就运行了，如果需要访问nginx，就需要通过kube-proxy(负责提供集群内部的服务发现和负载均衡)来对pod产生访问的代理

三、kubernetes核心的概念

kubernetes包含多种类型的资源对象：pod、label、service、replication controller等

所有的资源对象都可以通过Kubernetes 提供的kubectl 工具进行增、删、改、查等操作，并将其保存在etcd 中持久化存储。
Kubernets其实是一个高度自动化的资源控制系统，通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异，来实现自动控制和自动纠错等高级功能。

3.1 pod

pod是k8s创建的基本单位，一个pod代表集群上正在运行的一个进程

一个pod有一个或者多个容器组成，pod中容器共享网络、存储和资源。在同一台docker主机上运行

一个Pod里可以运行多个容器，又叫边车模式(SideCara) 模式。而在生产环境中一般都是单个容器或者具有强关联互补的多个容器组成一个Pod。

同一个Pod 之间的容器可以通过localhost 互相访问，并且可以挂载Pod 内所有的数据卷;但是不同的Pod之间的容器不能用localhost访问，也不能挂载其他Pod的数据卷。

3.1.1 pod的容器分类

Pod 中的容器又能分三类：基础容器（pause）；初始化容器；应用容器。

1. pause 基础容器

维护整个Pod网络和存储空间
启动一个容器时，k8s会自动启动一个基础容器
//node 节点中操作
//启动一个容器时，k8s会自动启动一个基础容器

2. init 初始化容器（initcontainers)

Init 容器必须在应用程序容器启动之前运行完成，如果有多个 Init 容器，是串行启动。而应用程序容器是并行运行的，所以 Init容器能够提供了一种简单的阻塞或延迟应用容器的启动的方法。

Init 容器与普通的容器非常像，除了以下两点：

Init 容器总是运行到成功完成为止
每个Init 容器都必须在下一个 Init 容器启动之前成功完成
如果 Pod的 Init 容器失败，k8s 会不断地重启该 Pod，直到 Init 容器成功为止。然而，如果 Pod对应的重启策略（restartPolicy）为 Never，它不会重新启动。

3. 业务容器（Maincontainer）

并行启动
pod 里的容器会共享哪些网络：net , uts，ipc，namespace

3.1.2 pod的控制器

pod控制器是pod启动的一种模板，用于保证在k8s里启动的pod按照用户的预期运行(副本数、生命周期、健康状态检查等)

k8s中提供了许多的pod控制器，常用的有：

①Deployment（无状态应用部署）

它的作用是管理和控制pod和replicaset，管控它们运行在用户期望的状态中

从K8S使用者角度来看，用户会直接操作Deployment 部署服务，而当Deployment 被部署的时候，K8S 会自动生成要求的ReplicaSet和Pod。用户只需要关心Deployment 而不操心ReplicaSet。
资源对象Replication Controller 是ReplicaSet 的前身，官方推荐用Deployment 取代Replication Controller 来部署服务。

②repliacaset

确保预期的pod副本数量。replicaset的作用就是管理和控制pod，管控他们。repliacaset受控于deployment

③Daemonset

确保所有节点运行同一类pod，保证每个节点上都会有个deployment取代repliaction controller来部署服务

④Stateefulset（有状态应用部署）

⑤job

一次性任务，根据用户的设置，job管理的pod把任务完成后就会自动退出

⑥cronjob

周期性计划任务

注意：

pod控制器分为有状态和无状态的

①有状态：

1.实例之间有差别，每个实例都有自己的独特性，元数据不同，例如etcd，zookeeper
2.实例之间不对等的关系，以及依靠外部存储的应用

②无状态：

1.deployment认为所有的pod都是一样的
2.不用考虑顺序的要求
3.不用考虑在哪个node节点上运行
4.可以随意扩容和缩容

总结一下：Pod被ReplicaSet管理，ReplicaSet控制pod的数量；ReplicaSet被Deployment管理，Deployment控制pod应用的升级、回滚，当然也能控制pod的数量。Service提供一个统一固定入口，负责将前端请求转发给Pod。

3.2 label

标签，是k8s中便于分类管理资源对象

Label可以附加到各种资源对象.上，例如Node、Pod、Service、 RC等，用于关联对象、查询和筛选。

一个Label 是一个key-value 的键值对，其中key 与value 由用户自己指定。

一个资源对象可以定义任意数量的Label，同一个Label也可以被添加到任意数量的资源对象中，也可以在对象创建后动态添加或者删除。

可以通过给指定的资源对象捆绑一个或多个不同的Label，来实现多维度的资源分组管理功能。

与Label 类似的，还有Annotation (注释)

区别在于有效的标签值必须为63个字符或更少，并且必须为空或以字母数字字符( [a-z0-9A-Z])开头和结尾，中间可以包含横杠(-)、下划线(_)、点(.)和字母或数字。注释值则没有字符长度限制。

3.2.1 label的选择器（label selector）

给某个资源对象定义一个label，就相当于给它打了一个标签，随后可以通过标签选择器查询和筛选拥有某些label的资源对象

3.3 service

在k8s集群中，虽然每个pod都会被分配到一个单独的IP地址，但是由于pod是有生命周期的（他们可以被创建，而且销毁之后不会再启动），随时可能会因为业务而变更，导致这个IP地址会随着销毁而消失，而service就是用于解决这个问题的核心概念

K8S中的Service并不是我们常说的“服务"的含义，而更像是网关层，可以看作一组提供相同服务的Pod的对外访问接口、流量均衡器。

Service作用于哪些Pod是通过标签选择器来定义的。
在K8S集群中，service 可以看作一组提供相同服务的Pod的对外访问接口。客户端需要访问的服务就是service对象。每个service都有一个固定的虛拟ip (这个ip也被称为Cluster IP) ，自动并且动态地绑定后端的Pod，所有的网络请求直接访问Service 的虚拟ip,service会自动向后端做转发。
Service除了提供稳定的对外访问方式之外，还能起到负载均衡(Load Balance)的功能，自动把请求流量分布到后端所有的服务.上，Service可以做到对客户透明地进行水平扩展(scale)。
而实现service 这一功能的关键，就是kube-proxy。 kube-proxy 运行在每个节点上，监听API Server 中服务对象的变化，
可通过以下三种流量调度模式:

userspace (废弃)、iptables ( 濒临废弃)、ipvs (推荐，性能最好)来实现网络的转发。

Service 是K8S服务的核心，屏蔽了服务细节，统一对外暴露服务接口，真正做到了“微服务”。比如我们的一个服务A，部署了3个副本，也就是3个Pod;
对于用户来说，只需要关注一个Service 的入口就可以，而不需要操心究竞应该请求哪一个Pod。
优势非常明显:一方面外部用户不需要感知因为Pod. 上服务的意外崩溃、K8S重新拉起Pod 而造成的IP变更，外部用户也不需要感知因升级、变更服务带来的Pod替换而造成的IP变化。

3.4 ingress

Service主要负责K8S集群内部的网络拓扑，那么集群外部怎么访问集群内部呢?这个时候就需要Ingress 了。Ingress 是整个K8S集群的接入层，负责集群内外通讯。

Ingress是K8S 集群里工作在oSI网络参考模型下，第7层的应用，对外暴露的接口，典型的访问方式是http/https.

Service只能进行第四层的流量调度，表现形式是iptport。 Ingress 则可以调度不同业务域、不同URL访问路径的业务流量。

比如:客户端请求http://www. kgc。com:port ---> Ingress ---> Service ---> Pod

3.5 name

由于K8S内部，使用“资源”来定义每一种逻辑概念(功能)，所以每种“资源”，都应该有自己的“名称”。
“资源”有api 版本(apiversion) 、类别(kind) 、元数据(metadata) 、定义清单(spec) 、状态(status) 等配置信息。
“名称”通常定义在“资源”的“元数据”信息里。在同一个namespace 空间中必须是唯一的。

3.6 namespace

随着项目增多、人员增加、集群规模的扩大，需要一.种能够逻辑.上隔离K8S内各种“资源”的方法，这就是Namespace 。

Namespace是为了把一个K8S集群划分为若干个资源不可共享的虚拟集群组而诞生的。

不同Namespace 内的“资源”名称可以相同，相同Namespace 内的同种“资源”，“名称”不能相同。
合理的使用K8S的Namespace，可以使得集群管理员能够更好的对交付到K8S里的服务进行分类管理和浏览。

K8S里默认存在的Namespace 有: default、kube-system、kube-public等。
查询K8S里特定“资源”要带上相应的Namespace.

四、kubernetes集群的搭建

目前部署k8s集群主要有两种方式：

①kubeadm

Kubeadm 是一个K8s 部署工具，提供 kubeadm init 和 kubeadm join，用于快速部署Kubernetes 集群。

官方地址：https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/

②二进制

从github 下载发行版的二进制包，手动部署每个组件，组成Kubernetes 集群。

Kubeadm 降低部署门槛，但屏蔽了很多细节，遇到问题很难排查。如果想更容易可控，推荐使用二进制包部署Kubernetes 集群，虽然手动部署麻烦点，期间可以学习很多工作原理，也利于后期维护。

4.1 搭建的环境

角色

IP地址

组件

master

192.168.58.88

docker，kubectl，kubeadm，kubelet

node01

192.168.58.99

docker，kubectl，kubeadm，kubelet

node02

192.168.58.100

docker，kubectl，kubeadm，kubelet

4.2 环境初始化

4.2.1 检查操作系统的版本

# 此方式下安装kubernetes集群要求Centos版本要在7.5或之上
[root@master ~]# cat /etc/redhat-release

4.2.2 主机域名解析

# 主机名成解析编辑三台服务器的/etc/hosts文件，添加下面内容
192.168.58.88 master
192.168.58.99 node01
192.168.58.100 node02

4.2.3 时间同步

kubernetes要求集群中的节点时间必须精确一直，这里使用chronyd服务从网络同步时间

企业中建议配置内部的会见同步服务器

# 启动chronyd服务
[root@master ~]# systemctl start chronyd
[root@master ~]# systemctl enable chronyd
[root@master ~]# date

4.2.4 禁用iptables和firewalld

kubernetes和docker 在运行的中会产生大量的iptables规则，为了不让系统规则跟它们混淆，直接关闭系统的规则

# 1 关闭firewalld服务
[root@master ~]# systemctl stop firewalld
[root@master ~]# systemctl disable firewalld
# 2 关闭iptables服务
[root@master ~]# systemctl stop iptables
[root@master ~]# systemctl disable iptables

4.2.5 禁用selinux

selinux是linux系统一下的一个安全服务，如果不关闭它，在安装集群中会产生各种各样的奇葩问题

# 编辑 /etc/selinux/config 文件，修改SELINUX的值为disable
# 注意修改完毕之后需要重启linux服务
SELINUX=disabled

4.2.6 禁用swap分区

swap分区值的是虚拟内存分区，它的作用是物理内存使用完，之后将磁盘空间虚拟成内存来使用，启用sqap设备会对系统的性能产生非常负面的影响，因此kubernetes要求每个节点都要禁用swap设备

# 编辑分区配置文件/etc/fstab，注释掉swap分区一行
# 注意修改完毕之后需要重启linux服务
vim /etc/fstab
注释掉 /dev/mapper/centos-swap swap
# /dev/mapper/centos-swap swap

swapoff -a # 临时关闭
sed -ri 's/.*swap.*/#&/' /etc/fstab #永久关闭

free -g #验证，swap 必须为 0；

4.2.7 修改linux内核参数

# 修改linux的内核采纳数，添加网桥过滤和地址转发功能
# 编辑/etc/sysctl.d/kubernetes.conf文件，添加如下配置：
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_forward = 1

# 重新加载配置
[root@master ~]# sysctl -p 或者 sysctl --system # 生效
# 加载网桥过滤模块
[root@master ~]# modprobe br_netfilter
# 查看网桥过滤模块是否加载成功
[root@master ~]# lsmod | grep br_netfilter

4.2.8 配置ipvs功能

在Kubernetes中Service有两种带来模型，一种是基于iptables的，一种是基于ipvs的两者比较的话，ipvs的性能明显要高一些，但是如果要使用它，需要手动载入ipvs模块

# 1.安装ipset和ipvsadm
[root@master ~]# yum install ipset ipvsadmin -y
# 2.添加需要加载的模块写入脚本文件
[root@master ~]# cat <<EOF> /etc/sysconfig/modules/ipvs.modules
#!/bin/bash
modprobe -- ip_vs
modprobe -- ip_vs_rr
modprobe -- ip_vs_wrr
modprobe -- ip_vs_sh
modprobe -- nf_conntrack_ipv4
EOF
# 3.为脚本添加执行权限
[root@master ~]# chmod +x /etc/sysconfig/modules/ipvs.modules
# 4.执行脚本文件
[root@master ~]# /bin/bash /etc/sysconfig/modules/ipvs.modules
# 5.查看对应的模块是否加载成功
[root@master ~]# lsmod | grep -e -ip_vs -e nf_conntrack_ipv4
nf_conntrack_ipv4 15053 10
nf_defrag_ipv4 12729 1 nf_conntrack_ipv4
nf_conntrack 133095 10 ip_vs,nf_nat,nf_nat_ipv4,nf_nat_ipv6,xt_conntrack,nf_nat_masquerade_ipv4,nf_nat_masquerade_ipv6,nf_conntrack_netlink,nf_conntrack_ipv4,nf_conntrack_ipv6

4.2.9 安装kubernetes组件

# 1、由于kubernetes的镜像在国外，速度比较慢，这里切换成国内的镜像源
# 2、编辑/etc/yum.repos.d/kubernetes.repo,添加下面的配置
cat <<EOF > /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF
[root@k8s-node1 ~]# yum makecache
# 3、安装kubeadm、kubelet和kubectl
[root@master ~]# yum install --setopt=obsoletes=0 kubelet-1.19.4 kubeadm-1.19.4 kubectl-1.19.4 -y

# 4、配置kubelet的cgroup
#编辑/etc/sysconfig/kubelet, 添加下面的配置
KUBELET_CGROUP_ARGS="--cgroup-driver=systemd"
KUBE_PROXY_MODE="ipvs"

# 5、设置kubelet开机自启
[root@master ~]# systemctl enable --now kubelet
# 6、查看是否安装成功
yum list installed | grep kubelet
yum list installed | grep kubeadm
yum list installed | grep kubectl

准备集群镜像

# 在安装kubernetes集群之前，必须要提前准备好集群需要的镜像，所需镜像可以通过下面命令查看
[root@master ~]# kubeadm config images list

# 下载镜像
# 此镜像kubernetes的仓库中，由于网络原因，无法连接，下面提供了一种替换方案
images=(
   kube-apiserver:v1.19.16
   kube-controller-manager:v1.19.16
   kube-scheduler:v1.19.16
   kube-proxy:v1.19.16
   pause:3.1
   etcd:3.4.3-0
   coredns:1.6.5
)

for imageName in ${images[@]};do
   docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName
   docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName k8s.gcr.io/$imageName
   docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName
done

集群初始化（master上执行）

# 创建集群
[root@master ~]# kubeadm init \
   --apiserver-advertise-address=192.168.58.88 \
   --image-repository registry.aliyuncs.com/google_containers \
   --kubernetes-version=v1.19.4 \
   --service-cidr=10.96.0.0/12 \
   --pod-network-cidr=10.244.0.0/16 \
--ignore-preflight-errors=all

--apiserver-advertise-address 集群通告地址
--image-repository 由于默认拉取镜像地址k8s.gcr.io国内无法访问，这里指定阿里云镜像仓库地址
--kubernetes-version K8s版本，与上面安装的一致
--service-cidr 集群内部虚拟网络，Pod统一访问入口
--pod-network-cidr Pod网络，与下面部署的CNI网络组件yaml中保持一致
#####################################################################

# 创建必要文件，拷贝k8s认证文件
[root@master ~]# mkdir -p $HOME/.kube
[root@master ~]# sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
[root@master ~]# sudo chown $(id -u):$(id -g) $HOME/.kube/config

在node节点上操作

把在master节点上复制的在node上执行

扩展：默认token有效期为24小时，当过期之后，该token就不可用了。这时就需要重新创建token，可以直接使用命令快捷生成：

kubeadm token create --print-join-command

4.3 查看node节点的信息

kubectl get nodes 查看的时候所有的节点是NotReady状态。

4.4 安装网络插件（CNI）

下面两种插件二选一，master上执行，如果是云服务器建议按照flannel，calico可能会和云网络环境有冲突

4.4.1 安装flannel插件（轻量级用于快速搭建使用，初学推荐）

下载yaml文件

wget https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

修改net-conf.json下面的网段为上面init pod-network-cidr的网段地址（必须正确否则会导致集群网络问题）

sed -i 's/10.240.0.0/10.244.0.0/' kube-flannel.yml

修改完安装插件，执行

kubectl apply -f kube-flannel.yml

kubectl get pods -n kube-system

4.4.2 安装calico插件（用于复杂网络环境）

下载yaml文件

wget https://docs.projectcalico.org/v3.9/manifests/calico.yaml

修改配置文件的网段为上面init pod-network-cidr的网段地址（必须正确否则会导致集群网络问题）

sed -i 's/192.168.0.0/10.244.0.0/g' calico.yaml

修改完安装插件，执行

kubectl apply -f calico.yaml

确认一下calico是否安装成功（耐心等待,coredns和calico为Running状态后再进行后面的操作）
kubectl get pods --all-namespaces -w

kubectl get pod --all-namespaces -o wide

在node节点上打上node标签

4.5 集群测试

4.5.1 创建一个nginx服务

kubectl create deployment nginx --image=nginx

4.5.2 暴露端口

[root@k8s-master1 ~]# kubectl expose deployment nginx --port=80 --type=NodePort
service/nginx exposed

4.5.3 查看服务

kubectl get pod，svc

五、k8s常用命令

查看pod，service，endpoints，secret等等的状态

kubectl get 组件名
# 例如kubectl get pod 查看详细信息可以加上-o wide 其他namespace的指定 -n namespace名

创建、变更一个yaml文件内资源，也可以是目录，目录内包含一组yaml文件（实际使用中都是以yaml文件为主，直接使用命令创建pod的很少，推荐多使用yaml文件）

kubectl apply -f xxx.yaml
# 例如kubectl apply -f nginx.yaml 这里是如果没有则创建，如果有则变更，比create好用
删除一个yaml文件内资源，也可以是目录，目录内包含一组yaml文件

kubectl delete -f xxx.yaml
# 例如kubectl delete -f nginx.yaml
查看资源状态，比如有一组deployment内的pod没起来，一般用于pod调度过程出现的问题排查

kubectl describe pod pod名
# 先用kubectl get pod查看有异常的复制pod名使用这个命令
查看pod日志，用于pod状态未就绪的故障排查

kubectl logs pod名
# 先用kubectl get pod查看有异常的复制pod名使用这个命令
查看node节点或者是pod资源（cpu，内存资源）使用情况

kubectl top 组件名
# 例如kubectl top node kubectl top pod
进入pod内部

kubectl exec -ti pod名 /bin/bash
# 先用kubectl get pod查看有需要的复制pod名使用这个命令

总结

kubernetes的本质是一组服务器集群，它可以在集群的每个节点上运行特定的程序，来对节点中的容器进行管理。目的是实现资源管理的自动化，主要提供了如下的主要功能：

自我修复：一旦某一个容器崩溃，能够在1秒中左右迅速启动新的容器
弹性伸缩：可以根据需要，自动对集群中正在运行的容器数量进行调整
服务发现：服务可以通过自动发现的形式找到它所依赖的服务
负载均衡：如果一个服务起动了多个容器，能够自动实现请求的负载均衡
版本回退：如果发现新发布的程序版本有问题，可以立即回退到原来的版本
存储编排：可以根据容器自身的需求自动创建存储卷
Kubernetes核心组件

Kubernetes Master是集群的主要控制单元，用于管理其工作负载并指导整个系统的通信。Kubernetes控制平面由各自的进程组成，每个组件都可以在单个主节点上运行，也可以在支持high-availability clusters的多个主节点上运行。

组件名称   作用
etcd   保存整个集群的状态；
apiserver   提供了资源操作的唯一入口，并提供认证、授权、访问控制、API注册和发现等机制；
controller manager   负责维护集群的状态，比如故障检测、自动扩展、滚动更新等；
scheduler   负责资源的调度，按照预定的调度策略将Pod调度到相应的机器上；
kubelet   负责维护容器的生命周期，同时也负责Volume（CVI）和网络（CNI）的管理；
Container runtime   负责镜像管理以及Pod和容器的真正运行(CRI);
kube-proxy   负责为Service提供cluster内部的服务发现和负载均衡；
其他组件

组件名称   作用
kube-dns   负责为整个集群提供DNS服务
Ingress Controller   为服务提供外网入口
Heapster   提供资源监控
Dashboard   提供GUI
Federation   提供跨可用区的集群
Fluentd-elasticsearch   提供集群日志采集、存储与查