【kubernetes详解07】-Pod详解之调度

桂安俊@kylinOS

已于 2022-10-14 22:07:00 修改

阅读量3.5k

点赞数 23

分类专栏： Kubernetes 文章标签： kubernetes 定向调度亲和性调度污点和容忍 Pod

于 2022-05-07 10:37:46 首次发布

本文链接：https://blog.csdn.net/qq_28903377/article/details/124624134

版权

Kubernetes 专栏收录该内容

14 篇文章 28 订阅

订阅专栏

1、NodeAffinity（节点亲和性）

2、PodAffinity（Pod亲和性）

3、PodAntiAffinity（Pod反亲和性）

四、污点和容忍

1、污点（Taints）

2、容忍（Toleration）

一、Pod调度介绍

在默认情况下，一个Pod在哪个Node节点上运行，是由Scheduler组件采用相应的算法计算出来的，这个过程是不受人工控制的。但是在实际使用中，这并不满足的需求，因为很多情况下，我们想控制某些Pod到达某些节点上，那么应该怎么做呢？这就要求了解kubernetes对Pod的调度规则，kubernetes提供了四大类调度方式：

自动调度：运行在哪个节点上完全由Scheduler经过一系列的算法计算得出
定向调度：NodeName（根据节点名调度）、NodeSelector（根据标签调度）
亲和性调度：NodeAffinity（节点亲和性）、PodAffinity（Pod亲和性）、PodAntiAffinity（Pod反亲和性）
污点（容忍）调度：Taints（node声明有污点）、Toleration（Pod声明容忍污点）

二、定向调度

定向调度，指的是利用在pod上声明nodeName或者nodeSelector，以此将Pod调度到期望的node节点上。注意，这里的调度是强制的，这就意味着即使要调度的目标Node不存在，也会向上面进行调度，只不过pod运行失败而已。

1、NodeName策略

NodeName用于强制约束将Pod调度到指定的Name的Node节点上。这种方式，其实是直接跳过Scheduler的调度逻辑，直接将Pod调度到指定名称的节点。

接下来，实验一下：创建一个pod-nodename.yaml文件：

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodename
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  nodeName: node1 # 指定调度到node1节点上，注意此字段是pod属性，所以和containers在同一列

【补充】：kubectl集群节点名nodeName称可以通过kubectl get nodes查看

创建并观察pod：

kubectl create -f pod-nodename.yaml

kubectl get pods pod-nodename -n dev -o wide

接下来，删除pod，修改nodeName的值为node3（并没有node3节点）：

kubectl delete -f pod-nodename.yaml

vim pod-nodename.yaml    #修改yaml，将调度节点由node1改为node3（实际没有node3节点）

kubectl create -f pod-nodename.yaml

kubectl get pods pod-nodename -n dev -o wide

如上图，发现已经向node3节点调度，但是由于不存在node3节点，所以pod无法正常运行。

2、NodeSelector策略

NodeSelector用于将pod调度到添加了指定标签的node节点上。它是通过kubernetes的label-selector机制实现的，也就是说，在pod创建之前，会由scheduler使用MatchNodeSelector调度策略进行label匹配，找出目标node，然后将pod调度到目标节点，该匹配规则是强制约束。简单的说就是给kubectl集群的node节点打上标签，然后调度器将pod调度到指定标签的node上。

接下来，实验一下：

（1）、首先分别为node节点添加标签

# 在master节点执行，给node1和node2打上标签
kubectl label nodes node1 nodeenv=pro

kubectl label nodes node2 nodeenv=test

查看node标签：

kubectl get nodes --show-labels

（2）、创建一个pod-nodeselector.yaml文件，并使用它创建Pod

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodeselector
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  nodeSelector: 
    nodeenv: pro # 指定调度到具有nodeenv=pro标签的节点上

创建并观察Pod：

kubectl create -f pod-nodeselector.yaml

kubectl get pods pod-nodeselector -n dev -o wide

如上图，查看Pod调度到NODE属性，确实是调度到了node1节点上。

接下来，删除pod，修改nodeSelector的值为nodeenv: xxxx（不存在打有此标签的节点）：

kubectl delete -f pod-nodeselector.yaml

vim pod-nodeselector.yaml   #将nodeSelector.nodeenv的标签名随便换成一个不存在的，观察现象

kubectl create -f pod-nodeselector.yaml 

kubectl get pods pod-nodeselector -n dev -o wide

# 查看失败详情
kubectl describe pod pod-nodeselector -n dev

三、亲和性调度

上面介绍了两种定向调度的方式，使用起来非常方便，但是也有一定的问题，那就是如果没有满足条件的Node，那么Pod将不会被运行，即使在集群中还有可用Node列表也不行，这就限制了它的使用场景。

基于上面的问题，kubernetes还提供了一种亲和性调度（Affinity）。它在NodeSelector的基础之上的进行了扩展，可以通过配置的形式，实现优先选择满足条件的Node进行调度，如果没有，也可以调度到不满足条件的节点上，使调度更加灵活。

Affinity主要分为三类：

nodeAffinity(node亲和性）: 以node为目标，解决pod可以调度到哪些node的问题
podAffinity(pod亲和性) : 以pod为目标，解决pod可以和哪些已存在的pod部署在同一个拓扑域中的问题
podAntiAffinity(pod反亲和性) : 以pod为目标，解决pod不能和哪些已存在pod部署在同一个拓扑域中的问题

关于亲和性(反亲和性)使用场景的说明：

亲和性：如果两个应用频繁交互，那就有必要利用亲和性让两个应用的尽可能的靠近，这样可以减少因网络通信而带来的性能损耗。

反亲和性：当应用的采用多副本部署时，有必要采用反亲和性让各个应用实例打散分布在各个node上，这样可以提高服务的高可用性。

1、NodeAffinity（节点亲和性）

首先来看一下NodeAffinity的可配置项：

pod.spec.affinity.nodeAffinity
  requiredDuringSchedulingIgnoredDuringExecution  Node节点必须满足指定的所有规则才可以，相当于硬限制（找不到会调度失败）
    nodeSelectorTerms  节点选择列表
      matchFields   按节点字段列出的节点选择器要求列表
      matchExpressions   按节点标签列出的节点选择器要求列表(推荐)
        key    键
        values 值
        operator 关系符 支持Exists（存在）, DoesNotExist（不存在）, In（范围）, NotIn（范围取反）, Gt（大于）, Lt（小于）
  preferredDuringSchedulingIgnoredDuringExecution 优先调度到满足指定的规则的Node，相当于软限制 (倾向，找不到不会调度失败)
    preference   一个节点选择器项，与相应的权重相关联
      matchFields   按节点字段列出的节点选择器要求列表
      matchExpressions   按节点标签列出的节点选择器要求列表(推荐)
        key    键
        values 值
        operator 关系符 支持In, NotIn, Exists, DoesNotExist, Gt, Lt
	weight 倾向权重，在范围1-100。

关系符operator的使用说明：

关系符的使用说明:

- matchExpressions:
  - key: nodeenv              # 匹配存在标签的key为nodeenv的节点，只匹配key就行
    operator: Exists
  - key: nodeenv              # 匹配标签的key为nodeenv,且value是"xxx"或"yyy"的节点，key和value都要匹配
    operator: In
    values: ["xxx","yyy"]
  - key: nodeenv              # 匹配标签的key为nodeenv,且value大于"xxx"的节点
    operator: Gt
    values: "xxx"

a、硬限制演示

接下来首先演示一下requiredDuringSchedulingIgnoredDuringExecution（硬限制） ,

创建pod-nodeaffinity-required.yaml，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodeaffinity-required
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  affinity:  #亲和性设置
    nodeAffinity: #设置node亲和性
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
        nodeSelectorTerms:
        - matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签，实际没有设置此标签，所以会匹配失败
          - key: nodeenv
            operator: In
            values: ["xxx","yyy"]

创建并查看Pod：

kubectl create -f pod-nodeaffinity-required.yaml

kubectl get pods pod-nodeaffinity-required -n dev -o wide

如上图可以看到Pod运行失败，下面查看失败详情：

kubectl describe pod pod-nodeaffinity-required -n dev

接下来，删除无法匹配Pod，更改yaml，演示能够成功匹配的场景：

kubectl delete -f pod-nodeaffinity-required.yaml

vim pod-nodeaffinity-required.yaml   # 将values: ["xxx","yyy"]------> ["pro","yyy"]，node1标签是pro

kubectl create -f pod-nodeaffinity-required.yaml

kubectl get pods pod-nodeaffinity-required -n dev -o wide

b、软限制演示

接下来再演示一下requiredDuringSchedulingIgnoredDuringExecution（软限制） ,

创建pod-nodeaffinity-preferred.yaml，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodeaffinity-preferred
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  affinity:  #亲和性设置
    nodeAffinity: #设置node亲和性
      preferredDuringSchedulingIgnoredDuringExecution: # 软限制
      - weight: 1
        preference:
          matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签(当前环境没有)
          - key: nodeenv
            operator: In
            values: ["xxx","yyy"]

创建和查看Pod信息：

kubectl create -f pod-nodeaffinity-preferred.yaml

kubectl get pod pod-nodeaffinity-preferred -n dev

如上图可以看到，在软限制中，即使没有匹配到，pod也能成功运行。

NodeAffinity规则设置的注意事项：
1 如果同时定义了nodeSelector和nodeAffinity，那么必须两个条件都得到满足，Pod才能运行在指定的Node上
2 如果nodeAffinity指定了多个nodeSelectorTerms，那么只需要其中一个能够匹配成功即可
3 如果一个nodeSelectorTerms中有多个matchExpressions ，则一个节点必须满足所有的才能匹配成功
4 如果一个pod所在的Node在Pod运行期间其标签发生了改变，不再符合该Pod的节点亲和性需求，则系统将忽略此变化（即只在调度的时候生效，调度完就不做检查了）

2、PodAffinity（Pod亲和性）

PodAffinity主要实现以运行的Pod为参照，实现让新创建的Pod跟参照pod在一个区域的功能。

首先来看一下PodAffinity的可配置项：

pod.spec.affinity.podAffinity
  requiredDuringSchedulingIgnoredDuringExecution  硬限制
    namespaces       指定参照pod的namespace
    topologyKey      指定调度作用域
    labelSelector    标签选择器
      matchExpressions  按节点标签列出的节点选择器要求列表(推荐)
        key    键
        values 值
        operator 关系符 支持In, NotIn, Exists, DoesNotExist.
      matchLabels    指多个matchExpressions映射的内容
  preferredDuringSchedulingIgnoredDuringExecution 软限制
    podAffinityTerm  选项
      namespaces      
      topologyKey
      labelSelector
        matchExpressions  
          key    键
          values 值
          operator
        matchLabels 
    weight 倾向权重，在范围1-100

topologyKey用于指定调度时作用域,例如:
如果指定为kubernetes.io/hostname，那就是以Node节点为区分范围
如果指定为beta.kubernetes.io/os,则以Node节点的操作系统类型来区分

关于weight权重的解释：

这里weight权重的作用是，一个pod节点可以有多个软策略，每个软策略可以有不同的权重，然后根据权重由高到选择不同软策略，直到选中符合条件的节点。如果设置了多个软策略，权重价值就体现出来了。比如张三节点权重为4，先看看三节点符不符合选中条件，不符合，再看权重为3的李四节点符不符合选中条件...直到找到符合选中条件的节点。

接下来，演示下requiredDuringSchedulingIgnoredDuringExecution，

（1）首先创建一个参照Pod，pod-podaffinity-target.yaml：

apiVersion: v1
kind: Pod
metadata:
  name: pod-podaffinity-target
  namespace: dev
  labels:
    podenv: pro #设置标签
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  nodeName: node1 # 将目标pod名确指定到node1上

启动Pod：

kubectl create -f pod-podaffinity-target.yaml

kubectl get pods pod-podaffinity-target -n dev -o wide --show-labels

（2）、创建pod-podaffinity-required.yaml，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod-podaffinity-required
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  affinity:  #亲和性设置
    podAffinity: #设置pod亲和性
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
      - labelSelector:  #标签选择器
          matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签
          - key: podenv
            operator: In
            values: ["xxx","yyy"]
        topologyKey: kubernetes.io/hostname   #调度作用域，即如果匹配到，就调度到目标pod同一节点上

上面配置表达的意思是：新Pod必须要与拥有标签nodeenv=xxx或者nodeenv=yyy的pod在同一Node上，显然现在没有这样pod，接下来，运行测试一下：

kubectl create -f pod-podaffinity-required.yaml

#查看pod状态，发现未运行
kubectl get pods pod-podaffinity-required -n dev

查看详细信息：

kubectl describe pods pod-podaffinity-required -n dev

接下来修改 values: ["xxx","yyy"]----->values:["pro","yyy"]

意思是：新Pod必须要与拥有标签nodeenv=xxx或者nodeenv=yyy的pod在同一Node上

kubectl delete -f pod-podaffinity-required.yaml

# 修改  values: ["xxx","yyy"]----->values:["pro","yyy"]
vim pod-podaffinity-required.yaml

kubectl create -f pod-podaffinity-required.yaml

kubectl get pods pod-podaffinity-required -n dev

关于PodAffinity的 preferredDuringSchedulingIgnoredDuringExecution，这里不再演示。

3、PodAntiAffinity（Pod反亲和性）

PodAntiAffinity主要实现以运行的Pod为参照，让新创建的Pod跟参照pod不在一个区域中的功能。

它的配置方式和选项跟PodAffinty是一样的，这里不再做详细解释，直接做一个测试案例。

（1）继续使用上个案例中目标pod

kubectl get pods pod-podaffinity-required pod-podaffinity-target -n dev -o wide --show-labels

（2）、创建pod-podantiaffinity-required.yaml，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod-podantiaffinity-required
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  affinity:  #亲和性设置
    podAntiAffinity: #设置pod亲和性
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
      - labelSelector:
          matchExpressions: # 匹配podenv的值在["pro"]中的标签
          - key: podenv
            operator: In
            values: ["pro"]
        topologyKey: kubernetes.io/hostname

上面配置表达的意思是：新Pod必须要与拥有标签nodeenv=pro的pod不在同一Node上，运行测试一下：

kubectl create -f pod-podantiaffinity-required.yaml

kubectl get pods pod-podantiaffinity-required -n dev -o wide

如上图可以看到，已调度至node2节点。

四、污点和容忍

1、污点（Taints）

前面的调度方式都是站在Pod的角度上，通过在Pod上添加属性，来确定Pod是否要调度到指定的Node上，其实我们也可以站在Node的角度上，通过在Node上添加污点属性，来决定是否允许Pod调度过来。

Node被设置上污点之后就和Pod之间存在了一种相斥的关系，进而拒绝Pod调度进来，甚至可以将已经存在的Pod驱逐出去。

污点的格式为：key=value:effect， key和value是污点的标签，effect描述污点的作用，支持如下三个选项：

PreferNoSchedule：kubernetes将尽量避免把Pod调度到具有该污点的Node上，除非没有其他节点可调度
NoSchedule：kubernetes将不会把Pod调度到具有该污点的Node上，但不会影响当前Node上已存在的Pod
NoExecute：kubernetes将不会把Pod调度到具有该污点的Node上，同时也会将Node上已存在的Pod驱离

使用kubectl设置和去除污点的命令示例如下：

# 设置污点
kubectl taint nodes node1 key=value:effect

# 去除污点
kubectl taint nodes node1 key:effect-

# 去除所有污点
kubectl taint nodes node1 key-

接下来，演示下污点的效果：

准备节点node1（为了演示效果更加明显，暂时停止node2节点，只有master和node1节点）
为node1节点设置一个污点: tag=arvin:PreferNoSchedule；然后创建pod1( pod1 可以 )
修改为node1节点设置一个污点: tag=arvin:NoSchedule；然后创建pod2( pod1 正常 pod2 失败 )
修改为node1节点设置一个污点: tag=arvin:NoExecute；然后创建pod3 ( 3个pod都失败 )

操作步骤：

为避免干扰，先将所有历史pod删除，，可以直接删除dev namespace并重新创建，然后将node2节点从kubectl集群剔除，只保留node1和master：

kubectl delete ns dev

kubectl delete node node2

kubectl create ns dev

a、为node1设置污点（PreferNoSchedule）

kubectl taint nodes node1 tag=arvin:PreferNoSchedule

创建Pod taint1：

kubectl run taint1 --image=nginx:1.17.1 -n dev

kubectl get pods -n dev

b、为node1设置污点(取消PreferNoSchedule，设置NoSchedule)

kubectl taint nodes node1 tag:PreferNoSchedule-

kubectl taint nodes node1 tag=arvin:NoSchedule

创建Pod taint2：

kubectl run taint2 --image=nginx:1.17.1 -n dev

kubectl get pods -n dev -o wide

如上图可以看到，设置为 NoSchedule污点后，原来的Pod可以继续运行，新增的Pod无法运行。

c、为node1设置污点(取消NoSchedule，设置NoExecute)

kubectl taint nodes node1 tag:NoSchedule-

kubectl taint nodes node1 tag=arvin:NoExecute

创建Pod taint3：

kubectl run taint3 --image=nginx:1.17.1 -n dev

kubectl get pods -n dev -o wide

如上图可以看到，node1设置为NoExecute污点后，原来的和新增的Pod都无法运行了。

【小提示】：
使用kubeadm搭建的集群，默认就会给master节点添加一个污点标记，所以pod就不会调度到master节点上。

可以查看节点master节点污点信息：

# 可以看到master节点自带了一个NoSchedule污点
kubectl describe node master

2、容忍（Toleration）

上面介绍了污点的作用，我们可以在node上添加污点用于拒绝pod调度上来，但是如果就是想将一个pod调度到一个有污点的node上去，这时候应该怎么做呢？这就要使用到容忍。

污点就是拒绝，容忍就是忽略，Node通过污点拒绝pod调度上去，Pod通过容忍忽略拒绝

下面先通过一个案例看下效果：

上面污点章节，已经在node1节点上打上了NoExecute的污点，此时pod是调度不上去的
本节容忍章节，可以通过给pod添加容忍，然后将其调度上去

创建pod-toleration.yaml,内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod-toleration
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  tolerations:      # 添加容忍
  - key: "tag"        # 要容忍的污点的key
    operator: "Equal" # 操作符-等于，联系上下配置即：tag=arvin
    value: "arvin"    # 容忍的污点的value
    effect: "NoExecute"   # 添加容忍的规则，这里必须和标记的污点规则相同

查看之前未添加容忍的Pod：

kubectl get pods -n dev -o wide

创建容忍Pod pod-toleration：

kubectl create -f pod-toleration.yaml

kubectl get pods -n dev -o wide

如上图可以看到，容忍Pod可以成功调度运行到带NoExecute污点的node1上。

查看容忍的详细配置：

[root@master ~]# kubectl explain pod.spec.tolerations
......
FIELDS:
   key       # 对应着要容忍的污点的键，空意味着匹配所有的键
   value     # 对应着要容忍的污点的值
   operator  # key-value的运算符，支持Equal和Exists，默认值是Exists（存在），指的是对key键操作，配Exists就不用配value了，只匹配是否存在对应tag就行
   effect    # 对应污点的effect，空意味着匹配所有影响
   tolerationSeconds   # 容忍时间, 当effect为NoExecute时生效，表示pod在Node上的停留时间，指多长时间将赶走已存在的Pod

桂安俊@kylinOS

关注

23
点赞
踩
29

收藏

觉得还不错? 一键收藏
打赏
4
评论
【kubernetes详解07】-Pod详解之调度

一、Pod调度介绍在默认情况下，一个Pod在哪个Node节点上运行，是由Scheduler组件采用相应的算法计算出来的，这个过程是不受人工控制的。但是在实际使用中，这并不满足的需求，因为很多情况下，我们想控制某些Pod到达某些节点上，那么应该怎么做呢？这就要求了解kubernetes对Pod的调度规则，kubernetes提供了四大类调度方式：自动调度：运行在哪个节点上完全由Scheduler经过一系列的算法计算得出定向调度：NodeName（根据节点名调度）、Nod......
复制链接

扫一扫