开启Kubernetes的抢占模式

最新推荐文章于 2024-06-23 19:31:32 发布
最新推荐文章于 2024-06-23 19:31:32 发布
阅读量609 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/M2l0ZgSsVc7r69eFdTj/article/details/96781839
版权

640?wx_fmt=jpeg


Pod优先级、抢占

640?wx_fmt=png


Pod优先级、抢占功能，在Kubernetes v1.8引入，在v1.11版本进入beta状态，并在v1.14版本进入GA阶段，已经是一个成熟的特性了。
顾名思义，Pod优先级、抢占功能，通过将应用细分为不同的优先级，将资源优先提供给高优先级的应用，从而提高了资源可用率，同时保障了高优先级的服务质量。
我们先来简单使用下Pod优先级、抢占功能。
集群版本是v1.14，因此feature PodPriority默认是开启的。抢占模式的使用分为两步：

  1. 定义PriorityClass，不同PriorityClass的value不同，value越大优先级越高。

  2. 创建Pod，并设置Pod的priorityClassName字段为期待的PriorityClass。


创建PriorityClass

640?wx_fmt=png


如下，先创建两个PriorityClass：high-priority和low-priority，其value分别为1000000、10。
需要注意的是，要将low-priority的globalDefault设置为了true，因此low-priority即为集群默认的PriorityClass，任何没有配置priorityClassName字段的Pod，其优先级都将设置为low-priority的10。一个集群只能有一个默认的PriorityClass。如果没有设置默认PriorityClass，则没有配置PriorityClassName的Pod的优先级为0。 
apiVersion: scheduling.k8s.io/v1	
kind: PriorityClass	
metadata:	
  name: high-priority	
value: 1000000	
globalDefault: false	
description: "for high priority pod"	
---	
apiVersion: scheduling.k8s.io/v1	
kind: PriorityClass	
metadata:	
  name: low-priority	
value: 10	
globalDefault: true	
description: "for low priority pod"

创建后查看下系统当前的PriorityClass。 
kubectl get priorityclasses.scheduling.k8s.io	
NAME                      VALUE        GLOBAL-DEFAULT   AGE	
high-priority             1000000      false            47m	
low-priority              10           true             47m	
system-cluster-critical   2000000000   false            254d	
system-node-critical      2000001000   false            254d

可以看到，除了上面创建的两个PriorityClass，默认系统还内置了system-cluster-critical、system-node-critical用于高优先级的系统任务。
设置Pod的PriorityClassName

640?wx_fmt=png


为了方便验证，这里使用了扩展资源。为节点x1设置了扩展资源example.com/foo的容量为1。 
curl -k --header "Authorization: Bearer ${token}" --header "Content-Type: application/json-patch+json" \	
--request PATCH \	
--data '[{"op": "add", "path": "/status/capacity/example.com~1foo", "value": "1"}]' \	
https://{apiServerIP}:{apiServerPort}/api/v1/nodes/x1/status

查看下x1的allocatable和capacity，可以看到x1上有1个example.com/foo资源。 
Capacity:	
 cpu:                2	
 example.com/foo:    1	
 hugepages-2Mi:      0	
 memory:             4040056Ki	
 pods:               110	
Allocatable:	
 cpu:                2	
 example.com/foo:    1	
 hugepages-2Mi:      0	
 memory:             3937656Ki	
 pods:               110

我们先创建Deployment nginx，它会请求1个example.com/foo资源，但是我们没有设置PriorityClassName，因此Pod的优先级将是默认的low-priority指定的10。 
template:	
    spec:	
      containers:	
      - image: nginx	
        imagePullPolicy: Always	
        name: nginx	
        resources:	
          limits:	
            example.com/foo: "1"	
          requests:	
            example.com/foo: "1"

然后再创建Deployment debian，它并没有请求example.com/foo资源。 
  template:	
    spec:	
      containers:	
      - args:	
        - bash	
        image: debian	
        name: debian	
        resources:	
          limits:	
            example.com/foo: "0"	
          requests:	
            example.com/foo: "0"	
        priorityClassName: high-priority

此时两个Pod都可以正常启动。
开始抢占
我们将Deployment debian的example.com/foo请求量改为1，并将priorityClassName设置为high-priority。 
  template:	
    spec:	
      containers:	
      - args:	
        - bash	
        image: debian	
        name: debian	
        resources:	
          limits:	
            example.com/foo: "1"	
          requests:	
            example.com/foo: "1"	
        priorityClassName: high-priority

此时，由于集群中只有x1上有1个example.com/foo资源，而且debian的优先级更高，因此scheduler会开始抢占。如下是观察到的Pod过程。 
kubectl get pods -o wide -w	
NAME                      READY   STATUS    AGE     IP             NODE       NOMINATED NODE	
debian-55d94c54cb-pdfmd   1/1     Running   3m53s   10.244.4.178   x201       <none>	
nginx-58dc57fbff-g5fph    1/1     Running   2m4s    10.244.3.28    x1         <none>	
// 此时Deployment debian开始Recreate	
debian-55d94c54cb-pdfmd   1/1     Terminating   4m49s   10.244.4.178   x201       <none>	
debian-55d94c54cb-pdfmd   0/1     Terminating   5m21s   10.244.4.178   x201       <none>	
debian-55d94c54cb-pdfmd   0/1     Terminating   5m22s   10.244.4.178   x201       <none>	
debian-55d94c54cb-pdfmd   0/1     Terminating   5m22s   10.244.4.178   x201       <none>	
// example.com/foo不满足，阻塞	
debian-5bc46885dd-rvtwv   0/1     Pending       0s      <none>         <none>     <none>	
debian-5bc46885dd-rvtwv   0/1     Pending       0s      <none>         <none>     <none>	
// scheduler判断将x1上的Pod挤出后可以满足debian Pod的需求，设置NOMINATED为x1	
debian-5bc46885dd-rvtwv   0/1     Pending       0s      <none>         <none>     x1	
// sheduler开始挤出Pod nginx	
nginx-58dc57fbff-g5fph    1/1     Terminating   3m33s   10.244.3.28    x1         <none>	
// Pod nginx等待。优先级低啊，没办法。	
nginx-58dc57fbff-29rzw    0/1     Pending       0s      <none>         <none>     <none>	
nginx-58dc57fbff-29rzw    0/1     Pending       0s      <none>         <none>     <none>	
// graceful termination period，优雅退出	
nginx-58dc57fbff-g5fph    0/1     Terminating   3m34s   10.244.3.28    x1         <none>	
nginx-58dc57fbff-g5fph    0/1     Terminating   3m37s   10.244.3.28    x1         <none>	
nginx-58dc57fbff-g5fph    0/1     Terminating   3m37s   10.244.3.28    x1         <none>	
// debian NODE绑定为x1	
debian-5bc46885dd-rvtwv   0/1     Pending       5s      <none>         x1         x1	
// 抢占到资源，启动	
debian-5bc46885dd-rvtwv   0/1     ContainerCreating   5s      <none>         x1         <none>	
debian-5bc46885dd-rvtwv   1/1     Running             14s     10.244.3.29    x1         <none>

君子：Non-preempting PriorityClasses

640?wx_fmt=png


Kubernetes v1.15为PriorityClass添加了一个字段PreemptionPolicy，当设置为Never时，该Pod将不会抢占比它优先级低的Pod，只是调度的时候，会优先调度（参照PriorityClass的value）。 
apiVersion: scheduling.k8s.io/v1	
kind: PriorityClass	
metadata:	
  name: high-priority-nonpreempting	
value: 1000000	
preemptionPolicy: Never	
globalDefault: false

所以我把这种PriorityClass叫做“君子”，因为他只是默默凭本事（Priority）排队，不会强抢别人的资源。官网给出一个适合的例子是 data science workload。
对比Cluster Autoscaler

640?wx_fmt=png


云上Kubernetes在集群资源不足时，可以通过Cluster Autoscaler自动对Node扩容，即向云厂商申请更多的Node，并添加到集群中，从而提供更多资源。
但这种做法不足的地方是：

  • 云下场景不易实施

  • 增加Node要多花钱

  • 不是立即的，需要时间


如果用户能够比较明确的划分应用的优先级，在资源不足的时候通过抢占低优先级Pod的资源，可以更好的提高资源利用率、提高服务质量。
原文链接：https://ieevee.com/tech/2019/07/10/preeption.html
基于Kubernetes的DevOps实战培训

640?


基于Kubernetes的DevOps战培训将于2019年7月26日在上海开课，3天时间带你系统掌握Kubernetes，学习效果不好可以继续学习。本次培训包括：容器特性、镜像、网络；Kubernetes架构、核心组件、基本功能；Kubernetes设计理念、架构设计、基本功能、常用对象、设计原则；Kubernetes的数据库、运行时、网络、插件已经落地经验；微服务架构、组件、监控方案等， 点击下方图片或者阅读原文链接查看详情。
640?wx_fmt=jpeg
Docker_
关注
二进制方式搭建Kubernetes高可用集群（超丰富的组件概念理论总结）
江晓龙的博客
09-23 7万+
二进制方式部署Kubernetes高可用集群 文章目录二进制方式部署Kubernetes高可用集群1.环境准备1.1.Kubernetes高可用集群部署方式1.2.Kubernetes集群弃用docker容器1.3.Kubernetes集群所需的证书1.4.环境准备1.5.安装cfssl证书生成工具2.操作系统初始化配置3.部署Etcd集群3.1.使用cfssl证书工具生成etcd证书3.2.部署etcd集群4.部署Docker服务4.1.安装docker4.2.为docker创建systemctl启动脚本
图解kubernetes调度器抢占流程与算法设计
8小时_公共号:图解源码
01-20 967
抢占调度是分布式调度中一种常见的设计，其核心目标是当不能为高优先级的任务分配资源的时候，会通过抢占低优先级的任务来进行高优先级的调度，本文主要学习k8s的抢占调度以及里面的一些有趣的算法 1. 抢占调度设计 1.1 抢占原理 抢占调度原理其实很简单就是通过高优先级的pod抢占低优先级的pod资源，从而满足高优先pod的调度 1.2 中断预算 在kubernetes中为了保证服务尽可能的高可用，设计...
Kubernetes PriorityClass 高级调度能力 优先级调度/抢占调度
小楼一夜听春雨，深巷明朝卖杏花
03-24 1287
介绍完了基础调度能力之后，下面来了解一下高级调度能力。 优先级调度 优先级调度和抢占，主要概念有： Priority Preemption 首先来看一下调度过程提到的四个特点，我们如何做到集群的合理利用？ 当集群资源足够的话，只需要通过基础调度能力就能组合出合理的使用方式。 但是假如资源不够，我们怎么做到集群的合理利用呢？ 通常的策略有两类： 先到先得策略 (FIFO) -简单、相对公平，上手快 优先级策略 (Priority) - 符合日常公司业务特点 在实际生产中，如果使用先到先得策
【k8s】6.pod控制器(二)：pod拓扑分布约束，优先级与抢占，pod驱逐
最新发布
lixiaonan0318的博客
06-23 990
比如 kubelet 还来不及驱逐，Node 上的资源就被耗尽导致宕机，此时 control-plane 无法正常和该节点通信，拿不到节点上的 Pod 的状态，因此会做最坏的打算，认为这些 Pod 都挂了，因此会将该 Node 上的所有 Pod 都驱逐到其他节点重新跑起来，以保证高可用。node-eviction-rate: 驱赶 Node 的速率，由令牌桶流控算法实现，默认为 0.1，即每秒驱赶 0.1 个节点（注意这里不是驱赶 Pod 的速率，而是驱赶节点的速率，相当于每隔 10s，清空一个节点）
Kubernetes 抢占调度Preempt机制源码深入剖析-Kubernetes商业环境实战
weixin_30706691的博客
08-22 266
专注于大数据及容器云核心技术解密，可提供全栈的大数据+云原生平台咨询方案，请持续关注本套博客。如有任何学术交流，可随时联系。更多内容请关注《数据云技术社区》公众号。 1 抢占调度(预选过程+优选失败后) scheduler的cmd代码目录结构 scheduler的pkg代码目录结构 1.1 调度关系 预选调度->优选调度逻辑->节点抢占逻辑 scheduleOne实现1个p...
Kubernetes——优先级与抢占
qq_41358740的博客
01-31 677
kubernetes
k8s驱逐篇(4)-kube-scheduler抢占调度驱逐
良凯尔的博客
09-03 580
kube-scheduler抢占调度驱逐概述：当一个高优先级的 Pod 调度失败后，该 Pod 并不会被“搁置”，而是会“挤走”某个 Node 上的一些低优先级的 Pod，这样一来就可以保证高优先级 Pod 会优先调度成功。抢占发生的原因，一定是一个高优先级的 pod 调度失败，我们称这个 pod 为“抢占者”，称被抢占的 pod 为“牺牲者”(victims)。
《深入剖析Kubernetes》总结十：资源管理和调度
07-09 574
资源模型与资源管理 资源模型设计 CPU 和内存资源的限额要配置在每个 Container 的定义上，Pod 整体的资源配置，就由这些 Container 的配置值累加得到 Kubernetes 里为 CPU 设置的单位是“CPU 的个数”，，具体“1 个 CPU”在宿主机上如何解释，是 1 个 CPU 核心，还是 1 个 vCPU，还是 1 个 CPU 的超线程（Hyperthread），完全取决于宿主机的 CPU 实现方式 对于内存资源来说，它的单位就是 bytes Kubernetes 里 Pod 的
OpenStack与Kubernetes融合架构下的优化实践
01-27
开启convergence模式可以提高资源创建和更新的效率。在Mitaka及以上版本的OpenStack中，convergence模式可以显著减少资源创建的时间，尤其对于复杂资源如Kubernetes集群的部署，效率提升更为明显。 5. **监控与日志...
深入剖析Kubernetes 学习笔记
conli的博客
06-09 1482
Container & Kubernetes 【总结自张磊-深入剖析Kubernetes】 Container 容器 = cgroup + namespace + rootfs + 容器引擎 Cgroup： 资源控制（限制namspace隔离进程的资源，但是Cgroups 对资源的限制能力也有很多不完善的地方， /proc 文件系统的问题，/proc 文件系统不了解 Cgroups 限制的存在） namespace： 访问隔离(进程级别的隔离，看不见其他进程，但是资源都是共享的，因此存在资源被占用
基于 Kubernetes 的云原生 AI 平台建设
Qingcloudedu的博客
08-16 521
人工智能与 Kubernetes 在国外众多知名网站 2021 年对 Kubernetes 的预测中，人工智能技术与 Kubernetes 的更好结合通常都名列其中。Kubernetes 以其良好的扩展和分布式特性，以及强大的调度能力成为运行 DL/ML 工作负载的理想平台。 Prophecis 架构图 上面是微众银行开源的机器学习平台 Prophecis 的架构图，我们可以看到绿色的部分是机器学习平台通常都会有的功能包括训练、开发、模型、数据和应用的管理等功能。而通常这些机器学习平台都是运行在 Ku
Kubernetes默认调度器的优先级与抢占机制
每天进步一点点。。。的博客
03-03 2788
目录 一、优先级和抢占机制解决的问题 1、解决问题 2、如何使用 1) PriotityClass 2) pod使用 二、追踪代码分析优先级和抢占策略 1、优先级和抢占体现 2、调度器的抢占机制 1）抢占者调度失败时间点怎么处理？ 2) 抢占过程 3）抢占后 三、两种情况 参考 本文主要介绍 Kubernetes调度器的重要机制：优先级（Priority ）和抢占（Pr...
Kubernetes 默认调度器的优先级与抢占机制 解决Pod 调度失败
小楼一夜听春雨，深巷明朝卖杏花
11-20 652
在上一篇文章中，我为你详细讲解了 Kubernetes 默认调度器的主要调度算法的工作原理。在本篇文章中，我再来为你讲解一下 Kubernetes 调度器里的另一个重要机制，即：优先级（Priority ）和抢占（Preemption）机制。 首先需要明确的是，优先级和抢占机制，解决的是 Pod 调度失败时该怎么办的问题。 正常情况下，当一个 Pod 调度失败后，它就会被暂时“搁置”起来，直到 Pod 被更新，或者集群状态发生变化，调度器才会对这个 Pod 进行重新调度。 但在有时候，我们希望的是..
#yyds干货盘点# Kubernetes 你必须掌握的 Pod 抢占式资源调度(20)
wangzan18的博客
02-26 572
随着我们在 Kubernetes 集群中部署越来越多的业务，势必要考虑集群的资源利用率问题。尤其是当集群资源比较紧张的时候，如果此时还要部署一些比较重要的关键业务，那么该如何去提前“抢占”集群资源，从而使得关键业务在集群中跑起来呢？ 这里一个最常见的做法就是采用优先级方案。通过给 Pod 设置高优先级，让其比...
排队抢占算法功能报告
qq_38220914的博客
10-30 174
目前RRC阶段和RAB阶段都存在抢占算法，抢占分为降速抢占和释放抢占，当RRC接入或者RAB接入无可用的码资源时，允许指定原因的RRC和RAB发起降速或释放抢占；接入抢占算法开启后，在码道全部被占用的情况下，新接入用户可以抢占被抢用户PS业务的资源，使被抢用户发生降速或掉线，算法实施过程中建议跟进当地网络情况选择性开启相应降速开关。依据count统计来看，该算法降速抢占执行生效，鉴于抢占释放会造成掉话，故此次并未开启释放功能，开启释放抢占需要根据根据现网指标具体衡量选择性开启。6月12日-6月15日。
Kubernetes 1.8抢占式调度Preemption源码分析
weixin_33772645的博客
11-06 241
2019独角兽企业重金招聘Python工程师标准>>> ...
Kubernetes6--资源调度
大魔王
11-27 724
参考论文： [1]杜军. 基于Kubernetes的云端资源调度器改进[D].浙江大学,2016. k8s主要应用Pod这一概念进行应用部署和操作，以后是pod对象的创建时序图，pod对象的创建效率直接影响系统的整体性能。 优先级分类与抢占式调度： 按照Pod对象的重启策略分为低优先级以及高优先级 利用双端循环队列，维护队首指针以及队尾指针 Pod对象重启策略为Always加入到...
Kubernetes实战（七）-优先级调度（Pod Priority Preemption）
专注基础架构领域
04-21 950
对于运行各种负载（如Service、Job）的中等规模或者大规模的集群来说，出于各种原因，我们需要尽可能提高集群的资源利用率。而提高资源利用率的常规做法是采用优先级方案，即不同类型的负载对应不同的优先级，同时允许集群中的所有负载所需的资源总量超过集群可提供的资源，在这种情况下，当发生资源不足的情况时，系统可以选择释放一些不重要的负载（优先级最低的），保障最重要的负载能够获取足够的资源稳定运行。 Kubernetes 1.8版本之前，当集群的可用资源不足时，在用户提交新的Pod创建请求后，该Pod会一直处于
Kubernetes调度器：优先级与抢占机制解析
"Kubernetes默认调度器的优先级与抢占机制" Kubernetes调度器是一个关键组件，负责决定Pod应该如何分配到集群中的Node上运行。在Kubernetes中，Pod的调度不仅基于资源需求、节点条件和亲和性/反亲和性规则，还涉及...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值