Kubernetes VPA配置

于 2021-09-26 14:58:34 发布
阅读量930 收藏 2
点赞数
分类专栏： 技术解读 职业解读 文章标签： k8s kubernetes 运维 云原生
原文链接：https://www.wolai.com/breezey/wvf5w9eUyAHRuRdBz9KbrC
版权

作者：Breeze
序言：
VPA的全称为vertical-pod-autoscaler，即pod的垂直的自动伸缩， 相对于HPA的横向伸缩（增加或减少pod数量）， VPA通过调整现有POD的resources来达到资源扩缩的目的。
项目地址： https://github.com/kubernetes/autoscaler/tree/master/vertical-pod-autoscal

架构

在这里插入图片描述
Kubernetes VPA 包含以下组件：
• Recommender：用于根据监控指标结合内置机制给出资源建议值。其在启动时从History Storage获取历史数据，根据内置机制修改VPA API object资源建议值。
• Updater：用于实时更新 pod resource requests。其监听VPA API object，依据建议值动态修改 pod resource requests。
• VPA Admission Controller：用于 pod 创建时修改 pod resource requests。
• History Storage：通过Kubernetes Metrics API采集和存储监控数据。

流程

在这里插入图片描述
流程说明：

  1. vpa连续检查pod在运行过程所占用的资源，默认间隔为10s一次
  2. 当发现pod资源占用到达设定的阈值时，vpa会尝试更改分配的内存或CPU
  3. vpa尝试更新部署组中的pod的资源定义
  4. pod重启，新资源将应用于创建出来的新实例

运行模式

vpa支持如下四种更新策略：
• Initial：仅在 Pod 创建时修改资源请求，以后都不再修改。
• Auto：默认策略，在 Pod 创建时修改资源请求，并且在 Pod 更新时也会修改。
• Recreate：类似 Auto，在 Pod 的创建和更新时都会修改资源请求，不同的是，只要Pod 中的请求值与新的推荐值不同，VPA 都会驱逐该 Pod，然后使用新的推荐值重新启一个。因此，一般不使用该策略，而是使用 Auto，除非你真的需要保证请求值是最新的推荐值。
• Off：不改变 Pod 的资源请求，不过仍然会在 VPA 中设置资源的推荐值。
使用注意事项
• 针对同一个部署组，不能同时启用hpa和vpa，除非hpa只监控定制化的或者外部的资源度量
• vpa更新pod的resouces时，会导致pod的重建和重启，甚至是重调度
• VPA使用admission webhook作为其准入控制器。如果集群中有其他的admission webhook，需要确保它们不会与VPA发生冲突
• VPA会处理绝大多数OOM（Out Of Memory）的事件，但不保证所有的场景下都有效。
• VPA的性能还没有在大型集群中测试过。
• VPA对Pod资源requests的修改值可能超过实际的资源上限，例如节点资源上限、空闲资源或资源配额，从而造成Pod处于Pending状态无法被调度。同时使用集群自动伸缩（ClusterAutoscaler）可以一定程度上解决这个问题。
• 多个VPA同时匹配同一个Pod会造成未定义的行为。
• vpa目前只支持kubernetes的默认控制器，并不支持扩展控制器

*使用

部署**
这里使用helm的方式部署vpa。
helm仓库配置说明： https://artifacthub.io/packages/helm/cowboysysop/vertical-pod-autoscaler
简单部署示例如下：
helm repo add vpa https://cowboysysop.github.io/charts/
helm install vpa vpa/vertical-pod-autoscaler -n kube-system
鉴于国内的环境，建议修改chart包中默认使用的镜像仓库地址
部署完成之后的运行示例如下：
#kubectl get pods -n kube-system |grep vpa
vpa-vertical-pod-autoscaler-admission-controller-5bc4c7bf8s5mlt 1/1 Running 0 8d
vpa-vertical-pod-autoscaler-recommender-6fbb49cc-2rtdh 1/1 Running 0 8d
vpa-vertical-pod-autoscaler-recommender-6fbb49cc-54zd2 1/1 Running 0 6d17h
vpa-vertical-pod-autoscaler-updater-75b6df49bd-5dkmc 1/1 Running 0 41h
vpa-vertical-pod-autoscaler-updater-75b6df49bd-6j6tw 1/1 Running 0 8d
示例

  1. 创建一个deployment如下：
    apiVersion: apps/v1
    kind: Deployment
    metadata:
    name: nginx-basic
    labels:
    app: nginx
    spec:
    replicas: 2
    selector:
    matchLabels:
    app: nginx
    template:
    metadata:
    labels:
    app: nginx
    spec:
    containers:
    • name: nginx
      image: nginx
      ports:
      • containerPort: 80
  2. 为该deployment绑定一个vpa资源如下：
    apiVersion: “autoscaling.k8s.io/v1”
    kind: VerticalPodAutoscaler
    metadata:
    name: nginx-basic-vpa
    spec:
    targetRef:
    apiVersion: “apps/v1”
    kind: Deployment
    name: nginx-basic
    updatePolicy:
    updateMode: “Auto”
  3. 查看创建的vpa对象：
    #kubectl get vpa nginx-basic-vpa
    NAME AGE
    nginx-basic-vpa 61s
  4. 查看vpa对象的详情：
    #kubectl describe vpa nginx-basic-vpa
    Name: nginx-basic-vpa
    Namespace: default
    Labels:
    Annotations: kubectl.kubernetes.io/last-applied-configuration:
    {“apiVersion”:“autoscaling.k8s.io/v1”,“kind”:“VerticalPodAutoscaler”,“metadata”:{“annotations”:{},“name”:“nginx-basic-vpa”,“namespace”:"de…
    API Version: autoscaling.k8s.io/v1
    Kind: VerticalPodAutoscaler
    Metadata:
    Creation Timestamp: 2021-06-11T07:58:57Z
    Generation: 2
    Resource Version: 402268277
    Self Link: /apis/autoscaling.k8s.io/v1/namespaces/default/verticalpodautoscalers/nginx-basic-vpa
    UID: fd5fd2a3-f373-4c1d-961d-88227c00cb7d
    Spec:
    Target Ref:
    API Version: apps/v1
    Kind: Deployment
    Name: nginx-basic
    Update Policy:
    Update Mode: Auto
    Status:
    Conditions:
    Last Transition Time: 2021-06-11T07:59:18Z
    Status: True
    Type: RecommendationProvided
    Recommendation:
    Container Recommendations:
    Container Name: nginx
    Lower Bound:
    Cpu: 25m
    Memory: 262144k
    Target:
    Cpu: 25m
    Memory: 262144k
    Uncapped Target:
    Cpu: 25m
    Memory: 262144k
    Upper Bound:
    Cpu: 5291m
    Memory: 11339574038
    Events:
    此时，pod也会被重启并应用推荐值：
    #kubectl get pods -w
    NAME READY STATUS RESTARTS AGE
    nginx-basic-85ff79dd56-7s6ww 1/1 Running 0 5m46s
    nginx-basic-85ff79dd56-99r5g 1/1 Running 0 15s
    nginx-basic-85ff79dd56-7s6ww 1/1 Terminating 0 5m57s
    nginx-basic-85ff79dd56-zt48j 0/1 Pending 0 0s
    nginx-basic-85ff79dd56-zt48j 0/1 Pending 0 0s
    nginx-basic-85ff79dd56-zt48j 0/1 ContainerCreating 0 0s
    nginx-basic-85ff79dd56-7s6ww 0/1 Terminating 0 5m59s
    nginx-basic-85ff79dd56-7s6ww 0/1 Terminating 0 6m
    nginx-basic-85ff79dd56-7s6ww 0/1 Terminating 0 6m
    nginx-basic-85ff79dd56-zt48j 1/1 Running 0 4s
    推荐值示例如下：
    Recommendation:
    Container Recommendations:
    Container Name: nginx
    Lower Bound:
    Cpu: 25m
    Memory: 262144k
    Target:
    Cpu: 25m
    Memory: 262144k
    Uncapped Target:
    Cpu: 25m
    Memory: 262144k
    Upper Bound:
    Cpu: 5291m
    Memory: 11339574038
    说明：
    • Lower Bound: 推荐的最小资源
    • Uncapped Target: 如果minAllowed和maxAllowed都未设置的情况下建议的目标值
    • Upper Bound: 推荐的最大资源

为VPA配置指标采集

vpa的推荐值可以使用kube-state-metrics指标系统将其暴露出来。不过默认情况下该指标没有暴露，需要开启。关于kube-state-metrics的安装可参考： https://github.com/kubernetes/kube-state-metrics#kubernetes-deployment
安装完成之后，需要做如下变更：

  1. 修改clusterrole kube-state-metrics，添加如下权限：
  • apiGroups:
    • autoscaling.k8s.io
      resources:
    • verticalpodautoscalercheckpoints
    • verticalpodautoscalers
      verbs:
    • list
    • watch
  1. 修改kube-state-metrics的pod，在args当中添加如下参数：
  • –collectors=verticalpodautoscalers
    此时，访问kube-state-metrics地址，可看如下指标：
    #HELP kube_verticalpodautoscaler_status_recommendation_containerrecommendations_lowerbound Minimum resources the container can use before the VerticalPodAutoscaler updater evicts it.
    TYPE kube_verticalpodautoscaler_status_recommendation_containerrecommendations_lowerbound gauge
    kube_verticalpodautoscaler_status_recommendation_containerrecommendations_lowerbound{namespace=“wsd”,verticalpodautoscaler=“wsd-dy-projects-zeus-front-2049”,target_api_version=“apps/v1”,target_kind=“Deployment”,target_name=“wsd-dy-projects-zeus-front-2049”,container=“wsd-dy-projects-zeus-front-2049-nginx”,resource=“cpu”,unit=“core”} 0.012
    详细配置可参考这里： https://github.com/kubernetes/kube-state-metrics/blob/master/docs/verticalpodautoscaler-metrics.md#Configuration

为应用自动添加vpa对象

当在集群当中大规模使用vpa时，我们需要为每一个部署组绑定一个vpa资源对象。需要在部署组被创建时自动绑定，还需要提供一个portal能通过可视化的方式发现所有pod的资源推荐，并确认是否去应用资源推荐。
注： 一般在生产环境中主流的伸缩方式还是hpa， vpa更多时被配置为Off的更新策略用于获取集群中资源设置不合理的部署组并报告给管理员，以辅助决策。
goldilocks就是这样一个可自动为特定命名空间的所有部署组（Deployment）绑定vpa并提供可视化portal的一个开源工具。不过其可视化页面是真的丑！
项目地址： https://github.com/FairwindsOps/goldilocks
helm部署： https://artifacthub.io/packages/helm/fairwinds-stable/goldilocks
下面是简单的部署示例
helm repo add fairwinds-stable https://charts.fairwinds.com/stable

helm fetch fairwinds-stable/goldilocks -n kube-system

tar xf goldilocks-3.2.1.tgz

cd goldilocks

#修改values.yaml如下

dashboard:
…
service:
# 修改dashboard的service类型，用于直接暴露访问
type: NodePort

参考

• 《K8S之纵向扩缩容VPA》
• 《Setting the right requests and limits in Kubernetes》

如果你需要相关视频资料，可以添加东方瑞通管理员索要。或者关注我们在B站上的视频动态。
下期直播，我们将会介绍从实践操作掌握K8S架构核心，时间是10月19日晚。敬请期待。

东方瑞通 终身学习
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
博客
Containerd的前世今生
09-26 247
作者：BreezeContainerd简介containerd 是一个工业级标准的容器运行时，它强调简单性、健壮性和可移植性。其诞生于Docker，提供如下功能：管理容器的生命周期（从创建容器到销毁容器）拉取/推送容器镜像存储管理（管理镜像及容器数据的存储）调用 runc 运行容器（与 runc 等容器运行时交互）管理容器网络接口及网络containerd架构图如下：[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-0JJ54gyf-1
博客
RSTP的PA机制
03-24 4321
在局域网中，可以通过STP协议防止网络环路。但是STP算法是被动的算法，依赖定时器等待的方式影响指定端口的状态改变，收敛速度慢。RSTP协议和STP协议消除环路的思想保持一致，具备STP的所有功能。交换机运行RSTP协议时，如果端口的角色被选举为指定端口，可以通过PA机制快速让端口的状态改变为转发状态。P/A机制，其目的是使一个指定端口尽快进入转发状态。P/A机制要求两台交换设备之间链路必须是点对点的全双工模式。一旦P/A协商不成功，指定端口的选择就需要等待两个转发，协商过程与STP一样。我们以下图为
博客
循环神经网络 RNN
03-24 420
循环神经网络是一类以序列数据为输入，在序列的演进方向进行递归且所有节点（循环单元）按链式连接的递归神经网络。对循环神经网络的研究始于二十世纪80-90年代，并在二十一世纪初发展为重要的深度学习算法 ，其中双向循环神经网络和长短期记忆网络是常见的的循环神经网络RNN结构一个标准的(简单的)RNN单元包含三层: 输入层,隐藏层和输出层,用图示有两种方式:折叠式与展开式序列数据现在有一组序列数据 data 0,1,2,3. 在当预测 result0 的时候,我们基于的是 data0, 同样在预测其他
博客
通俗易懂之k临近算法
03-24 665
k近邻法(k-nearest neighbor, k-NN)是1967年由Cover T和Hart P提出的一种基本分类与回归方法。它的工作原理是：存在一个样本数据集合，也称作为训练样本集，并且样本集中每个数据都存在标签，即我们知道样本集中每一个数据与所属分类的对应关系。输入没有标签的新数据后，将新的数据的每个特征与样本几种数据对应的特征进行比较，然后算法提取样本最相似数据(最近邻)的分类标签。举个简单的例子，我们可以使用k-近邻算法分类一个电影是爱情片还是动作片。距离度量：我们已经知道k-近邻算
博客
项目成本和运营费用的场景剖析
03-24 568
此文基于东方瑞通老师研讨总结而来。一个企业可能会设置市场、销售、产品研发、项目交付和运营管理等诸多部门，通常销售部门是以事业部的形式独立核算成本和费用。另外，每个独立的部门在财务系统中都存在独有的成本中心（控制账户）。在项目管理过程中，我们会制定预算并形成审批通过的完工预算（BAC）。针对每个项目的完工预算至少在财务系统上建立一个科目与之关联，通常会细分为许多子科目，比如人力成本（包括工资和奖金）为一个控制帐户，项目所有的预计差旅支出为一个控制帐户。在运营管理过程中，我们同样有很多费用需要与组织的财务
博客
七层网络到大二层网络的深层原因—数据中心的网络变革
03-24 174
在普通人眼中，数据中心是这个样子的在工程安装人员的眼中，数据中心是这个样子的而在IT工程师眼中，数据中心可能是这个样子的最后到了网络工程师的眼中，数据中心就变成这个样子了谈起大二层网络，就让我们从网络工程师的视角开始。显而易见的，网络工程师看的就是数据中心网络。数据中心网络是数据中心基础设施之一，用于连接企业计算、存储等资源；主要包括计算网络、存储网络和数据中心互联网络三种网络。其中计算网络是数据中心最核心网络，用于连接用户和服务器等计算资源。传统的数据中心网络，大多采用二三层混合的网络
博客
《SRE生存指南》金句分享
03-24 226
SRE生存指南—系统中断响应与正常运营时间最大化》一书其作者为美国人Nat Welch，他在谷歌做过四年SRE。之后，他在各种规模的公司工作过，并一直致力于提高网站的可靠性，以帮助开发人员构建可靠的系统。翻译者是冯文辉，他是知名软件设计公司ThoughtWorks的咨询顾问。业内评价，此书是SRE工程师、DevOps工程师、运维工程师和系统管理员不可或缺的参考资料；软件架构师、软件工程师、用户体验设计师也能从本书中获取关于SRE的相关知识。看了这本书之后，我觉得书中有一些不错的段落，摘下来与大家分享..
博客
IT人需要了解的认证大全
03-24 183
某位IT学员：复工了，累成狗的工作又要开始了。不了解IT行业的人来说，会觉得IT工程师、程序开发多么牛逼呀， IT精英，高端人才，走在技术时代的最前端。只有真正的IT才知道，我们有多苦逼！！！技术更新的飞快，项目一个接一个没完没了，经常白加黑，还得抽时间学习。那我们为什么还要选择IT这个行业呢？一个字“穷”！没有爹可拼，没有背景的我们，只有靠本事吃饭了。自从我选择了IT行业，终于能吃的饱饱的了。不“拼爹”，不需要“背景”，只要结实耐干即可。从打我进入IT行业，就“一入IT深似海”，不停的加班、学习、
博客
利用Power Query为透视表准备规范数据源——格式规范篇
03-24 1204
数据透视表是Excel中最强大的统计分析工具，而且简单易用，深受职场精英的欢迎。但是，透视表要想顺利必须满足规范的结构和格式要求。数据格式中，最常见问题就包括日期格式错误、单元格中有多余的空格。当数据量大时候，这些问题不容易被发现，解决这些问题也要浪费很多时间。现在Excel中引入了Power Query数据处理技术，可以通过几个简单的操作就可以完成数据的规范整理。 空格符号清洗在日常使用的电子表格单元格中，偶尔会出现看不见的“空格”特殊字符。因为空格看不见，经常会影响到表格里的数据计算
博客
领导力与管理能力的层次划分原则
03-24 585
瑞通讲师：刘通在数字化转型浪潮的当下，每个企业都在强调领导力和管理能力的打造。因为只有管理者具备领导力，企业或组织才能明确要去哪里，而有效的管理能力则为组织的航行保驾护航，确保我们真正能够到达理想的彼岸。领导力是“做正确事的能力（ Do the right thing）”，而管理能力是“正确的做事的能力（Do the thing right）”。故作为一个管理者，你需要具备领导力和管理能力，二者缺一不可。我们可以从如下5个层次的领导者特征来品读如何成为一个好的领导者或管理者。领导者的第一个层次：能干的
博客
腾讯云计算架构概览
03-24 2210
这里是引用腾讯云计算提供整体一体化云解决方案，其架构的主要特点总结如下：§ 三端一中心的接入，即租户端、运维端和运营端通过统一的TCenter的Web控制台接入；§ 架构解耦的控制组件容器化部署，实现基于容器部署的云计算调度和控制系统的灵活部署，以及被部署组件应用的安全隔离、高可用性和弹性伸缩；§ 利用开源虚拟化技术实现分布式的计算、存储和网络的弹性伸缩服务；§ 丰富的云产品服务选择，提供基于IaaS（基础设施即服务）、PaaS（平台即服务）和SaaS（软件即服务）的一站式服务。具体可以提供的.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值