基于自定义Istio指标的Pod水平自动缩放

作者：Sandor Magyari

本文来自Banzai Cloud，通过一个Spring Boot应用示例演示如何使用Istio Operator实现Pod水平扩展。

基于自定义Istio指标的Pod水平自动缩放

Pipeline的核心功能之一，Banzai Cloud的应用程序和devops容器管理平台，是多维的并可以基于默认和自定义指标进行自动调节。在我们引入自定义指标后，我们选择了通过Prometheus适配器从Prometheus收集指标。从那时起，我们的许多客户开始使用Hoizontal Pod Autoscaling，他们中的大多数人只对基本的CPU和内存指标感到满意。

我们一直都知道这不是一个理想的解决方案，我们一直在努力寻求更灵活的解决方案，以便：

• 基于自定义Prometheus指标的扩展

• 为更复杂的Prometheus查询提供扩展支持

随着我们的开源Istio operator的发布以及在Pipeline平台上广泛引入基于Istio的服务网格，我们也提供了根据自定义的Istio指标的自动缩放功能。Prometheus现在提供网络指标，延迟，故障率以及更多指标(默认情况下从Istio中删除)。我们的HPA operator根据这些指标决定是否扩展。

但是，在使用Prometheus Adapter时，我们的方法已不再可行，因此我们决定探索替代方案。

如果您错过了我们关于Pipeline平台所支持和自动化不同类型的自动缩放功能的系列博客，请查看这些早先的帖子：

1. Autoscaling Kubernetes集群

2. Vertical pod autoscaler

3. 自定义指标上的水平自动缩放Kubernetes部署

4. Horizontal Pod Autoscaler Kubernetes Operator

5. 重新加载水平Pod自动调节器操作员

TL;DR

• Pipeline及其HPA Operator中对重新设计的自定义指标支持的介绍。

• 使用来自Prometheus的Istio指标自动调整Spring Boot部署的示例

• 深入了解添加自定义指标后发生了什么

• 切换到另一个自定义指标适配器，kube-metrics-adapter的介绍

重新支持自定义指标

由于上面列出的原因，我们决定使用另一个自定义指标适配器，kube-metrics-adapter。

kube-metrics-adapter 是一种通用指标适配器，可以从多个来源收集和提供指标。对于每个源，都有一个Collector实现;目前，我们对其Prometheus收集器最感兴趣。

Prometheus Collector是一个通用收集器。它将Prometheus 查询映射到可由HPA 控制器用于部署自动扩展的度量标准。它的方法不同于Prometheus Adapter ，它具有预定义的规则集 - 包含针对Prometheus 运行的查询，用于将指标转换为自定义指标 - 定期执行。获取所有匹配的指标标准(因为这些查询必须是通用的并且定位