(一)在GKE上创建MLOps Kubernetes集群

最新推荐文章于 2024-05-27 06:30:00 发布

寒冰屋

最新推荐文章于 2024-05-27 06:30:00 发布

阅读量260

点赞数

分类专栏： Docker 文章标签： docker Kubernetes MLOps GKE

原文链接：https://www.codeproject.com/Articles/5302262/Creating-an-MLOps-Kubernetes-Cluster-on-GKE

版权

Docker 专栏收录该内容

105 篇文章 7 订阅

订阅专栏

在之前的系列文章中，我们讨论了在一组Docker容器中作为CI/CD MLOps管道的一部分执行的脚本。在本系列中，我们将向您展示如何设置Google Kubernetes Engine(GKE) 集群来部署这些容器。本系列文章假设您熟悉深度学习、DevOps、Jenkins和基本Kubernetes。

GKE是Google Cloud Platform提供的Kubernetes解决方案，它提供了很多好处。Kubernetes是最先进的开源平台，用于部署、扩展和处理容器化应用程序或微服务。它提供：

极其简单的自动缩放
自动健康检查和自我修复选项
集群内微服务之间网络流量的自动路由
来自集群外部的流量的路由和负载平衡。

Kubernetes简述

Kubernetes集群由一个主节点和一个或多个工作节点组成。主节点管理整个集群，包括通信。正如您可能已经猜到的那样，工作节点完成所有繁重的工作。您的微服务将分布在工作节点上，以确保它们在集群生命周期内保持健康。

Kubernetes的五个概念与当前的系列文章相关——pods, jobs, deployments, services和secrets：

pod是最小Kubernetes单元。它是一组一个或多个容器。每个Pod都连接到一个工作节点，该节点可以运行多个Pod。如果此节点出现故障，则其pod将移动到另一个可用的工作节点。

Kubernetes 提供的图像

job启动一个或多个Pod来执行一项任务。一旦任务结束，所有pod都会终止。如果任务执行失败，作业将不断重试，直到成功。
deployment 是一组提供给所述主节点的规则。这些规则定义了如何创建应用程序并处理其跨工作节点的生命周期。主节点会持续监控您的部署。如果失败，则会启动一个新实例，因此您的应用程序始终会运行。为了使您的部署可从集群外部访问，您需要创建一个LoadBalancer 服务，该服务处理进入Kubernetes集群的流量。

Kubernetes 提供的图像

service 是一组pods和定义如何在它们之间路由流量的策略。
Secrets是YAML文件，集群中的任何元素都可以通过环境变量访问这些文件。这是Kubernetes中处理敏感信息的默认方法。

设置GKE集群

如果您尚未配置Google Cloud Platform结算帐户，请按照以下步骤操作。如果您尚未配置Google Cloud SDK，请查看本文，我们在其中提供了配置指南。

启动GKE集群

让我们通过终端启动集群。如果您计划进行支持GPU的训练，请发出：

gcloud container clusters create training-cluster --num-nodes=2 --zone=us-central1-a --accelerator="type=nvidia-tesla-p100,count=1"  --machine-type="n1-highmem-2" --scopes="gke-default,storage-rw"

否则（对于CPU训练），运行：

gcloud container clusters create training-cluster --num-nodes=2 --zone=us-central1-a --machine-type="n1-highmem-2" --scopes="gke-default,storage-rw"

响应将类似于：

响应通知您集群已创建后，打开GCP控制台并转到Kubernetes Engine > Clusters。

您应该会发现您的Kubernetes集群处于活动状态：

在继续之前，安装kubectl，该命令行包将允许您与Kubernetes交互：

创建secrets.yaml文件

为了能够从我们的微服务中发送通知电子邮件，我们需要将一个电子邮件帐户地址和相应的密码传递给这些。这些凭据是敏感信息，这就是我们将使用secrets的原因。将以下文件中的字段替换为您的电子邮件地址和密码。（如果您使用Gmail地址，请查看本指南）。该文件如下：

apiVersion: v1
kind: Secret
metadata:
  name: gmail-secrets
type: Opaque
data:
  gmail_address: your_email_address
  gmail_password: your_app_password

将文件另存为secrets.yaml。打开终端窗口并将这些指令应用到集群：