从 MLOps 到 MLOops：揭露机器学习平台的攻击面

这篇文章包含的内容：

• MLOps 能为您做什么

• 固有漏洞与实施漏洞

• MLOps 平台的固有漏洞

  • 恶意机器学习模型

  • 恶意数据集

  • Jupyter 沙盒逃逸

• MLOps 平台中的实施漏洞

  • 缺乏身份验证

  • 容器逃逸

  • MLOps 平台不成熟

• [攻击者如何将这些漏洞串联在一起？](https://jfrog.com/blog/from-mlops-to-mloops-exposing-the-attack-surface-of-machine-learning-platforms/#how would-an-attacker-chain-these-vulnerabilities-together)

• 将 MLOps 功能映射到可能的攻击

• 减轻部分攻击面

• 在组织中部署 MLOps 平台的要点

MLOps 能为您做什么

在列出各种 MLOps 平台攻击之前，让我们先熟悉一些基本的 MLOps 概念。

图 1. ML 软件供应链

构建和部署机器学习模型的常见生命周期包括：

1. 选择机器学习算法（例如 SVM 或决策树）

2. 将数据集提供给算法（“训练”模型）

   • 这将生成一个可以查询的“预训练”模型

3. 可选——将预训练模型部署到模型注册表

4. 将预训练模型部署到生产中，方法如下：

   • 嵌入到应用程序中

   • 将其部署到推理服务器（“模型服务”或“模型即服务”）

让我们更深入地了解每个步骤。

MLOps 管道

图 2. 常见 MLOps 管道的步骤

如上所述，MLOps 平台提供了构建和运行 ML 模型管道的能力。其理念是实现模型开发和部署各个阶段的自动化。

MLOps 管道与传统的 DevOps 管道类似。

例如，在 DevOps 管道中，我们可能会根据源代码更改执行每晚构建，但在 MLOps 管道中，我们可能会根据数据集更改执行每晚模型训练。

ML Pipelines 通常通过 Python 代码定义，管道代码监视数据集或模型参数的变化，然后训练新模型并对其进行评估，如果通过评估则将其部署到生产中。

例如，我们可以看到流行的Kubeflow平台的简化 Python 代码，该平台定义了一个 MLOps 管道，该管道基于存储在（Google）云存储中且可以不断更新的数据集来分析、转换、训练和评估机器学习模型

图 3. 简化的 ML Pipeline 代码（Kubeflow 平台）

图 4. MLOps 管道的图形表示（Kubeflow 平台）

模型注册

在训练模型之后（无论是手动还是通过运行 ML 管道），跟踪预训练模型的最强大方法是使用模型注册表。

图 5. 从模型注册表上传和下载模型

模型注册表充当 ML 模型的版本控制机制。它是组织 ML 模型的唯一真实来源，可轻松获取特定模型版本、别名、标记等。

数据科学家使用训练数据来创建模型，然后协作并迭代不同的模型和模型的不同版本。

然后，机器学习工程师可以将其中一些模型推广到生产机器，然后这些模型将提供给能够查询它们的客户端。

ML 模型注册表的一个很好的例子是MLFlow，它是当今最流行的 MLOps 平台之一。

图 6. MLFlow 模型注册表

模型服务

当我们想要推广一个模型用于生产时，我们有两种选择，要么将模型嵌入到应用程序中，要么允许用户通过 API 查询模型，后者称为“模型服务”或“模型即服务”——