自动化机器学习（AutoML）在Kubernetes上的实现-Katib

自动化机器学习（AutoML）在Kubernetes上的实现-Katib

katibRepository for hyperparameter tuning项目地址:https://gitcode.com/gh_mirrors/ka/katib

项目介绍

Katib是Kubeflow下的一个自动化机器学习(AutoML)组件，其支持超参数调优(Hyperparameter Tuning)，早期停止(Early Stopping)以及神经网络架构搜索(Neural Architecture Search)等功能。它适用于各种机器学习框架，如TensorFlow, Apache MXNet, PyTorch, XGBoost等，不仅限于特定编程语言或ML库。

该项目的名字“Katib”源自阿拉伯语，意为秘书，隐含着其管理并优化模型训练过程的功能。Katib可以与任何Kubernetes自定义资源进行交互，原生支持Kubeflow Training Operator, Argo Workflows, Tekton Pipelines等多种工作流工具。

社区方面，Katib持续扩展，欢迎所有自动机器学习爱好者参与贡献。参与者可以通过订阅AutoML日历参加每两周一次的工作组会议，查看会议纪要，更新采用者列表等方式融入社区。

项目快速启动

对于Katib的安装及快速启动，我们将提供简单的代码示例：

安装Katib

确保你的环境满足以下最低要求:

• Kubernetes版本>= 1.27
• kubectl版本>= 1.27

为了安装最新版本的Katib，运行命令:

kubectl apply -k "github.com/kubeflow/katib//git/manifests/v1beta1/installs/katib-standalone@master"

或者如果你想安装特定发布版本(比如v0.14.0):

kubectl apply -k "github.com/kubeflow/katib//git/manifests/v1beta1/installs/katib-standalone@v0.14.0"

确认Katib的所有组件是否正常运行:

kubectl get pods -n kubeflow

期望看到如下结果：

NAME                                READY   STATUS    RESTARTS   AGE
katib-controller-566595bdd8-hbxgf   1/1     Running   0          36s
katib-db-manager-57cd769cdb-4g99m   1/1     Running   0          36s
katib-mysql-7894994f88-5d4s5        1/1     Running   0          36s
katib-ui-5767cfccdc-pwg2x           1/1     Running   0          36s

应用案例和最佳实践

使用Python SDK进行超参数调优实验

下面展示如何使用Katib的Python SDK来最大化一个简单的目标函数 F(a, b) = 4a - b^2 的值。

首先创建一个新的超参数调优试验:

import kubeflow.katib as katib

# 创建一个试验
experiment = katib.experiment.create('my-experiment')

# 设置目标函数
objective = katib.Objective(name='max-objective', type='maximize', goal=4)

# 添加超参数配置
param_a = katib.Parameter(name='alpha', parameter_type='double', feasible_space='[1.0, 5.0]')
param_b = katib.Parameter(name='beta', parameter_type='int', feasible_space='[-5, 5]')

# 将超参数添加至试验中
experiment.add_parameter(param_a)
experiment.add_parameter(param_b)

# 绑定目标函数到试验
experiment.set_objective(objective)

# 提交试验至Katib
experiment.submit()

# 查看试验状态和结果
print(experiment.get_status())
print(experiment.get_trials())

通过这个例子可以看到如何定义超参数范围、目标函数以及提交试验的过程。

典型生态项目

Katib作为Kubeflow的一部分，与其他Kubeflow组件紧密集成，包括但不限于Jupyter Notebook, TensorBoard等，提供了完整的端到端的机器学习解决方案。此外，Katib也能够无缝衔接诸如Arrikto等外部生态系统服务，增强数据科学团队的生产力。 以上介绍了Katib的基本情况、快速启动步骤、应用实例以及与之相关的生态系统，希望对你深入了解Katib及其应用场景有所帮助。

请注意，具体使用时需参照Katib的最新文档以获取更详尽的信息和支持。

katibRepository for hyperparameter tuning项目地址:https://gitcode.com/gh_mirrors/ka/katib