
开源项目,欢迎star哦,https://github.com/data-infra/cube-studio
一款真正意义的 LLMOps 框架
LLMOps(Large Language Model Operations)是一个涵盖了大型语言模型(如GPT系列)开发、部署、维护和优化的一整套实践和流程,而不仅仅是大模型的应用层。
简介
Cube-Studio是由腾讯音乐开源的一款云原生一站式AI中台,覆盖机器学习/深度学习/LLM大模型,开发、训练、推理、应用,全链路。
github地址:https://github.com/data-infra/cube-studio
该项目目前已是国内最火的开源算法全链路中台,上千家企业私有化部署和项目交付,非常适合数据算法架构团队搭建公司级AI中台,以及toB企业算法中台类项目交付。
LLMOps
cube-studio除了支持原有mlops全链路能力外,新版本增加了很多大模型相关的链路能力。
1. 支持AIHub形式部署40+常用开源大模型: