MaaS平台介绍

引言：

MaaS(Model as a Service，

模型即服务)

是一种将人工智能算法模型及其相关能力封装成服务，

以降低人工智能技术使用门槛、

控制应用建设成本、

简化系统运维管理复杂度，

并提升人工智能技术的综合应用效能的模式。

---

上新了，

上新了，

卓世科技MaaS平台V2.0 版本正式上线。

---

本次新上线了包括：

模型训练新基座，

支持模型训练、推理、量化、评测等功能。

---

卓世科技MaaS平台是一款基于知识增强大模型的一站式行业模型训练开发平台。

---

面向开发者和企业提供从基础算力服务、数据服务、模型训练服务、应用部署和构建等一系列行业模型的交钥匙服务。

---

通过产业数据和行业知识快速打造企业专属的行业模型，

行业模型将成为企业构建上层应用的智能化数据底座。

---

V2.0 版本上线新功能：

1、模型训练MaaS底座升级

2、MaaS新基座模型sft微调

3、MaaS新基座模型PT训练

4、MaaS新基座模型评测

5、MaaS新基座模型量化压缩

6、MaaS新基座模型推理部署升级

7、Prompt工程能力

MaaS平台加速了AI应用部署的周期，

提升了创新的迭代速度，

降低了企业应用大模型服务的多方面成本，

推动了AI与各行业的深度整合。

---

促进生成式AI应用的规模化落地。

---

卓世科技MaaS平台核心优势：

1、 支持多源异构的基础大模型：

多种开源、闭源模型，

璇玑玉衡模型、ChatGLM2、Llama2、文心一言ERNIE-Bot-Turbo

2、 模型开发全流程一站式能力：

场景分析、数据增强、模型训练、模型评估、模型测试、模型发布、模型部署

3、 低代码方式降低模型开发门槛：

通过拖拽的方式，

完成训练流程的搭建，

极大简化了用户操作，

大幅降低模型开发的技术门槛

4、 快捷的数据接入与知识增强：

特色的数据接入体系以及知识增强能力，

帮助企业快速接入各种来源数据进行模型训练服务

5、 完备的算力管理平台：

算力资源监控，

调度和管理，

实现跨设备、跨域、跨品牌算力融合管理

6、 支持各类模型架构：

多种模型种类的支持，

如大语言模型、多模态模型等;多种模型架构支持，

如单体模型架构、MoE模型架构

7、 平台提供多种模型微调方式：

支持RLHF、LORA、P-turning等多种模型微调方式

8、 支持多种模型压缩模式：

平台支持模型压缩技术，

降低模型推理成本，

满足端侧部署需求。

---

卓世科技MaaS平台交钥匙服务：

数据服务是MaaS平台提供的一项核心交钥匙服务，

基于大模型技术的数据分析和清洗、样本数据智能生成和大模型推理数据回流，

解决大模型训练数据不足且质量不高等情况，

全面赋能训练数据智能处理功能，

提升实际训练场景下训练数据的质量和多样性。

---

它主要包括以下三个方面：

1、训练数据智能分析和清洗

综合利用大模型+小模型+数学分析算法的技术优势，

对文本数据/结构化数据进行分析，

优化数据清洗流程，

去脏数据危害，

清洗效率更高，

人力投入更少，

提升数据的质量、准确性和一致性，

最终减少模型训练过程中的错误，

提高大模型训练的质量和效率。

---

2、文本数据智能生成

基于大模型技术，

使用少量文本数据智能生成并标注得到更丰富的样本数据，

以解决大语言模型荆条场景样本数据不足的情况，

成本更低廉，

且不会损害客户隐私，

从而提升大模型行业领域微调的可实现性。

---

3、大模型推理数据回流

结合大模型推理的点赞、点踩等反馈，

将正负数据回流进行管理。

---

模型训练服务是MaaS平台提供的又一关键服务，

它涵盖了：

1、模型选择

提供多种预训练模型供用户选择，

这些模型可能针对特定行业或通用任务进行了优化。

---

2、自定义模型构建

允许用户根据自己的需求从头开始构建模型，

提供灵活的模型架构设计工具。

---

3、训练环境配置

提供所需的计算资源，

包括GPU、TPU等加速硬件，

以及相应的软件环境。

---

4、超参数调优

帮助用户找到最优的模型参数，

提高模型性能，

可能包括自动化的超参数搜索服务。

---

5、模型训练监控

提供训练过程中的实时监控和日志记录，

帮助用户了解模型训练的状态和效果。

---

应用部署和构建服务确保模型能够转化为实际可用的应用程序，

具体包括：

1、模型部署

将训练好的模型部署到生产环境中，

可能包括云服务器、边缘设备或特定硬件上。

---

2、API集成

提供API接口，

使得模型可以被其他应用程序调用，

实现模型服务的快速集成。

---

3、应用开发框架

提供一套框架和工具，

帮助用户快速构建和测试基于模型的应用。

---

4、持续集成/持续部署(CI/CD)

自动化应用的构建、测试和部署流程，

提高开发效率和应用质量。

---

5、用户界面(UI)设计

帮助用户设计和实现与模型应用交互的用户界面，

提升用户体验。

---

6、性能优化

对部署的应用进行性能调优，

确保应用的响应速度和处理能力满足业务需求。

7、安全性保障

确保应用的安全性，

包括数据传输加密、访问控制和防御潜在的安全威胁。

---

通过这些服务，

卓世科技的MaaS平台能够为开发者和企业提供从数据准备到模型训练，

再到应用部署的全流程支持，

实现行业模型的快速开发和应用。