大模型应用开发-华为大模型生态规划

大模型相关目录

大模型，包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步，扬帆起航。

1. 大模型应用向开发路径及一点个人思考
2. 大模型应用开发实用开源项目汇总
3. 大模型问答项目问答性能评估方法
4. 大模型数据侧总结
5. 华为大模型生态规划

---

---

华为云盘古大模型平台

1平台概述

1.1平台定位

华为云盘古大模型的核心定位是为各行各业进行赋能，分为三个层级。
L0是类似于GPT3这样的基础通用大模型。
L1是基础模型与行业数据结合进行混合训练后的行业大模型，已经发布了矿山、气象、药物、分子、电力、海浪、金融等行业的大模型。
L2是把L1再具体下游业务场景进行部署后生成的部署模型，如金融OCR模型、电力巡检模型等。

1.2平台的核心价值和优势

华为云盘古大模型的核心价值一方面是深耕算力，打造强有力的算力底座，来支撑中国的人工智能事业的发展。另一方面就是结合大模型，从通用大模型到行业大模型的研究创新，来真正让人工智能服务好千行百业，服务好科学研究。
其产品功能如下图

2平台技术

2.1 技术架构概览

华为云盘古大模型平台的技术架构涵盖数据工程套件、模型开发套件和应用开发套件，支持自动化数据清洗模型，覆盖模型训练、部署、评测到上线全流程，便捷大模型行业应用开发。

2.2 平台功能介绍

华为云盘古大模型平台支持NLP、CV、多模态、预测、科学计算5大基础大模型，夯实大模型基础能力

盘古NLP大模型

预置15+丰富的清洗算子，支持32K长序列上下文能力，覆盖全链路的训推工具，支持模型加密与模型混淆保护。

盘古CV大模型

支持图像分类、物体检测、姿态估计等近10种微调任务，覆盖大部分视觉感知场景；可根据提示对图片中的目标进行检测，解决场景碎片化问题，无需提供训练数据；可根据提示对图片中的目标进行分割，常在辅助标注、AIGC等场景应用。

盘古多模态大模型

融合语言和视觉跨模态信息，实现图像生成、图像理解、3D生成和视频生成等应用，面向产业智能化转型提供跨模态能力底座

盘古预测大模型

盘古预测大模型是面向结构化数据，基于神经网络Transformer架构，通过任务理解、模型推荐、模型融合技术，构建通用的预测能力。包括数值预测、分类预测、时间序列预测以及异常检测。

盘古科学计算大模型

科学计算大模型是面向气象、医药、水务、机械、航天航空等领域，融合AI数据建模和AI方程求解的方法；从海量的数据中提取出数理规律，使用神经网络编码微分方程；使用AI模型更快更准的解决科学计算问题。

2.3 平台使用及开发过程

使用流程如下：

• 上传数据到OBS

将大模型开发、应用开发的数据上传到OBS中，确保数据格式和规范符合数据准备要求。

• 创建数据集

创建数据集，选择数据类型并将OBS中符合规范的数据导入。

• 数据质量检测

导入数据集的数据默认进行数据质量检测，若存在异常，则根据异常信息优化数据内容。

• 模型训练

创建多种类型的大模型训练任务，持续调优和迭代大模型，有效满足模型在不同场景的应用效果。

• 模型评估

对一个或多个模型在同一场景下的表现进行评估，比较出当前场景的最佳模型，并更好地优化模型。

• 模型压缩

通过模型量化压缩，降低推理显存占用，节省推理资源。

• 模型部署

模型发布为在线服务/边缘推理服务，同时对已发布的服务进行管理。

• 应用开发SDK

提供灵活的基于SDK的开发方式，提升大模型应用开发效率。

• 提示词工程

通过对Prompt的结构、内容进行优化，提供清晰、明确的指令，引导模型输出准确且高质量的文本内容。

• 应用编排

智能助理Agent、检索增强两个应用类型，支持对接云函数、云搜索服务，实现大模型对API和搜索服务的灵活调用；外载知识库，大模型知识库内容储备更多，且灵活更新。
盘古大模型体验暂时仅对白名单指定用户开发，目前开发了咨询服务。

3应用场景与案例分析

3.1 行业应用概览

华为云盘古大模型平台覆盖了金融、制造、能源、政务、交通等多个行业，支持支持NLP、CV、多模态、预测、科学计算5大基础大模型。

3.2 典型应用案例

• 盘古气象大模型

华为云盘古气象大模型是首个精度超过传统数值预报方法的AI模型，速度相比传统数值预报提速10000倍以上。目前，盘古气象大模型能够提供全球气象秒级预报，其气象预测结果包括位势、湿度、风速、温度、海平面气压等，可以直接应用于多个气象研究细分场景，欧洲中期预报中心和中央气象台等都在实测中发现盘古预测的优越性。

• 盘古药物分子大模型

华为云盘古药物分子大模型，赋能药物研发的全链条任务，旨在帮助医药企业机构显著提升药物研发的效率。囊括了大规模药物虚拟筛选、分子动力学模拟等传统CADD药物研发软件，基于AIDD的蛋白质结构预测、分子属性预测等服务。助力新靶标药物的发现，让医药公司搭乘AI辅助药物研发的“快车”。