大模型时代，如何快速开发AI应用

大模型快速普及应用的当下，AI浪潮汹涌而至，对于开发者来说，开发一款属于自己的AI应用并不是遥不可及。华为云AI生态技术专家、中科院计算所博士坐阵，从数据处理、算法开发、模型训练到部署，全方位拆解AI开发全流程，今天这篇文章，将通过以下问题，带你上手华为云一站式AI开发平台ModelArts，实现AI应用的快速开发。

Q1、AI开发的基本流程是怎样的？

一个典型的AI应用开发包括数据处理、算法开发、模型训练、模型部署等，在ModelArts上可以完成以上所有流程。数据处理主要是对上传到云端的数据进行标注和特征分析，算法开发可以使用ModelArts官方发布或自己开发的算法，模型训练即使用云上的CPU/GPU/NPU等资源创建训练作业，最终的模型部署可部署为在线服务或者边缘服务。

Q2、零基础小白，也可以快速上手AI开发吗？

零基础小白，可以使用ModelArts进行AI开发体验，推荐尝试ModelArts自动学习功能, 自动学习不需要AI能力和编码能力，只需上传数据，通过图像化界面操作即可完成模型训练和部署，当前支持图像分类、物体检测、预测分析、声音分类和文本分类等任务。

也可以前往华为云AI开发交流社区——👉AI Gallery，里面有很多算法、模型、notebook等资产（这些资产的运行依赖的就是ModelArts），也有课程和讨论区。

Q3、华为云ModelArts是如何简化AI开发过程的？

简单的说，ModelArts解决了AI开发最关键的算力和算法获取问题：1、作为云平台，它提供非常方便的算力资源；2. AI Gallery作为社区，提供非常多开箱即用的模型。

AI开发包括多个步骤，每个步骤也有很多细节，ModelArts提供足够丰富的功能满足不同的需求。另一方面，ModelArts也提供了工作流能力（Workflow），覆盖数据标注、数据处理、模型开发/训练、模型评估、应用开发、应用评估等AI开发的多个步骤，使用者可以通过可视化配置运行开发好的工作流。

Q4、与本地开发相比, 在云上进行AI应用开发有什么优势？

以华为云一站式AI开发平台ModelArts为例，它的优势体现在：

1. 数据智能标注、团队标注、特征分析，可以提高数据处理的效率；

2. 自动学习、AI Gallery的预置算法，无需编写代码开发算法，可以快速进行实验；

3. 推理部署，不用自己去开发Web服务、用户鉴权等模块，可以快速将模型部署成在线服务；

4. 丰富的案例资料，在AI Gallery上可以学习了解当前热门的AI模型、算法等案例。

Q5、如何从本地IDE连接ModelArts，进行AI应用开发？

ModelArts支持通过本地IDE远程连接到云上的Notebook中，开发基于Pytorch、Tensorflow和MindSpore引擎的AI模型：👉具体操作指导参考

Q6、海量数据处理很繁琐，ModelArts可以简化这个流程吗？

可以的，ModelArts提供数据标注功能，即在云上提供图像、文本、音频、视频等数据的标注作业，除了人工标注外，ModelArts还提供自动标注、团队标注等；另外也提供数据特征分析功能，可以根据数据集中图片特征绘制曲线。

Q7、当前在ModelArts上能获得哪些公开的数据集?

数据集公开在AI Gallery上，一部分是常见的公开数据集，如ImageNet、COCO、CitySpaces、Imdb情感分析等；一部分是华为云以往的AI比赛中使用的数据集，如无人车比赛的交通标志识别、疲劳驾驶检测比赛的视频、OCR比赛的中英文购物小票等；最后就是开发者自发上传的各式数据集。可以去👉AI Gallery逛逛。

Q8、如何将本地训练的模型迁移上云？

我们既可以将模型部署到云上作为Web服务，也支持下发到端边侧。如果自己线下训练的模型，部署到ModelArts平台成为一个API服务，不需要做模型转换。

Q9、其他格式的AI模型支持导入到ModelArts继续训练吗？

1、如果是简单的实验，可以用ModelArts的Notebook，这个环境比较自由，跟你在本地做AI开发差不多，比如Keras模型导入后用Keras API操作就行。

2、如果是正式的训练/推理作业，需要适配ModelArts的规范，建议也是先参考1在Notebook里调通，再创建正式作业，需要注意的点是云上作业存储用的是华为云OBS（代码/数据需要先传到OBS）

Q10、ModelArts上会有训练好的开放模型吗？提供模型市场或线上调优服务吗？

模型资产发布在AI Gallery中，大部分没有公开权重，但是可以在ModelArts上部署使用，如往届华为云AI大赛的优秀作品；另外值得一提的是，最近火爆的开源大模型也陆续上架到AI Gallery中，如Stable Diffusion、MPT、Falcon等。

Q11、ModelArts中如何进行大规模分布式训练？

ModelArts主要支持数据并行方式的分布式训练，包括单机多卡、多机多卡，与单机单卡相比，借助PyTorch、MindSpore等框架能力，仅需修改几行代码即可。

Q12、目前ModelArts平台支持哪些AI框架？

PyTorch/TensorFlow/MindSpore都支持，CPU/GPU/Ascend版本都有。

Q13、ModelArts是否有像GPT那样的通用生成能力呢？

ModelArts是开发平台，你可以使用ModelArts开放自己的大语言模型，AI Gallery中也有👉ChatGLM这样的案例。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓