如何1分钟玩转AI大模型微调推理？（文末有福利）

想要低成本用好大模型，必然离不开对它的微调(Fine Tuning)。

那么，为什么大模型需要微调呢？

举个例子：一个通用大模型涵盖了许多语言信息，我们和它可以进行流畅的对话。但是如果想要它正确回答“布洛芬能和中药同时吃吗?”我们就需要对这个基础模型进行微调，为它提供新的数据以供学习和理解。

预训练大模型就像是一个通用性人才，可以完成很多通用任务，比如回答问题、总结数据、编写代码等，但没有一个模型可以解决所有的问题，尤其是行业内的专业问答。所以需要使用特定的数据集对大模型进行微调，从而让它成为法律、金融、医疗、艺术等专业领域的专家。

本文带你在华为云上玩转AI大模型，1分钟完成你想要的大模型微调和推理。

大模型怎么训推更高效？AI Gallery告诉你！

华为昇腾AI云服务开放兼容，支持百模千态的应用开发，同时提供了一站式AI社区服务平台AI Gallery，帮助开发者快速创建AI应用。该专区收录了业界主流开源大模型，如LLaMA、ChatGLM、Qwen、Baichuan等等，并全面基于昇腾AI云服务进行适配和优化，显著提升精度和性能；而且提供了丰富的应用开发工具链，开发工具已经全部实现了云化，免去繁琐的配置流程，实现一键接入，即开即用。

以ChatGLMV2为例，简单几步，即可在AI Gallery上进行微调和部署，定制满足业务需求的大模型，如加入公开的金融类问答数据提高它在金融领域的问答效果，基于医学知识图谱以及医学文献数据得到擅长中医草本知识的对话大模型……

下面简单几步，带你使用AI Gallery，基于ChatGLMV2构建电商领域的专属问答助手。

1、选择模型

点击「阅读原文」进入到AI Gallery官网，单击“模型”进入模型列表，平台提供了大量基于昇腾云底座适配的三方开源大模型，供开发者进行使用，开发者可根据需求选择合适的已认证大模型。这里我们以GLM模型为例。

2、选择预置数据集，启动微调训练

在模型详情页，选择“训练 > 微调大师”进入微调工作流页面。

首先上传你想要微调方向的数据集，这里我们选择提前准备好的优化广告文案的数据集，配置匹配数据集的相关参数。

然后选择适合该大模型训练的计算规格，当前通过大量开发者实践，针对主流昇腾云开源大模型，AI Gallery沉淀了最佳的算力组合方案。开发者可以直接选择推荐的规格，确认配置信息，并正式启动训练任务。

模型微调训练完成后即可生成开发者的专属大模型，开发者可以查看相关的训练指标效果，比如资源使用率，训练Loss曲线等。

3、将模型部署为在线推理服务，生成业务可直接使用的API

微调训练成功后，我们着手模型的部署。开发者可以进入生成的大模型详情页，选择“部署 > 推理服务”进入部署推理服务页面：

• 在部署推理服务页面完成参数配置。
• 服务参数配置完成后，单击“启动部署”。
• 在“订单信息确认”页面，确认服务信息和费用，单击“确定”跳转至在线推理服务列表页。
• 当“状态”变为“运行中”表示在线推理服务部署成功，部署后即可直接调用API使用。

4、验证模型效果

开发者也可以在微调列表选择微调好的模型，部署为可查看实际体验的AI应用，直观查看微调后问答助手的回答效果。

在模型详情页选择“部署 > AI应用”进入页面，开始AI应用创建设置，如名称、规格等等，完成基本信息设置后，即可进入到可视化页面。直接输入你的需求，比如为产品收腰的鱼尾裙写一段广告词，启动推理，便可在右侧获得模型推理的结果。

文生图、音乐、视频，更多AI趣味应用等你来体验

常规的对话大模型之外，AI Gallery还提供计算机视觉、深度学习方面的模型，开发者可以根据左边的标签分类，选择自己需要的。

同时，AI Gallery上还有很多免费体验的AI项目，让开发者零代码无门槛体验大模型的“魔力”，可以一句话生成图片和视频，也可以做个AI问答机器人……此处推荐几个热门项目：

从底层算力到AI平台再到模型服务，华为云持续深耕投入，帮助更多开发者从创意萌芽到项目落地的每一步都更加流畅高效，在大模型时代快人一步。
​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。