Datawhale AI 夏令营第四期大模型应用开发笔记

小白零基础 10 分钟 速通指南

我们整个学习活动，将带你学习以下内容：

• 大模型部署【搭建你的智能编程助手】

• 大模型RAG实战【搭建你的AI科研助手】

• 大模型微调实战【搭建你的AI简历助手】

当前环节可让你在10分钟内，从一个完全小白的选手，搭建你的第一个大模型应用（智能编程助手）！

Step0：开通阿里云PAI-DSW试用

链接：阿里云免费试用 - 阿里云

开通PAI-DSW 试用 ，可获得 5000算力时！有效期3个月！

• 开通免费试用

  

• 在魔搭社区进行授权

  链接：https://www.modelscope.cn/my/mynotebook/authorization

  如果这一步授权失败，可跳过此步骤，继续往下进行

  

• 新用户需要先注册 & 绑定阿里云账号

  

• 新用户还需要完成阿里云账号的实名认证，直接完成即可

Step1：在魔搭社区创建PAI实例！（点击即可跳转）

 

链接：https://www.modelscope.cn/my/mynotebook/authorization

创建实例，启动！

如果在上一步授权失败，可到阿里云控制台创建 & 打开实例，具体步骤详见下方子步骤

• 如果 在魔搭无法授权 或 点击【打开】无法打开，可到阿里云控制台创建 & 打开实例

  

• 创建实例

• 打开实例

  

• 如果之前试用的额度已经过期，可使用魔搭的免费Notebook实例

  

• Step2：Demo搭建！

  第一步：文件下载

点击终端，然后输入如下命令，回车运行！

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

第二步：环境安装

点击终端，然后输入如下命令，回车运行！

pip install streamlit==1.24.0

等待依赖安装成功！

第三步：启动Demo

点击终端，然后输入如下命令，回车运行！

streamlit run AICamp_yuan_baseline/Task\ 1：零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

Step3：对话体验！

点击链接，跳转到浏览器新页面！

显示Demo名称，后台正在运行中！

等待后台完成模型下载和加载！

弹出对话框，现在开始对话吧！

下面，让你的编程助手简单写个代码吧！输入后回车即可运行！

参考Prompt：

给我一个python打印helloword的代码

改成c++的

可以看到，Yuan2-2B-Mars 模型不仅拥有出色的代码生成能力，而且能够紧密跟随用户的指令，与上下文完美融合。（保存效果截图去打卡）

关闭PAI实例！！！！（点击即可跳转）

链接：https://www.modelscope.cn/my/mynotebook/authorization

运行完成后，别忘了回到魔搭，【关闭】实例，否则会一直消耗你的试用额度！

每小时消耗大概7个试用额度！（总共5000个，有效期三个月）

恭喜成功搭建了自己的第一个智能编程助手！

参考链接：Datawhale (linklearner.com)