Datawhale AI夏令营第四期 大模型应用开发 task1.1 动手学大模型应用全栈开发

学习内容提要：通过学习大模型部署、大模型检索增强生成（Retrieval Augmented Generation, RAG）实战、大模型微调实战，掌握大模型应用全栈开发

Datawhale

环境配置：modelscope:1.17.1-pytorch2.3.0tensorflow2.16.1-gpu-py310-cu121-ubuntu22.04

一、小白零基础 10 分钟 速通指南

Step0：开通阿里云PAI-DSW试用

链接：阿里云免费试用 - 阿里云

开通PAI-DSW 试用 ，可获得 5000算力时！有效期3个月！

如果已经开通试用或试用已过期，可以跳过此步骤，使用魔搭免费GPU额度或寻找其他的算力方案

• 注意多模态数据合成方向无法通过魔搭免费GPU执行

• 开通免费试用

• 在魔搭社区进行授权

Step1：在魔搭社区创建PAI实例！（点击即可跳转）

链接：https://www.modelscope.cn/my/mynotebook/authorization

Step2：Demo搭建！

第一步：文件下载

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

第二步：环境安装

pip install streamlit==1.24.0

第三步：启动Demo

streamlit run AICamp_yuan_baseline/Task\ 1：零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

Step3：对话体验！

点击链接，跳转到浏览器新页面！

显示Demo名称，后台正在运行中！

等待后台完成模型下载和加载！

弹出对话框，现在开始对话吧！