Datawhale AI 夏令营 学习笔记

大模型部署

创建实例

在魔搭社区创建PAI实例：

1.Demo 搭建

1.下载文件：
点击终端，然后输入如下命令，回车运行！

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

2.环境安装
点击终端，然后输入如下命令，回车运行！

pip install streamlit==1.24.0

3.启动Demo
点击终端，然后输入如下命令，回车运行！（注意，打开终端时需要注意路径问题）

streamlit run AICamp_yuan_baseline/Task\ 1：零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

此时已创建完成实例

对话体验

加载模型

加载完成后,点击创建好的URL跳转到模型

进行对话