书生·浦语大模型趣味 Demo

1.创建开发机并配置基础环境

在配置开发机系统时，使用 Cuda11.7-conda 镜像，GPU选择10% A100 * 1。

进入开发机后，在 terminal 中输入环境配置命令，将环境命名为demo：

studio-conda -o internlm-base -t demo

进入到该环境中，随后完成以下环境包的安装：

pip install huggingface-hub==0.17.3
pip install transformers==4.34 
pip install psutil==5.9.8
pip install accelerate==0.24.1
pip install streamlit==1.32.2 
pip install matplotlib==3.8.3 
pip install modelscope==1.9.5
pip install sentencepiece==0.1.99

2.下载InternLM2-Chat-1.8B模型

按路径创建文件夹

将对应代码放至对应文件中

download_mini.py:

cli_demo.py:

执行以下命令下载模型参数文件：

python /root/demo/download_mini.py

3.运行demo进行故事创作

执行demo程序 

说出你的想法，看看它会怎么回应你

最后输入exit即可退出。