书生浦语是展映第二期大模型趣味 Demo

部署 InternLM2-Chat-1.8B 模型进行智能对话

配置环境

这里的等效很细节，上次实战营对这个命令就不太理解，这下明白了

装依赖库

下载模型权重

运行1.8b书生

部署实战营优秀作品 八戒-Chat-1.8B 模型

下载八戒1.8b

streamlit运行八戒（不太聪明的样子）

通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo

安装依赖库

运行agent

安装依赖库

好像有些库直接版本有冲突，不知道能不能正常运行
亲测30%A100会OutOfMemoryError。。。


看样子之前依赖库的版本冲突并没有对最终结果造成影响。
emmmmm

使用huggingface下载功能

终端输入pip install huggingface_hub下载huggingface_hub
后运行代码

from huggingface_hub import hf_hub_download

hf_hub_download(repo_id="internlm/internlm2-chat-7b", filename="config.json", local_dir = "download")

运行后download文件夹如图所示