部署Demo

1、本地启动demo

2、尝试进行对话

Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型

1、克隆远程仓库代码

cd /root/demo
git clone https://github.com/InternLM/Tutorial.git

2、执行如下代码来启动一个 Streamlit 服务。

cd /root/demo
streamlit run /root/demo/Tutorial/tools/streamlit_demo.py --server.address 127.0.0.1 --server.port 6006

3、本地的 PowerShell 中输入以下命令，将端口映射到本地。

ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 你的 ssh 端口号

然后将 SSH 密码复制并粘贴到 PowerShell 中，回车，即可完成端口映射。

服务端

本地正在加载

加载完成后

简单对话