由于在服务器上部署ChatGLM3需要运行综合demo,并在本地电脑上访问,记录一下流程
1.首先是在AutoDL启动streamlit服务。AutoDL给的自定义服务端口为6066,所以设置一下address和port
streamlit run ChatGLM3/basic_demo/web_demo_streamlit.py model/chatglmMerge_1/ --server.address 127.0.0.1 --server.port 6006
2.在本地CMD上运行一下代码
ssh -CNg -L 6006:127.0.0.1:6006 root@connect.westc.gpuhub.com -p 39747
其中root@connect.westc.gpuhub.com
和39747
分别是实例中SSH指令的访问地址与端口,请找到自己实例的ssh指令做相应替换。6006:127.0.0.1:6006
是指代理实例内6006
端口到本地的6006
端口。
之后直接访问 http://127.0.0.1:6006即可