本人在搭建部署RAG项目中需要在恒源云上租服务器将模型部署在上面,然后在本地上进行访问。
1.首先需要在恒源云上启动Streamlit。恒源云上给定的自定义服务端口为8080(见图三),只能设置为这个端口,本人在开始的时候设置为其他端口,并不能成功访问。
streamlit run demo.py --server.address 0.0.0.0 --server.port 8080
2.打开租用的实例界面,找到自定义服务点击,就会出现图三的小窗口(这个界面中也提示到指定的端口为8080)。
3.点击继续访问,就可以出现自己设定的界面啦,如图四所示。