Situation1:服务器不联网 Ubuntu20.04
Situation2:自己的电脑Windows WSL2
Situation3:需要解决梯子下载hugging face模型
简单来说,就是需要在我wsl2中起容器,跑起来没问题后,打包镜像到服务器上大批量处理。这里面还有一个原因就是,数据在服务器上,只进不出。
一、在WSL2中起Docker需要注意:
```docker run -d -it --net=host --gpus=all -v /home/code:code -v /home/data:/data /bin/bash```
此时, .\Segment-and-Track-Anything\app.py中修改:
联网时,游览器中输入IP address:7860,正常访问Gradio;
注意断网时,需要在windows powershell里用ipconfig查询,windows和wsl之间的通信ip address。
二、在不联网的服务器上部署
此时需注意wsl2迁移容器时,gpu软链接的问题。
参考【docker创建容器的坑】WSL启动nvidia-docker镜像:报错libnvidia-ml.so.1- file exists- unknown-CSDN博客nnvcc --version 验证一下,gpu能不能正常使用。
起容器仍然要注意 ```--net=host```
离线启动Web UI: ```TRANSFORMERS_OFFLINE=1 python app.py```
游览器输入本机与服务器ssh时用到的ip address而不是0.0.0.0:7860