对于远程服务GPU,在使用时可能需要做如下操作。
一. git安装
1. 更新apt
sudo apt-get update
2. 安装git
sudo apt-get install git
3. 验证git是否安装成功
git --version
二. 安装lfs
远程GPU使用需要下载大模型,要用到git-lfs工具
sudo apt install git-lfs
三. 镜像无法连接huggingface问题
在从huggingface什么下载大模型时,可能会遇到无法连接网络问题:
比如报如下错误
Cloning into 'chatglm-6b-int4'...
fatal: unable to access 'https://huggingface.co/THUDM/chatglm-6b-int4/': gnutls_handshake() failed: Error in the pull function.
需要执行如下命令:
sudo apt install curl libssl-dev libnghttp2-dev
四. pip镜像配置
对应Python安装包网速慢的问题,可执行:
python -m pip install --upgrade pip
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
五. VSCode SSH配置
执行如下命令
cat id_dsa.pub >> ~/.ssh/authorized_keys