想用gpu的时候报错说驱动太老旧,想装个新的/(ㄒoㄒ)/~~
1.看看适配信息
远程服务器(linux系统)上所用的gpu系列、驱动版本号、内存大小只需一条指令
nvidia-smi --query-gpu=name,driver_version,memory.total --format=csv
另外这里应该是GeForce RTX 30 系列,和 GeForce RTX 30 (Notebooks) 系列 的主要区别在于它们的设计目标和使用场景,具体包括性能、功耗、散热以及物理尺寸上的差异。
前者主要用于台式电脑,通常是独立显卡,更强的渲染和计算能力,更多显存,插入主板的PCle插槽中,要充足的机箱空间和电源供应;后者专为笔记本电脑设计,强调能耗效率和散热能力,通常集成到笔记本内部,不可替换,价格也和整机绑定。
2.下载合适的.run
登录驱动下载网站,填写型号
我这是在本机windows上下载的,还得传到远程服务器上(目标路径还是得显示指定一下)
(很多人在从网站上拉取预训练好的大模型的时候,总喜欢在本机上下载,再scp到服务器上,只有俺的破电脑遭不住啊/(ㄒoㄒ)/~~)
(更新:接魔法)
scp -P <端口号> /path/to/local/file.txt username@remote-server:/path/to/remote/directory/
然后好的~我没有sudo权限,运行不了.run文件,也不在Docker用户组,人要适时放弃
再试试曲线救国
sh NVIDIA-Linux-x86_64-520.61.05.run --extract-only
先解压而不安装👆
./nvidia-installer --no-kernel-module
再进入解压目录,尝试直接加载驱动到用户空间👆
蚌不住了家人们,原地放弃
新后续:好的,反应后网管给升级了,跑大模型真的快了很多