今天早上用nvidia-smi命令,发现Failed to initialize NVML: Driver/library version mismatch,然后打开nvidia的log发现是自动更新了,然后自动更新不完全,导致libnvidia和nvidia版本不一致了,如果也遇到一样问题的同学请看下去
先生成一共nvidia的bug日志,会生成一个gz文件,我们解压缩就好
解压缩之后看文件中含有NVRM的文字,最好就看最后4行
这里可以看到说版本不一致
所以我们这里清除所有的nvidia和libnvidia
然后再安装
apt install nvidia-drive-470
再看所有nvidia所有的进程
手动把每个进程删掉
删完之后直接重启nvidia会提示如下错误
所以一个个服务重启
如果出现
FATAL: Module nvidia_drm is in use.
运行这个
systemctl isolate multi-user.target
然后再把所有上图remmod的都运行掉,就可以了
最后就大功告成了,再次,我要骂人了,我跑的LBM都断掉了,要重新跑了,数值模拟又不是深度学习模型,木有checkpoint可以弄,痛心!!