首先说下我的电脑是有y9000p,win11系统,3060显卡
之前装了好几个版本都不行 。
python=3.6 CUDA=10.1 cuDNN=7.6 tensorflow-gpu=2.2.0或者2.3.0
python=3.8 CUDA=10.1 cuDNN=7.6 tensorflow-gpu=2.3.0
都出现了loss一直为nan,或者loss,accuracy数值明显不对的问题
尝试了一下用CPU tensorflow跑是正常的,并且也在服务器上用GPU跑了显示正常,说明不是学习率,网络模型,数据集等的问题。
从上图可以看到loss和accuracy的值明显是有问题的
查找了一天博客也没找到解决方法。最后试了下重装了一个以下配置的环境,问题解决成功运行。
python=3.8 CUDA=11.3 cuDNN=8.2.1 tensorflow-gpu=2.7.0
分析了一下问题可能是win11系统的问题,也可能是显卡与CUDA的兼容问题