weixin_51152326的博客

原创 tensor创建报错 TypeError: must be real number, not NoneType

在多卡数据并行训练时，如果代码内有错误，则会在每个GPU中都报一次，加大了排查难度。因此在尝试跑通模型时建议先使用单卡调试。跑github的CODEGLUEX代码时碰到这个问题，由于不熟悉多卡训练环境，排查时费了很大力气，现总结如下。至于tensor创建时报这个错，则是因为传入tensor的向量中有None值，将None值过滤掉即可。