问题描述
在使用 cupy 编译代码的时候出现一个错误,主要报错内容摘录如下:
cupy.cuda.compiler.CompileException: /tmp/tmpawqz6dru/87ee563e031d11ab8d69518c7343833f_2.cubin.cu(6): error: identifier "None" is undefined
/tmp/tmpawqz6dru/87ee563e031d11ab8d69518c7343833f_2.cubin.cu(6): error: identifier "None" is undefined
/tmp/tmpawqz6dru/87ee563e031d11ab8d69518c7343833f_2.cubin.cu(6): error: identifier "None" is undefined
/tmp/tmpawqz6dru/87ee563e031d11ab8d69518c7343833f_2.cubin.cu(14): error: identifier "None" is undefined
4 errors detected in the compilation of "/tmp/tmpawqz6dru/87ee563e031d11ab8d69518c7343833f_2.cubin.cu".
错误原因
模型中使用了混合精度(16位张量)
解决方式
模型不使用16位张量,而是使用32位张量