超级会员免费看
1：核对GPU的计算能力
地址：https://developer.nvidia.com/cuda-gpus
For example, GTX1060 is 6.1, RTX 2070 is 7.5.
2：核对硬件支持的精度
地址：https://docs.nvidia.com/deeplearning/tensorrt/support-matrix/index.html#hardware-precision-matrix
6.1 supports FP
本文介绍了如何核对GPU的计算能力和硬件支持的精度。例如，GTX1060的计算能力为6.1，支持FP32和INT8；而RTX 2070的计算能力为7.5，支持FP32、FP16、INT8和FP16 tensor core。此外，还提到了TF32精度，它在指数位上与FP32相同，但尾数位较少，相当于FP19。
订阅专栏 解锁全文
扫一扫
3541
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
