对于NVIDIA Blackwell架构的显卡,需要使用最新版本的cuda-12.8,同时tensorRT也需要最新版本TensorRT 10.8,对应pytorch也需要使用没有发布的开发版本2.7.0.dev20250226+cu128.
cuda安装
CUDA Toolkit 12.8 Downloads | NVIDIA Developer
tensorRT安装
TensorRT 10.x Download | NVIDIA Developer
pytorch安装
pip install --pre torch torchvision --index-url https://download.pytorch.org/whl/nightly/cu128