理一下CUDA、CUDA toolkit和NVCC

已于 2022-04-14 16:13:37 修改
阅读量3.8k 收藏 9
点赞数
文章标签： python
于 2022-03-29 16:57:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/LZS12321LZS/article/details/123825083
版权

参考：一文讲清楚CUDA、CUDA toolkit、CUDNN、NVCC关系_健0000的博客-CSDN博客_cudatoolkit和cuda有关系吗
理清GPU、CUDA、CUDA Toolkit、cuDNN关系以及下载安装_tomorrow″的博客-CSDN博客_cudatoolkit和cuda,cudnn的关系吗

 关于三者的介绍，上述两篇博客写的很全面，这里再记录一下我自己的理解。

CUDA包括Runtime API与Driver API。

  • CUDA Toolkit (nvidia)：Driver API，CUDA完整的工具安装包，包括 CUDA 程序的编译器（NVCC）等，CUDA 程序所对应的各式库文件以及它们的头文件。
  • CUDA Toolkit (Pytorch)：Runtime API，CUDA不完整的工具安装包，其主要包含在使用 CUDA 相关的功能时所依赖的动态链接库。不会安装驱动程序。与前者不冲突。
  • 二者可以同时存在，但都不能高于显卡驱动版本最高支持CUDA版本

官方给的470.57.02显卡驱动版本最高支持CUDA11.4（向下兼容，对应关系见 Release Notes :: CUDA Toolkit Documentation），所以在终端使用nvidia-smi命令后，显示的是该驱动下最高支持版本的CUDA Version，而不是说该主机装了CUDA11.4。实际上，该主机装的CUDA toolkit(nvidia)版本是10.1，因此，NVCC也是10.1。

驱动最高支持cuda版本
示例主机的驱动和CUDA Version

同一主机下的nvcc和cuda toolkit（nvidia）版本

寺里LZS
关注
  • 0
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
tensorflow1.12支持cuda10
01-11
自编译tensorflow： 1.python3.5,tensorflow1.12; 2.支持cuda10.0,cudnn7.3.1,TensorRT-5.0.2.6-cuda10.0-cudnn7.3; 3.无mkl支持; 软硬件硬件环境：Ubuntu16.04,GeForce GTX 1080 TI 配置信息： hp@dla:~/work/ts_compile/tensorflow$ ./configure WARNING: --batch mode is deprecated. Please instead explicitly shut down your Bazel server using the command "bazel shutdown". You have bazel 0.19.1 installed. Please specify the location of python. [Default is /usr/bin/python]: /usr/bin/python3 Found possible Python library paths: /usr/local/lib/python3.5/dist-packages /usr/lib/python3/dist-packages Please input the desired Python library path to use. Default is [/usr/local/lib/python3.5/dist-packages] Do you wish to build TensorFlow with XLA JIT support? [Y/n]: XLA JIT support will be enabled for TensorFlow. Do you wish to build TensorFlow with OpenCL SYCL support? [y/N]: No OpenCL SYCL support will be enabled for TensorFlow. Do you wish to build TensorFlow with ROCm support? [y/N]: No ROCm support will be enabled for TensorFlow. Do you wish to build TensorFlow with CUDA support? [y/N]: y CUDA support will be enabled for TensorFlow. Please specify the CUDA SDK version you want to use. [Leave empty to default to CUDA 10.0]: Please specify the location where CUDA 10.0 toolkit is installed. Refer to README.md for more details. [Default is /usr/local/cuda]: /usr/local/cuda-10.0 Please specify the cuDNN version you want to use. [Leave empty to default to cuDNN 7]: 7.3.1 Please specify the location where cuDNN 7 library is installed. Refer to README.md for more details. [Default is /usr/local/cuda-10.0]: Do you wish to build TensorFlow with TensorRT support? [y/N]: y TensorRT support will be enabled for TensorFlow. Please specify the location where TensorRT is installed. [Default is /usr/lib/x86_64-linux-gnu]://home/hp/bin/TensorRT-5.0.2.6-cuda10.0-cudnn7.3/targets/x86_64-linux-gnu Please specify the locally installed NCCL version you want to use. [Default is to use https://github.com/nvidia/nccl]: Please specify a list of comma-separated Cuda compute capabilities you want to build with. You can find the compute capability of your device at: https://developer.nvidia.com/cuda-gpus. Please note that each additional compute capability significantly increases your build time and binary size. [Default is: 6.1,6.1,6.1]: Do you want to use clang as CUDA compiler? [y/N]: nvcc will be used as CUDA compiler. Please specify which gcc should be used by nvcc as the host compiler. [Default is /usr/bin/gcc]: Do you wish to build TensorFlow with MPI support? [y/N]: No MPI support will be enabled for TensorFlow. Please specify optimization flags to use during compilation when bazel option "--config=opt" is specified [Default is -march=native -Wno-sign-compare]: Would you like to interactively configure ./WORKSPACE for Android builds? [y/N]: Not configuring the WORKSPACE for Android builds. Preconfigured Bazel build configs. You can use any of the below by adding "--config=" to your build command. See .bazelrc for more details. --config=mkl # Build with MKL support. --config=monolithic # Config for mostly static monolithic build. --config=gdr # Build with GDR support. --config=verbs # Build with libverbs support. --config=ngraph # Build with Intel nGraph support. --config=dynamic_kernels # (Experimental) Build kernels into separate shared objects. Preconfigured Bazel build configs to DISABLE default on features: --config=noaws # Disable AWS S3 filesystem support. --config=nogcp # Disable GCP support. --config=nohdfs # Disable HDFS support. --config=noignite # Disable Apacha Ignite support. --config=nokafka # Disable Apache Kafka support. --config=nonccl # Disable NVIDIA NCCL support. Configuration finished 编译： bazel build --config=opt --verbose_failures //tensorflow/tools/pip_package:build_pip_package 卸载已有tensorflow： hp@dla:~/temp$ sudo pip3 uninstall tensorflow 安装自己编译的成果： hp@dla:~/temp$ sudo pip3 install tensorflow-1.12.0-cp35-cp35m-linux_x86_64.whl
tensorflow-1.12支持cuda10.0
01-11
自编译tensorflow： 1.python3.5,tensorflow1.12; 2.支持cuda10.0,cudnn7.3.1,TensorRT-5.0.2.6-cuda10.0-cudnn7.3; 3.支持mkl,无MPI; 软硬件硬件环境：Ubuntu16.04,GeForce GTX 1080 配置信息： hp@dla:~/work/ts_compile/tensorflow$ ./configure WARNING: --batch mode is deprecated. Please instead explicitly shut down your Bazel server using the command "bazel shutdown". You have bazel 0.19.1 installed. Please specify the location of python. [Default is /usr/bin/python]: /usr/bin/python3 Found possible Python library paths: /usr/local/lib/python3.5/dist-packages /usr/lib/python3/dist-packages Please input the desired Python library path to use. Default is [/usr/local/lib/python3.5/dist-packages] Do you wish to build TensorFlow with XLA JIT support? [Y/n]: XLA JIT support will be enabled for TensorFlow. Do you wish to build TensorFlow with OpenCL SYCL support? [y/N]: No OpenCL SYCL support will be enabled for TensorFlow. Do you wish to build TensorFlow with ROCm support? [y/N]: No ROCm support will be enabled for TensorFlow. Do you wish to build TensorFlow with CUDA support? [y/N]: y CUDA support will be enabled for TensorFlow. Please specify the CUDA SDK version you want to use. [Leave empty to default to CUDA 10.0]: Please specify the location where CUDA 10.0 toolkit is installed. Refer to README.md for more details. [Default is /usr/local/cuda]: /usr/local/cuda-10.0 Please specify the cuDNN version you want to use. [Leave empty to default to cuDNN 7]: 7.3.1 Please specify the location where cuDNN 7 library is installed. Refer to README.md for more details. [Default is /usr/local/cuda-10.0]: Do you wish to build TensorFlow with TensorRT support? [y/N]: y TensorRT support will be enabled for TensorFlow. Please specify the location where TensorRT is installed. [Default is /usr/lib/x86_64-linux-gnu]:/home/hp/bin/TensorRT-5.0.2.6-cuda10.0-cudnn7.3/targets/x86_64-linux-gnu Please specify the locally installed NCCL version you want to use. [Default is to use https://github.com/nvidia/nccl]: Please specify a list of comma-separated Cuda compute capabilities you want to build with. You can find the compute capability of your device at: https://developer.nvidia.com/cuda-gpus. Please note that each additional compute capability significantly increases your build time and binary size. [Default is: 6.1,6.1,6.1]: Do you want to use clang as CUDA compiler? [y/N]: nvcc will be used as CUDA compiler. Please specify which gcc should be used by nvcc as the host compiler. [Default is /usr/bin/gcc]: Do you wish to build TensorFlow with MPI support? [y/N]: No MPI support will be enabled for TensorFlow. Please specify optimization flags to use during compilation when bazel option "--config=opt" is specified [Default is -march=native -Wno-sign-compare]: Would you like to interactively configure ./WORKSPACE for Android builds? [y/N]: Not configuring the WORKSPACE for Android builds. Preconfigured Bazel build configs. You can use any of the below by adding "--config=" to your build command. See .bazelrc for more details. --config=mkl # Build with MKL support. --config=monolithic # Config for mostly static monolithic build. --config=gdr # Build with GDR support. --config=verbs # Build with libverbs support. --config=ngraph # Build with Intel nGraph support. --config=dynamic_kernels # (Experimental) Build kernels into separate shared objects. Preconfigured Bazel build configs to DISABLE default on features: --config=noaws # Disable AWS S3 filesystem support. --config=nogcp # Disable GCP support. --config=nohdfs # Disable HDFS support. --config=noignite # Disable Apacha Ignite support. --config=nokafka # Disable Apache Kafka support. --config=nonccl # Disable NVIDIA NCCL support. Configuration finished 编译： hp@dla:~/work/ts_compile/tensorflow$ bazel build --config=opt --config=mkl --verbose_failures //tensorflow/tools/pip_package:build_pip_package 卸载已有tensorflow： hp@dla:~/temp$ sudo pip3 uninstall tensorflow 安装自己编译的成果： hp@dla:~/temp$ sudo pip3 install tensorflow-1.12.0-cp35-cp35m-linux_x86_64.whl
显卡，GPU，显卡驱动，CUDA ，CUDA Toolkit之间的关系
ltochange的博客
09-13 3314
相关知识收集于网络，主要来自 显卡、GPU和CUDA简介 GPU 和显卡是什么关系？ 显卡、显卡驱动、cuda 之间的关系是什么？ 并增加了一些自己的理解，如有错误，欢迎指正 如有侵权请联系删除 显卡 显卡（Video card、Display card、Graphics card、Video adapter）全称显示接口卡，是计算机最基本配置、最重要的配件之一。就像电脑联网需要网卡，主机里的数据要显示在屏幕上就需要显卡。因此，显卡是电脑进行数模信号转换的设备，承担输出显示图形的任务。具体来说，显卡接
Nvidia显卡对应驱动，cuda toolkit 和 cuDNN 之间的版本关系
Shawn.Xiao的博客
06-10 1万+
不管是开发c，cpp， 还是golang ,java ，python ,当我们需要做一件事情的时候，通常我们都是看看有没有这方面的库，有的话直接拿来用，而不是自己重写一个，造个轮子，那样太费时费力了。那么这个工具集就给你提供了很多的工具，和库，让你来方便操作，不用自己去搞。那么这个 cuda toolkit 一样，给你提供了很多cuda 相关的 工具集合，让你方便的使用gpu 的能力。从这个表我们也能知道，cuda 驱动是向下兼容的，如果你的驱动版本高，是兼容更低版本的 cuda toolkit 版本的。
图文并茂讲解CUDA, CUDA Toolkit, CUDA Driver, CUDA Runtime, nvcc之间的关系及其版本兼容性
tongjingqi_的博客
03-12 1万+
系统讲解CUDA、CUDA toolkit、CUDA Driver、CUDA runtime、CUDNN、NVCC、Pytorch安装CUDA之间关系和版本兼容性
CUDA、cudNN 、CUDAToolKit三者关系
Climbman的博客
10-02 2707
在选择Cudatoolkit的版本时，需要考虑与所使用的驱动程序版本的兼容性。总结起来，Cuda、Cudnn和Cudatoolkit是用于GPU编程和深度学习的工具和库，它们可以帮助开发人员充分利用GPU的并行计算能力并加速深度学习任务的计算。Cudnn是NVIDIA提供的一个深度神经网络加速库，它包含了一系列高性能的基本函数和算法，用于加速深度学习任务的计算。因此，CUDA 和 CUDA Toolkit 是有关系的，CUDA 是并行计算平台和编程模型，而 CUDA Toolkit 是一套开发工具。
CUDA与cudatoolkit
blue_sky_wait_me
05-09 7723
CUDA Toolkit是NVIDIA的CUDA工具包，包含了CUDA的全部工具。 conda安装的cudatoolkit是CUDA的一个子包，包含了主要的二进制文件。 一般conda安装的pytorch tensorflow会直接调用conda环境中的包，而如果使用pip安装的tensorflow不会自动接入conda中的cudatoolkit，进而会报 ImportError: libcudart.so.8.0: cannot open shared object file: No such..
一文讲清楚CUDA、CUDA toolkit、CUDNN、NVCC关系
热门推荐
qq_41094058的博客
04-28 7万+
目录主要参考一、CUDA/cudnn/CUDA Toolkit/NVCC区别简介二、CUDA Toolkit具体组成三、NVCC简介四、版本管理1、pytorch运行时的CUDA版本（1）查看cuda 运行版本 和 编译时的版本（2）pytorch寻找可用CUDA的过程：2、nvidia-smi和nvcc显示的CUDA版本3、conda下看到的cudatoolkit版本 主要参考 显卡，显卡驱动,nvcc, cuda driver,cudatoolkit,cudnn到底是什么 写的真的好 Pytorch
理清GPU、CUDA、CUDA Toolkit、cuDNN关系以及下载安装
旺仔馒头
11-08 6万+
GPU 显卡是我们平时说的GPU，现在大多数的电脑使用NVIDIA公司生产的显卡；常见的型号有Tesla V100，GTX950M，GTX1050TI，GTX1080等。 CUDA Driver 这个是我们常说的显卡驱动，NVIDIA的显卡驱动程序。 CUDA 是显卡厂商NVIDIA推出的运算平台。CUDA™是一种由NVIDIA推出的通用并行计算架构，是一种并行计算平台和编程模型，该架构使GPU能够解决复杂的计算问题。CUDA英文全称是Compute Unified Device Architecture。
最近CUDA9.1 Windows10版本的官网总是下载失败，CUDAWin10版本+可运行CUDA9.1的Tensorflow
05-22
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.1 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.1\bin C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.1\lib\x64 使用命令nvcc -V测试...
NVCC cuda compiler wraper：在 Matlab 中编译 cuda 内核，如 nvcc('example.cu')-matlab开发
05-30
在这个 Cuda 之后文件可以编译成内核如果您第一次调用代码，或者使用“nvcc -config”： 1) 它将尝试定位“The NVIDIA GPU Computing Toolkit”，其中可以从www.nvidia.com/object/cuda_get.html下载典型位置： C:\...
CUDA-C-Raytracer:用CUDA C编写的GPU加速Ratracer
04-09
编译与执行安装CUDA Toolkit后，在终端中运行说明，并在与项目安装目录相同的目录中进行操作： nvcc main.cu view.cpp -o view -lgdi32 -luser32 && view.exe这将创建文件： view.exe并在终端中运行它。 view.exe...
pytorch，cuda，cudatoolkit，driver版本详解
darknight
07-04 2万+
pytorch，cuda，driver三者关系如下： pytorch与cuda pytorch和cuda并不是一一对应的关系，一个pytorch版本可以有多个cuda版本与之对应。例如1.5.1版本的pytorch，既可以使用9.2版本的cuda，也可以使用10.2版本的cuda。 事实上，你在安装pytorch时无需考虑自己需要安装什么版本的cudatoolkit，例如你想安装1.5.1版本的pytorch，直接conda install pytorch=1.5.1 -c pytorch即可，conda会
nvidia驱动，cuda与cudnn的关系
qq_35941018的博客
07-19 3万+
一关系阐述： （1）NVIDIA的显卡驱动程序和CUDA完全是两个不同的概念哦！CUDA是NVIDIA推出的用于自家GPU的并行计算框架，也就是说CUDA只能在NVIDIA的GPU上运行，而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。 CUDA的本质是一个工具包（ToolKit）；但是二者虽然不一样的。 显卡驱动的安装： 当我们使用一台电脑的时候默认的已经安装了NVID...
一张图了解GPU、CUDA、CUDA toolkit和pytorch的关系
Blackoutdragon的博客
04-24 4671
现在的理解就是我可以装多个版本的cuda toolkit，，然后不同的框架会自动调用。
cuda和cudatoolkit
xiaqi4145
11-28 5万+
Pytorch 使用不同版本的 cuda 　　由于课题的原因，笔者主要通过 Pytorch 框架进行深度学习相关的学习和实验。在运行和学习网络上的 Pytorch 应用代码的过程中，不少项目会标注作者在运行和实验时所使用的 Pytorch 和 cuda 版本信息。由于 Pytorch 和 cuda 版本的更新较快，可能出现程序的编译和运行需要之前版本的 Pytorch 和 cuda 进行运行环境支持的情况。比如笔者遇到的某个项目中编写了 CUDAExtension 拓展，而其中使用的 cuda 接口函数在
解决cuda版本不对应问题
m0_56509231的博客
01-04 5336
cuda版本对应解决方法
python中用“*”运算符复制列表时子列表实际上引用的是同一个列表，列表和嵌套列表的坑
最新发布
ThreeS_tones的博客
05-21 115
当你修改了一个子列表的元素时，所有的子列表都会随之改变。因为他们实际上都是同一个子列表的引用。输出如下，可以看到每个子列表中的第5个元素相同，并没有实现从0.8-1.2分布。先看一个例子，我想改变load的子列表中第五个元素，从0.8-1.2分布。的时候，Python实际上。
虚拟环境cudatoolkit版本和cuda版本
07-28
虚拟环境中的CUDAToolkit版本和CUDA版本可以通过以下命令获取： ```shell nvcc --version ``` 这个命令会显示CUDA版本信息。另外，您还可以使用以下命令获取CUDAToolkit版本信息： ```shell cat /usr/local/cuda/...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值