【参加CUDA线上训练营】——初识CUDA

最新推荐文章于 2024-07-02 10:24:12 发布
最新推荐文章于 2024-07-02 10:24:12 发布
阅读量187 收藏
点赞数
分类专栏： CUDA 文章标签： python windows 开发语言
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_47665864/article/details/128905025
版权

初识CUDA

1.异构计算

1.host CPU和内存
2.Device GPU和显存

2.CUDA的查看

一般显卡，服务器用 nvidia-smi查看相关参数
jetson设备 用jtop查看相关参数

3.程序编写

1.把数据用CPU处理好复制到gpu
2.执行芯片缓存数据，加载gpu程序并执行
3.将计算结果从GPU显存复制到CPU内存中
在这里插入图片描述

关键字：

__global__

将函数声明为内核，在device上执行，device上调用

__device__

执行空间说明符，声明一个函数，在device上执行，host和device上调用

__host__

声明了一个函数，执行和调用都是在host

CUDA编写在这里插入图片描述

int main（）在host执行

__global__

在device上执行

CUDA程序的编译

cuda编译用nvcc
从.cu 编译为.o,再从.o编译为可执行文件

NVPROF

分析工具
分析命令：

nvprof -o out.nvvp a.exe
lvzt
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Linux卸载GPU驱动、CUDA的实战教程
weixin_43178406的博客
07-25 6万+
本文主要介绍了Linux卸载GPU驱动、CUDA的实战教程，希望能对使用NVIDIA显卡的同学们有所帮助。 文章目录 1. 背景描述 2. 卸载GPU驱动 3. 卸载CUDA
【参加CUDA线上训练营】一文认识cuda基本概念
驽马十驾，功在不舍；锲而不舍，金石可镂。
02-09 616
【参加CUDA线上训练营】零基础cuda
CUDA学习（一）——如何查看自己CUDA版本？
热门推荐
bruce_zhao1407的博客
11-10 31万+
最近在装pytorch的时候，看到了一个选择CUDA版本的选项 之前从来没用过CUDA这玩意，当然也不知道CUDA版本啥玩意，于是找了与一下 CUDA（Compute Unified Device Architecture），是显卡厂商NVIDIA推出的运算平台。 CUDA™是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。 百度百科上看的也没看懂，反正能知道自己是什么CUDA版本就完事 如图 在搜索栏搜NVIDIA 在搜索结果中选NVIDIA Control Pan
CUDA安装及环境配置——最新详细版
专注于前沿科技解读与实用技巧分享，致力于将复杂技术简单化
11-17 25万+
在安装之前呢，我们需要确定三件事第一：查看显卡支持的最高CUDA的版本，以便下载对应的CUDA安装包第二：查看对应CUDA对应的VS版本，以便下载并安装对应的VS版本（vs需要先安装）第三：确定CUDA版本对应的cuDNN版本，这个其实不用太关注，因为在cudnn的下载页面会列出每个版本对应的cuda版本，11.x以上对应的范围很宽。
CUDA C++ Programming Guide——简介
肥叔菌的博客
08-27 7578
使用GPU的好处 在类似的价格和功率范围内，图形处理单元（GPU）提供的指令吞吐量和内存带宽比CPU高得多。许多应用程序利用这些更高的功能在GPU上比在CPU上运行得更快（请参阅GPU应用程序）。其他计算设备（如FPGA）也非常节能，但是编程灵活性比GPU小得多。由于GPU和CPU的设计目标不同，因此存在这种能力差异。尽管CPU被设计为擅长以最快的速度执行一系列操作，称为线程，并且可以并行执行数十个这些线程，但GPU被设计为擅长并行执行数千个线程（摊销降低单线程性能以实现更高的吞吐量）。GPU专用于高度并行
【CUDA】cuda安装 （windows版）
haoweixl的博客
05-25 25万+
【CUDA】cuda安装 （windows版）前言官方教程安装工具的准备CUDA toolkit DownloadcuDNN Download2. CUDA 安装与配置过程测试环境是否安装成功2、cuDNN配置运行官方自带的demo 前言 windows10 版本安装 CUDA ，首先需要下载两个安装包 CUDA toolkit（toolkit就是指工具包） cuDNN 官方教程 CUDA：https://docs.nvidia.com/cuda/cuda-installation-guide-mic
CUDA异常处理篇——invalid argument 的解决方法
04-19 2万+
今天在编写cuda程序时，遇到一个很奇怪的问题, 就是在调用核函数时，返回cuda错误信息，报invalid argument 。 cudaError_t error = cudaGetLastError(); printf("CUDA error: %s\n", cudaGetErrorString(error)); 一般的理解是参数异常，有可能是参数过大，一种是非法参数。经过检查，参...
Ubuntu安装和卸载CUDA和CUDNN
夜雨飘零
06-14 19万+
目录 目录 前言 卸载CUDA 安装CUDA 下载和安装CUDA 下载和安装CUDNN 测试安装结果 参考资料 前言 最近在学习PaddlePaddle在各个显卡驱动版本的安装和使用，所以同时也学习如何在Ubuntu安装和卸载CUDA和CUDNN，在学习过程中，顺便记录学习过程。在供大家学习的同时，也在加强自己的记忆。 卸载CUDA 为什么一开始我就要卸载CUDA...
CUDA加速——共享内存介绍及其应用
shandianfengfan的博客
09-25 6415
CUDA存储器的分类与介绍
torch.cuda.is_available()返回false——解决办法
qq_46126258的博客
01-17 22万+
首先问一下你自己是不是在清华镜像加速下载的！ 如果是，你是不是天真的以为把官网的下载链接放在prompt上去掉 -c pytorch去掉就走了捷径，能更快的安装了？ No！无论你是重装多少次，都一样，torch.cuda.is_available()返回false 如果你遇到这个问题，不用担心你的步骤是不是错了，因为你被conda镜像安装给坑了。你以为下载的是GPU版本，其实镜像下载的是cpu版本，你必须手动去镜像网站下载gpu版的包并离线安装 如果不信，可以试试这句 python import torch
cuda立体匹配——中值滤波
06-20
立体匹配是立体视觉从图像生成三维点云的常规手段。立体匹配算法主要是通过建立一个能量代价函数，通过此能量代价函数最小化来估计像素点视差值。立体匹配算法的实质就是一个最优化求解问题，通过建立合理的能量函数...
CUDA——性能优化（一）
01-20
CUDA全局内存的合并访问（个人理解） 每个warp去访问全局内存，会有400-600个时钟周期的内存延迟，这个代价很昂贵，所以为了减少访问全局内存的指令次数，我们将满足字节大小和对齐要求的warp合并起来访问全局内存，...
基于pytorch 的通用训练框架、高质量实现的常见 CUDA
07-01
它提供了众多功能，包括基于 pytorch 的通用训练框架、高质量实现的常见 CUDA 算子、通用的 IO 接口、图像和视频处理、图像和标注结果可视化、多种 CNN 网络结构等功能、常用小工具（进度条，计时器等）。
CUDA并行排序(1)——整数
12-06
// 1. A small-set insertion sort. We do this on any set with // 2. A partitioning kernel, which - given a pivot - separates an input // array into elements , and >pivot....// be launched to resolve each...
应用CUDA加速免疫算法——Jacket与Matlab实现.pdf
07-10
应用CUDA加速免疫算法——Jacket与Matlab实现.pdf
力扣第214题“最短回文串”
10年数据\经营分析经验，现任大厂数据分析负责人
06-28 1090
本文详细解读了力扣第214题“最短回文串”，通过使用 KMP 算法的方法高效地解决了这一问题，并提供了详细的解释和模拟面试问答。希望读者通过本文的学习，能够在力扣刷题的过程中更加得心应手。
Ansys Zemax｜场曲跟畸变图的前世今生
最新发布
ueotek的博客
07-02 177
这里的y和z坐标和方向余弦是（Hx, Hy, Px, Py）=（X, X, 0 ,0）和（Hx, Hy, Px, Py）=（X, X, 0 ,0.001），在光线追迹像面的前一个平面的 z坐标和方向余弦。OpticStudio通过在X和Y方向（弧矢和子午方向）的傍轴光线追踪确定近轴图像平面的Z坐标，并测量该近轴焦平面与系统图像平面的Z坐标之间的距离。使用附件中的样本文件，近轴像面的全局Z坐标与视场0处的像面位置之差与场曲和畸变图中的的Tan Shift相同。近轴像面的定义是以下两个光线交点的全局Z坐标。
使用Python实现深度学习模型：序列建模与生成模型的博客教程
Echo_Wish的博客
07-02 293
本文介绍了使用Python实现深度学习模型的序列建模和生成模型的步骤。我们详细说明了每个步骤，并提供了相应的代码示例。通过学习本文，您将能够使用Python构建和训练序列建模和生成模型，并生成新的序列数据。希望本文对您有所帮助！如果您有任何问题或建议，请随时提出。
llama.cpp
qq_38148600的博客
06-29 439
https://github.com/echonoshy/cgft-llm【大模型量化】- Llama.cpp轻量化模型部署及量化_哔哩哔哩_bilibiligithub.com/ggerganov/llama.cppcd ~/code/llama.cpp/build_cuda/bin ./quantize --allow-requantize /root/autodl-tmp/models/Llama3-8B-Chinese-Chat-GGUF/Llama3-8B-Chinese-Chat-q8_0-v2
CUDA学习笔记（四）——CUDA性能
05-19
CUDA是一个可以大大提高GPU计算性能的编程平台，但是为了实现最高的性能，需要遵循一些最佳实践和优化技巧。以下是一些常用的CUDA性能优化方法： 1. 矢量化：使用SIMD指令和数据结构（如向量和矩阵）来并行计算。 ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值