Cuda笔记1

原创 已于 2024-01-21 15:50:38 修改 · 531 阅读 · 10 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#笔记

于 2024-01-21 13:42:25 首次发布
文章介绍了CUDA编程中的关键概念，包括串行CPU与并行GPU的区别，线程层次结构（SM、block和grid）、线程索引设置、以及如何进行线程分配。还提到了NVPROF工具用于性能分析和CPU-GPU数据传输的cudaMemcpy函数。

1、培训001

在这里插入图片描述
在这里插入图片描述
1在这里插入图片描述
1+…+100，CPU是串行执行，GPU是分成几部分同时计算，如1+2+3,4+5+6…

2、培训002

在这里插入图片描述
一来一回
在这里插入图片描述
每种定义有对应的调用位置，和执行位置，不对会报错。
在这里插入图片描述
下图是用NVPROF时间分析
在这里插入图片描述
下图是资源分析

最低0.47元/天 解锁文章
基于《CUDA 编程-基础与实践》的 CUDA 学习笔记.zip
11-19
基于《CUDA 编程——基础与实践》的 CUDA 学习笔记 这个项目是一个基于《CUDA 编程——基础与实践》（樊哲勇）的 CUDA 学习笔记。它包含了 GPU 硬件与 CUDA 程序开发工具、CUDA 中的线程组织、CUDA 程序的基本框架...
CUDA 学习笔记
the_beard的博客
11-29 2333
cuda学习笔记，第七章第一节。
cuda笔记
weixin_38734472的博客
07-15 418
本文简要介绍了NVIDIA性能基元(NPP)库的常用模块，包括nppc核心功能、nppi图像处理、npps信号处理、nppig几何变换、nppif图像滤波和nppisu图像统计模块。表格形式清晰展示了各模块名称及其主要用途，如nppi模块提供图像格式转换等处理功能。
CUDA笔记1：环境配置
Ai_ViVi的专栏
12-22 828
几年前一直叫嚣着要学习CUDA,却从未开始过，那么就从今天起步。自己对CUDA并行编程的原理似有了解，却从未真正跑过CUDA程序。CUDA编程第一步首先从VS2010+CUDA5.5的配置环境走起。学走路当然少不了前人的搀扶。 1）从NV官网下载、安装CUDA Toolkit 5.5 ： 默认安装路径：C:\Program Files\NVIDIA GPU Co
CUDA学习笔记
goodgood_UP的博客
05-13 1207
一个算子的执行会启动多个线程，这些线程逻辑上并行执行，但是物理层并不一定并行，当一个算子执行时，它的gird中的一个block会被分配到具体的一个SM上（一个block只能分配到一个SM，但一个SM可以执行调度多个block），SM采用SIMT (Single-Instruction, Multiple-Thread，单指令多线程)架构，在 GPU 中，一个算子由多个线程组成，这些线程会被组织成一个网格（grid），网格由多个线程块（block） 组成，而每个线程块又包含多个线程（thread）。
CUDA补充笔记
谢白羽
11-22 371
【代码】CUDA补充笔记。
CUDA 笔记
weixin_43915090的博客
01-30 569
cuda 内存管理。
cudaMemcpy学习笔记
jacke121的专栏
07-31 1888
cudaMemcpy学习笔记
cuda 排序算法笔记
jacke121的专栏
03-30 2914
Thrust是cuda自带的c++库，cuda安装好之后，这个库也默认安装好了。 这个库基本是采用类似STL的接口方式，因此对于开发者非常友好，开发者不再需要关注内存与显存相关的问题了。 排序入门例子 #include <thrust/host_vector.h> #include <thrust/device_vector.h> #include <thrust/generate.h> #include <thrust/sort.h> #incl..
[CUDA 学习笔记] Reduce 算子优化
LostUnravel的博客
02-12 5238
本文同样按照英伟达官方 PPT 文档的优化思路给出一步步优化的 kernel 实现.本文中的 reduce 算子实现, 都采用树形归约的方式, 这种方式更适合 GPU 这种可以大规模并行的情况. 整体 reduce 划分为两个阶段: 首先是对全部数据划分为线程块归分别约成 1 个结果, 然后再对每个线程块归约后的结果地进行同样地归约, 如此递归, 最后可以得到最终的 1 个结果. 如下图所示:因此, 本文的线程块 Reduce 算子的函数可以定义为, 实现对n个数据input按照线程块大小。
CUDA编程笔记（1）
weixin_41311686的博客
01-13 869
CUDA编程的学习，需要熟练的掌握C/C++编程的基础及操作系统方面的知识。CUDA编程是通往高性能计算的道路，学习掌握cuda编程，将其运用在一些计算机视觉的部署任务中是十分常见和高效的。
【CUDA笔记】Tiling的访存优化分析
MagicianJerry的博客
01-02 782
shared memory常用来作为数据缓存存储中间结果等。
cuda学习笔记（3）
weixin_43528481的博客
06-10 946
下面这种写法，对于第一个bin来说，假设输入数据是1：66655，数据1和17都会同时读bin里面的初始计数，然后进行累加，正常来说应该是两个数据同时读了bin1的0，然后同时写一个1进去，最后结果总是1，但是可能机器会出问题，导致最多也就写一个2，先后加了1.前面提到，Block里面的线程运行是同步的，不同kernel各自运行是同步的，kenelA内的东西全部运行结束之后才会运行kernel B，Block的线程同步是需要使用者自己来控制，kernel上的同步运行是GPU自己来实现的。
大模型核心笔记
weixin_63182000的博客
11-24 474
本文系统介绍了大语言模型（LLM）的核心概念与技术要点。首先明确LLM定义（超大规模参数模型）及四大特征：参数规模、数据需求、计算需求和泛化能力。从发展历程看，LLM经历了从统计模型到神经网络、预训练模型直至当前大规模生成式模型的演进。重点解析了LLM三大架构（Encoder/Decoder-Only及混合型）及其适用场景。在训练环节，详细说明了数据准备、预训练、微调的全流程及关键数据集。评估体系涵盖人工/自动方法及PPL、BLEU等核心指标。部署部分以VLLM为例，提供从环境配置到性能测试的完整指南。最后
内网渗透笔记-Day5
m0_66921984的博客
11-24 753
内网渗透笔记、组、全局组、域本地组、A-G-DL-P策略
隐语——数据要素流通技术MOOC三期 课程笔记——数据组件安全可行流通新模式课堂笔记
明月朗，潇水寒
11-23 854
本文介绍了数据组件作为标准化数据初级产品的核心概念与应用。主讲人胡承盛阐述了数据组件的三种形态（主态、模态、组合态）及其在金融、医疗等领域的应用案例。课程重点解析了数据组件的四大特性（安全、价值、品质、政策定位）、双层封装体系以及其在解决数据确权难题中的突破性作用。详细展示了数据组件从设计生产到流通使用的全流程，包括5阶段15步骤40工序的生产工艺。目前已在德阳、郑州等多个城市试点落地，实现交易额破亿。展望未来，数据组件将与隐私计算等技术深度融合，成为促进数据要素流通和数字经济发展的关键基础设施。
2025最新 SpringCloud 教程，Nacos-总结，笔记19
最新发布
Rockandrollman的博客
11-25 134
2025最新 SpringCloud 教程，Nacos-总结，笔记19
学习笔记——基础hash思想及其简单C++实现
2502_91790308的博客
11-23 864
哈希表是一种查找时间复杂度为O(1)的高效数据结构，通过哈希函数将数据映射到固定位置实现快速查询。本文介绍了哈希表的核心概念，包括哈希函数（重点讲解除留余数法）、负载因子和哈希冲突。针对冲突问题，详细阐述了开放定址法（含线性探测、二次探测）和链地址法两种解决方案。文章还通过计数排序示例说明哈希思想，并探讨了实现中的关键问题，如扩容策略、处理非整数类型键值的方法等。哈希表性能优异但需合理设计，否则可能退化为O(n)复杂度。
2025最新 SpringCloud 教程，Nacos 注册中心-服务注册，笔记06
Rockandrollman的博客
11-24 347
2025最新 SpringCloud 教程，Nacos 注册中心-服务注册，笔记06
索尼VAIO笔记本电脑安装CUDA全流程指南
#### 1. CUDA概述 CUDA（Compute Unified Device Architecture）是NVIDIA推出的一种通用并行计算架构，能够让使用NVIDIA GPU的开发者能够使用C、C++等语言编写程序，以实现GPU加速计算。CUDA提供了丰富的API，使得...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值